Home  >  Plataformas

IBM abrirá “caixa-preta” para aumentar confiança da inteligência artificial

Empresa anuncia novo serviço de software com recursos para melhorar níveis transparência sobre parâmetros usados pela AI

Da Redação

20/09/2018 às 16h01

Foto: Shutterstock

A IBM lançou nesta quinta-feira (20/9) um novo serviço de software, disponível na nuvem, com recursos que prometem aumentar os níveis de confiança e transparência, além de dar visibilidade sobre os parâmetros usados pela inteligência artificial (AI).

A empresa promete abrir a "caixa-preta" da AI e mostrar como a plataforma chega às recomendações e detecta automaticamente vieses no momento em que os sistemas estão em execução. Para apoiar a adoção de projetos em AI, a companhia irá disponibilizar para a comunidade open source ferramentas e materiais de educação para incentivar a colaboração global em torno do gerenciamento do viés na AI.

Resultados de uma nova pesquisa do Institute for Business Value da IBM revelam que, enquanto 82% das empresas estão considerando implementações de AI, 60% ainda temem problemas de responsabilidade e compliance e 63% não possuem habilidades internamente para gerenciar com confiança a tecnologia.

Beth Smith, General Manager para Watson AI na IBM, comenta que a empresa liderou o setor ao estabelecer princípios de transparência para o desenvolvimento de novas tecnologias de AI. "É hora de traduzir princípios em prática. Estamos dando nova transparência e controle às empresas que usam inteligência artificial e enfrentam o maior risco potencial de qualquer tomada de decisão incorreta", destacou.

Como funciona

Os novos recursos de Confiança e Transparência, executadas na IBM Cloud, trabalham com modelos construídos a partir de uma grande variedade de estruturas de machine learning e ambientes construídos com inteligência artificial, como Watson, Tensorflow, SparkML, AWS SageMaker e AzureML. Isso significa que as organizações podem aproveitar esses novos controles para a maioria dos códigos de AI e demais plataformas utilizadas por outras empresas que atuam neste mercado.

O serviço de software pode ser programado para monitorar os fatores de decisão de qualquer workflow de negócio, podendo ser personalizado para o uso específico das organizações. Além disso, ele é totalmente automatizado e explica a tomada de decisões ao longo da execução. É importante ressaltar que também recomenda automaticamente que dados sejam adicionados ao modelo para ajudar a atenuar qualquer tendência de viés detectada.

Comunidade open source

Além disso, IBM Research está disponibilizando para a comunidade de open source (código abert) o toolkit de ferramentas AI Fairness 360, que consiste em uma biblioteca de novos algoritmos, códigos e tutoriais que fornecerá aos acadêmicos, pesquisadores e cientistas de dados ferramentas e conhecimento para integrar detecção de preconceito, enquanto constroem e implementam modelos de machine learning.

Deixe uma resposta