Home  >  Inovação

IBM propõe regulamentação para eliminar viés da IA

Na visão da gigante, empresas devem trabalhar com governos, assim como nomear oficiais de ética em IA

Da Redação

22/01/2020 às 15h00

Foto: Shutterstock

A IBM está solicitando regras para eliminar os vieses da inteligência artificial. O objetivo da companhia é amenizar as preocupações de que a tecnologia tenha como base práticas discriminatórias que prejudiquem mulheres, pessoas com deficiência, idosos e outras minorias. As informações são da Bloomberg.

Como parte dos debates que vêm acontecendo nos EUA e na Europa sobre como regulamentar o setor, a IBM instou a indústria e os governos a desenvolverem conjuntamente padrões para medir e combater as possíveis discriminações.

Leia na IT Trends

A gigante da tecnologia divulgou propostas políticas nesta terça-feira (21). A iniciativa foi criada para encontrar um consenso sobre regras que podem ser mais rigorosas do que as desejadas pela indústria, mas que sejam menos rígidas do que as imposições que os governos podem determinar.

"Parece-nos bastante claro que a regulamentação governamental de inteligência artificial é a próxima fronteira na regulamentação de políticas tecnológicas", disse Chris Padilla, vice-presidente de assuntos regulatórios e governamentais da International Business Machines Corp.

As recomendações da IBM pedem que as empresas trabalhem com os governos para desenvolver padrões sobre como garantir, por exemplo, que os negros tenham acesso justo à habitação. Segundo a companhia, os algoritmos que se baseiam em dados históricos podem ter sido distorcidos por fatores discriminatórios, o que deve ser avaliado.

A IBM também sugere que as empresas nomeiem oficiais de ética em IA, realizem avaliações para determinar quanto dano um sistema de inteligência artificial poderia causar e mantenham a documentação sobre os dados para que as decisões possam ser explicadas.

As preocupações com a IA e o machine learning envolvem desde a identificação de pessoas em filmagens de câmeras de segurança até a determinação de taxas de hipoteca. Para os especialistas, a IA é fundamental para o futuro de muitas empresas de tecnologia, incluindo a IBM, mas suscita questões polêmicas, como substituição de empregos e ampliar as disparidades existentes em áreas como aplicação da lei, acesso a crédito e contratação.

A IBM vem trabalhando com o governo Trump na sua abordagem de regulamentação da IA. No início deste mês, a Casa Branca emitiu diretrizes para o uso da tecnologia por agências federais. Na semana passada, um grupo bipartidário de senadores dos EUA divulgou um projeto de lei destinado a aumentar o financiamento público e privado para a IA e outras indústrias do futuro.