Home  >  Inovação

Por que mais mulheres precisam trabalhar com inteligência artificial?

Para que inteligência artificial funcione para todos, precisamos de todos para ajudar a criá-la

Por Ana Appel*

24/12/2019 às 9h18

Foto: Shutterstock

Os vieses podem ser introduzidos em um sistema de inteligência artificial (IA) de várias maneiras, seja através do uso de dados limitados ou incorretos nos algoritmos de aprendizado de máquina que treinam o sistema ou nos parâmetros algorítmicos que decidem quais dados são mais importantes.

O maior problema, no entanto, não são os dados ou os algoritmos: são os pontos cegos criados pela falta de diversidade - de experiência, educação e pensamento - nas equipes que desenvolvem IA, o que dificulta a antecipação de vieses e seu potencial impacto.

Leia mais na IT Trends

Casos reais de IA enviesados em relação a mulheres e outros grupos com baixa representação em funções relacionadas à ciência da computação – que são onde estão os profissionais que criam os modelos de IA - já começaram a surgir. Como algoritmos bancários que concedem aos homens limites de crédito muito mais altos e sistemas de recrutamento de empregos que ignoram candidatas femininos e minoritários.

O aprendizado de máquina desempenha um papel fundamental na maioria das inteligências artificiais usadas atualmente. É o processo pelo qual grandes quantidades de dados são usados para treinar os sistemas de IA para, por exemplo, extrair significado de arquivos de texto ou áudio, a fim de responder a perguntas ou fazer recomendações.

A precisão da IA resultante depende em grande parte da qualidade dos dados e dos parâmetros codificados nos algoritmos de treinamento. Embora o processo seja altamente automatizado, o viés penetra - intencionalmente ou não - através da escolha de conjuntos de dados de treinamento e regras algorítmicas que determinam como a IA é treinada.

Dados falhos e modelos tendenciosos podem facilmente levar a IA a conclusões errôneas que afetam as pontuações de crédito das pessoas, as opções de emprego, as admissões nas escolas e seu nível de risco em casos de tribunais criminais.

Apesar das mulheres representarem cerca de metade da população mundial e quase 47% da força de trabalho dos EUA, essa quase paridade termina quando se trata de inteligência artificial, onde as mulheres representam apenas 12% dos pesquisadores que criaram a tecnologia. É uma estatística surpreendente, considerando o grande papel que a IA está começando a desempenhar na vida pessoal e profissional das pessoas. É por isso que muitos líderes alertam que o viés de gênero pode se infiltrar nos algoritmos de IA. Para mudar essa dinâmica, eles estão envolvidos em uma variedade de esforços para aumentar a conscientização e incentivar mais mulheres - e membros de outros grupos sub-representados - a ingressar na profissão.

A ética em IA é um tema que preocupa todas as empresas. O essencial para isso é criar sistemas de IA justos e garantir que os sistemas de IA estejam alinhados com os valores dos humanos. E a diversidade e inclusão são peças-chave nesse contexto. É imperativo que a IA de hoje reflita os valores das populações para as quais foi criada para servir. Devemos continuar saindo de nossos silos, melhorando o desequilíbrio de gênero na ciência da computação e na IA, e injetando um espírito de diversidade e inclusão na IA que a deixe mais justa, precisa e transparente para todas as pessoas.

*Ana Appel é researcher, Master Data Scientist da IBM Brasil

Tags