Home  >  Inovação

6 pontos para se preocupar antes de adotar inteligência artificial

Guilherme Borini

09/04/2018 às 17h43

robo_teclado.jpg
Foto:

O hype sobre inteligência artificial (AI, na sigla em inglês) atingiu seu auge em 2017, com CIOs, consultores e acadêmicos divulgando a tecnologia como potencialmente automatizando qualquer coisa, desde operações de negócios e de TI até conexões com clientes. No entanto, durante o primeiro trimestre de 2018, várias organizações de mídia relataram os perigos da AI, que envolve o treinamento de computadores para executar tarefas que normalmente exigem inteligência humana.

"Tem havido muito hype na mídia sobre isso e isso é apenas jornalistas tentando estender o hype falando sobre o lado negativo", diz Thomas Davenport, professor de destaque da Babson College.

Talvez as preocupações não sejam novas e muito persistentes, variando de medos sobre preconceitos raciais, de gênero e outros a drones automatizados que se descontrolam com consequências potencialmente letais.

Uma semana após o MIT Technology Review publicar uma reportagem intitulada "Quando AI finalmente matar alguém, quem será o responsável?" levantando a questão de quais leis se aplicam caso um carro autônomo mate alguém, um carro autônomo Uber atingiu e matou uma mulher no Arizona. O tempo, como dizem, é tudo.

Aqui, detalhamos algumas das preocupações relacionadas à adoção da AI, seguidas de recomendações para executivos que desejam começar a testar a tecnologia.

1. Rude

Conforme aprendemos com o desastre com o Chatbot Tay, da Microsoft, os sistemas de mensagens de conversação podem ser sem sentido, indelicados e até ofensivos. Executivos devem ter cuidado com o que eles usam e como eles o usam. Só é preciso uma explosão ofensiva de um chatbot para destruir a imagem amigável de uma marca.

2. Má percepção

Embora desenvolvida por humanos, a inteligência artificial, ironicamente, não é muito parecida com humanos, segundo o cientista do Google e professor da Universidade de Stanford, Fei-Fei Li, em uma coluna para o The New York Times. Li observou que, embora a percepção visual humana seja profundamente contextual, a capacidade da AI ​​de perceber imagens é bastante estreita.

Li diz que os programadores de AI provavelmente terão que colaborar com especialistas de domínio - um retorno às raízes acadêmicas do campo - para fechar a lacuna entre a percepção humana e a máquina.

3. O enigma da caixa preta

Muitas empresas querem usar AI, inclusive para algumas atividades que podem fornecer uma vantagem estratégica, mas empresas em setores como os serviços financeiros devem ter cuidado para explicar como a AI chega às suas conclusões. Pode ser lógico inferir que um proprietário que administra suas contas de energia elétrica usando produtos como o termostato Nest pode ter mais fluxo de caixa livre para pagar suas hipotecas. Mas permitir que uma AI incorpore tal qualificação é problemático aos olhos dos reguladores, diz Bruce Lee, chefe de operações e tecnologia da Fannie Mae.

Sem uma compreensão clara de como o software de inteligência artificial detecta padrões e observa os resultados, as empresas com riscos e regulamentações na linha ficam imaginando a força com que podem confiar nas máquinas. “Contexto, ética e qualidade dos dados são questões que afetam o valor e a confiabilidade da IA, particularmente em indústrias altamente reguladas”, diz Dan Farris, co-presidente da área de tecnologia do escritório de advocacia Fox Rothschild. "A implantação da inteligência artificial em qualquer setor altamente regulamentado pode criar problemas de conformidade regulamentar".

4. Viés etnográfico e socioeconômico

Durante a execução de um projeto que usava imagens de carros do Google Street View para determinar a composição demográfica de vilas e cidades nos EUA, a Ph.D. da Universidade de Stanford, Timnit Gebru, ficou preocupada com preconceitos raciais, de gênero e socioeconômicos em sua pesquisa. A revelação levou Gebru a se unir à Microsoft, onde ela está trabalhando para descobrir preconceitos de inteligência artificial, de acordo com a Bloomberg.

Até mesmo os assistentes virtuais de AI são sobrecarregados por preconceitos. Você já se perguntou por que tecnologias de assistente virtual como Alexa, Siri e Cortana são femininas? "Por que estamos generalizando essas tecnologias" auxiliares "como mulheres?" Rob LoCascio, CEO da LivePerson, software de atendimento ao cliente, conta à CIO.com. "E o que isso diz sobre as nossas expectativas em relação às mulheres no mundo e no local de trabalho? Que as mulheres são inerentemente 'ajudantes', que desempenham funções administrativas; que são boas em receber ordens?"

nvidia_dgx_saturnv.jpg

5. AI alavancado em hacks e ataques mortais

Os rápidos avanços da AI ​​significam riscos de que usuários mal-intencionados explorem a tecnologia para montar ataques automatizados de hackers, imitar seres humanos para espalhar desinformação ou transformar drones comerciais em armas direcionadas, segundo um relatório de 98 páginas elaborado por 25 pesquisadores técnicos e de políticas públicas de Cambridge. Universidades de Oxford e Yale.

"Todos concordamos que há muitas aplicações positivas da inteligência artificial", disse à Reuters Miles Brundage, pesquisador do Instituto de Futuro da Humanidade de Oxford. “Havia uma lacuna na literatura em torno da questão do uso malicioso.” O New York Times e o Gizmodo também cobriram este relatório, intitulado “O uso mal-intencionado da inteligência artificial: previsão, prevenção e mitigação”.

6. AI nos transformará em gatos domésticos

Depois, há a teoria da escravidão. O empresário Elon Musk, criador da Tesla e SpaceX, advertiu que os humanos correm o risco de se tornarem "gatos domésticos" dependentes da inteligência e das capacidades superiores da inteligência artificial. Mais recentemente, o historiador israelense Yuval Noah Harari postulou que o surgimento da AI ​​que automatiza tudo poderia criar uma "classe global inútil". Em tal mundo, a democracia estará ameaçada porque os humanos não se compreendem tão bem quanto as máquinas.

Tags

Tags:

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *