Fazer login no IT Mídia Redefinir senha
Bem-vindo de volta,
Digite seu e-mail e clique em enviar
Ainda não tem uma conta? Cadastre-se
Salvar em Nova pasta de favoritos

+

Criar pasta
Últimos favoritos Ver todos
Home  >  Inovação

Comissária da ONU exige maior rigor contra algoritmos que ameaçam os Direitos Humanos

Michelle Bachelet também pediu que apps de IA que não estejam em conformidade com as leis internacionais de Direitos Humanos sejam banidos

Redação

18/09/2021 às 10h00

inteligência artificial ai
Foto: Shutter Stock

Comissária da Organização das Nações Unidas (ONU) se juntou a especialistas para pressionar governos a proibir o uso de Inteligência Artificial que coloca em risco os Direitos Humanos. Na terça-feira (15), Michelle Bachelet, Chefe dos Direitos Humanos da ONU, expressou preocupação com o "nível sem precedentes de vigilância em todo o mundo por atores estatais e privados", que ela insistiu ser "incompatível" com os direitos humanos.

"Quanto maior o risco para os direitos humanos, mais rígidos os requisitos legais para o uso de tecnologia de IA devem ser”, disse Bachelet, em uma audiência do Conselho da Europa sobre as implicações decorrentes da controvérsia sobre o spyware Pegasus.

As revelações do Pegasus não foram nenhuma surpresa para muitas pessoas, disse Bachelet ao Comitê de Assuntos Jurídicos e Direitos Humanos do Conselho da Europa, em referência ao uso generalizado de spyware comercializado pelo Grupo NSO, que afetou milhares de pessoas em 45 países em quatro continentes.

Para Bachelet, os governos precisam ser mais rigorosos sobre o uso de IA, controlando a tecnologia com “urgência”, uma vez que medidas de seguranças ainda não foram implementadas para garantir que a tecnologia seja usada com responsabilidade.

Bachelet também pediu que os aplicativos de IA que não podem ser usados ​​em conformidade com as leis internacionais de direitos humanos sejam banidos.

“A inteligência artificial pode ser uma força para o bem, ajudando as sociedades a superar alguns dos grandes desafios de nossos tempos. Mas as tecnologias de IA podem ter efeitos negativos, até mesmo catastróficos, se forem usadas sem consideração suficiente sobre como afetam os direitos humanos das pessoas”, disse.

O pronunciamento da Alta Comissária veio quando seu escritório publicou um relatório que analisa como a IA afeta o direito das pessoas à privacidade e outros direitos, incluindo os direitos à saúde, educação, liberdade de movimento, liberdade de reunião e associação pacíficas e liberdade de expressão.

Para Tim Engelhardt, oficial de Direitos Humanos da Seção de Estado de Direito e Democracia, que falava no lançamento do relatório em Genebra, na quarta-feira, a situação “é terrível” e “não melhorou ao longo dos anos, mas piorou”.

Segundo as autoridades da ONU, a situação já é uma realidade. Providências precisam ser tomadas agora para que os danos não se multipliquem ao longo dos próximos anos, destacou Peggy Hicks, Diretora de Engajamento Temático do Conselho de Direitos Humanos da ONU.

Nesse sentido, Bachelet diz que os algoritmos já estão presentes em todos os aspectos da nossa vida e “não podemos nos dar ao luxo” de permitir seu uso “com limites ou supervisão limitada ou sem supervisão”.

O documento divulgado pelo escritório inclui uma avaliação de criação de perfil, tomada de decisão automatizada e outras tecnologias de machine learning. “Dado o rápido e contínuo crescimento da IA, preencher a imensa lacuna de responsabilidade em como os dados são coletados, armazenados, compartilhados e usados ​​é uma das questões de direitos humanos mais urgentes que enfrentamos”, disse Bachelet.

Tecnologias como a biometria e o reconhecimento facial já causam polêmicas na comunidade de privacidade e direitos humanos. Segundo o relatório, tecnologias biométricas pertencem a uma área “em que mais orientações sobre direitos humanos são urgentemente necessárias”.

Já tecnologias de reconhecimento facial são, cada vez mais, utilizadas para identificar pessoas em tempo real e à distância, permitindo potencialmente o rastreamento ilimitado de indivíduos. O relatório reitera os apelos por uma moratória sobre seu uso em espaços públicos, pelo menos até que as autoridades possam demonstrar que não há problemas significativos com precisão ou impactos discriminatórios e que esses sistemas de IA cumprem com padrões de privacidade e proteção de dados robustos.

O escritório de da ONU também destaca a necessidade de uma transparência muito maior por parte das empresas e dos Estados, em como estão desenvolvendo e usando IA. A complexidade das tecnologias e a falta de transparência desses agentes dificulta significativamente para o público compreender os efeitos dos sistemas de IA nos direitos humanos e na sociedade, diz o relatório.

O documento também apontou para o risco da vigilância do trabalhador por parte das empresas; de aplicativos que permitem que governos autoritários vigiem civis e defensores dos DH; e o uso de sistemas de IA que podem ser usados para apoiar as decisões de gerenciamento de conteúdo, o que é fundamental para decidir o tipo de conteúdo a que cada usuário é exposto.

Risco duplo para pessoas historicamente marginalizadas, das quais sofrem diretamente com algoritmos discriminatórios.

"O risco de discriminação associado às decisões baseadas em IA - decisões que podem mudar, definir ou prejudicar vidas humanas - é muito real. É por isso que é necessário haver avaliação sistemática e monitoramento dos efeitos dos sistemas de IA para identificar e mitigar riscos de direitos humanos", disse Bachelet.

Com informações de ZDNet

Este anúncio desaparecerá em:

Fechar anúncio

15