Home  >  Plataformas

O assistente virtual do Facebook pode ser confiável?

Uma olhada nas notícias recentes tem muito a nos dizer sobre a confiabilidade do Facebook

Mike Elgan, da Computerworld (EUA)

26/04/2019 às 10h35

Foto: Shutterstock

O fato de o Facebook buscar uma interface artificialmente inteligente e baseada em voz não surpreende. Uma lista das oito maiores empresas do mundo por valor de mercado contém a lista completa de sete grandes players do mercado de assistentes virtuais: Microsoft, Apple, Amazon, Alphabet (Google), Facebook, Alibaba e Tencent. A isolada na lista é a Berkshire Hathaway.

Evidentemente, ser uma das maiores empresas de tecnologia é ter uma interface de assistente de inteligência artificial (AI). É fácil prever que os seres humanos baseados em voz se tornarão a interface de usuário preferida e popular para quase toda a computação.

E o Facebook também possui um dos laboratórios de pesquisa de AI mais formidáveis do mundo. A empresa agora gasta quase US$ 8 bilhões por ano em pesquisa e desenvolvimento. Logo, o Facebook vai ter um poderoso assistente virtual de AI. E vem trabalhando nisso há muito tempo. E, inevitavelmente, o assistente do Facebook entrará na sua empresa, atrás do seu firewall e nas residências dos funcionários. Mas deveria?

O experimento M

Há pouco mais de um ano, o Facebook anunciou o fechamento de um produto experimental chamado Facebook M, que foi aberto para cerca de 2 mil californianos por dois anos e meio na plataforma Messenger do Facebook.

O Facebook M era um assistente virtual baseado em AI, o qual era apoiado por uma equipe de humanos respondendo às perguntas e realizando as ações que a inteligência artificial ainda não conseguia lidar. Um dos recursos do M era bisbilhotar conversas de bate-papo e intervir com sugestões, como filmes para assistir ou pessoas para vídeo-chat ou chamadas.

O M foi projetado para lembrá-lo sobre reuniões – lembretes que você poderia solicitar. Também, poderia criar reuniões com tempo e lugar, e até mesmo sugerir a contratação de um Uber ou Lyft para chegar lá.

Se alguém no chat perguntasse: “Onde você está?”, o M apresentaria um botão de “enviar local” com um toque.
A ideia de M foi baseada na constante vigilância de cada palavra trocada no Messenger. Depois de fechar o M, os esforços do assistente de AI do Facebook passaram, da observação de cada palavra digitada, para ouvir cada palavra falada.

Atualmente, o Facebook vende um display inteligente, chamado Facebook Portal, que usa dois assistentes virtuais. Um deles é o assistente Alexa da Amazon. O outro é o segundo produto de assistente virtual do Facebook, também chamado de Portal, que pode ser usado no hardware do Portal para fazer chamadas e outras pequenas tarefas.
Esta semana, a CNBC deu a notícia de que o Facebook está trabalhando em um terceiro assistente.

Em vez de criar um agente multiplataforma onipresente, multifuncional, como o Alexa da Amazon ou o Assistente do Google, o Facebook pode criar um assistente que funciona no próprio hardware do Facebook, incluindo o Portal e sua plataforma Oculus VR, além de hardware futuro não especificado. plataformas, provavelmente incluindo alto-falantes inteligentes e monitores inteligentes voltados para negócios e empresas.

Comentaristas estão tomando consolo equivocado nas ambições limitadas do Facebook. O risco não é que o Facebook possa ser amplamente útil. O risco consiste na presença de um microfone na sala controlado pelo Facebook.

O Facebook pode ser confiável?

Parece que há um grande escândalo do Facebook todos os meses, o que corrói a confiança do público na empresa. E o escândalo deste mês foi um grande problema: o Facebook foi pego solicitando senhas de e-mail de novos usuários inscritos no Facebook, usando essas senhas para copiar e transferir os contatos de e-mail associados a essas contas [de e-mail] sem permissão do usuário.

O Facebook alega ter “enviado de forma não intencional” as listas de endereços das pessoas. Diz que não reteve as senhas e apagou os dados. Ele não disse se reteve as informações sobre as conexões sociais desses usuários, que era o aparente propósito de roubar as informações de contato.

O Facebook ainda tentou minimizar o impacto, implicando que o número de vítimas foi pequeno – 1,5 milhões ou mais. Mas a informação roubada não foi a dos 1,5 milhão de usuários; eram informações pertencentes a muito mais pessoas, os contatos dos usuários. Se o usuário médio tiver 100 contatos (e esses 1,5 milhões de usuários não tiverem contatos que se coincidem), o número de vítimas reais ficará mais próximo de 150 milhões.

O Facebook não revelou quantas pessoas foram realmente afetadas.

A intenção do Facebook é desconhecida. Mas, independentemente de as ações do Facebook serem maliciosas ou incompetentes, ainda nos resta a conclusão de que o Facebook não é digno de confiança.

A Electronic Frontier Foundation (EFF) escolheu a interpretação mais obscura, que é o fato de o Facebook estar se comportando como uma organização criminosa de hackers. “Para todos os efeitos, este é um ataque de phishing”, disse a EFF em sua resposta oficial ao evento.

Mas mesmo a interpretação mais generosa consiste no fato de que o Facebook ignorou imprudentemente as práticas padrão mínimas para proteger os dados, solicitando senhas de e-mail.

Como a EFF disse em sua declaração sobre o assunto, as senhas de e-mail costumam ser alvo de ataques de phishing, porque o e-mail contém as chaves de tudo que uma pessoa faz on-line e todos que uma pessoa conhece. É por isso que mesmo as empresas mais minimamente responsáveis nunca pedem aos usuários senhas de e-mail.
Fica pior.

Parte da defesa do Facebook alega que os usuários poderiam optar por não compartilhar sua senha de e-mail e, em vez disso, usar e-mails ou números de telefone para verificação. Mas eles só poderiam acessar essas opções escolhendo o botão “Precisa de ajuda?”, um exemplo claro de concepção de padrão sombrio.

E a opção de telefone também está comprometida. O Facebook foi flagrado no ano passado usando números de telefone coletados ostensivamente para fins de verificação de publicidade sem a permissão do usuário.
Um tema comum nos escândalos do Facebook é o tratamento imprudente de dados pessoais.

No mês passado, o Facebook revelou que estava armazenando senhas de centenas de milhões de usuários do Facebook e dezenas de milhares de usuários do Instagram em formato facilmente legível em servidores do Facebook, acessíveis a milhares de funcionários do Facebook por muitos anos. Esta semana, o Facebook emendou discretamente seu post sobre a revelação para dizer que, na verdade, o número de usuários do Instagram afetados chega a milhões, não a milhares. Facebook não disse quantos milhões.

Outro relatório mostrou que dois desenvolvedores de aplicativos de terceiros do Facebook armazenaram uma “vasta” coleção de dados de usuários do Facebook em servidores de nuvem da Amazon em formato publicável para download. Esses dados incluíam senhas e atividades do usuário do Facebook.

O Facebook é desonesto?

Um relatório recente revelou que o CEO do Facebook, Mark Zuckerberg, usou os dados dos usuários do Facebook para recompensar os amigos e punir os inimigos, e que Zuckerberg e outros altos executivos discutiram planos durante anos para vender dados de usuários. Esse mesmo relatório mostra que as declarações públicas do Facebook sobre a privacidade do usuário são diferentes das ações realizadas a portas fechadas.

Também aprendemos este mês que, mesmo depois de desativar sua conta do Facebook, o Facebook continua rastreando você. Esta prática não é mencionada nas políticas de dados.

Sabemos de relatórios anteriores que o Facebook mantém usuários de informações nunca fornecidos (perfis de sombra) e rastreia pessoas que se desconectaram do Facebook. Ele também rastreia pessoas que nunca se inscreveram para uma conta.

As transgressões do Facebook só do ano passado, que sugerem uma cultura de desonestidade no Facebook, são numerosas demais para serem mencionadas nesta coluna.

Por que assistentes virtuais precisam de confiança?

É importante ter clareza sobre o papel que a confiança desempenha no mundo dos assistentes virtuais alojados em caixas de som inteligentes e telas inteligentes.

Embora seja verdade que os smartphones também tenham microfones, o uso desses microfones é fortemente restrito pelos fornecedores de sistemas operacionais móveis, e qualquer uso não autorizado provavelmente será descoberto e interrompido – seja pelas próprias equipes internas da empresa ou por pesquisadores de segurança que dedicam suas vidas à captura de tais abusos.

Dispositivos inteligentes vendidos diretamente pela Amazon, Google e Facebook são “caixas pretas” e não têm uma organização intermediária preocupada em impedir o uso abusivo do sensor.

É quase impossível saber se e quando ou sob quais circunstâncias o microfone instalado em tal dispositivo é ativado, o que acontece com as gravações e como esses dados são processados ou utilizados.

E não estamos falando sobre a tecnologia de hoje, mas a de amanhã. Nos próximos 10 anos, será possível para empresas como o Facebook gravar áudio de milhões de microfones todos os dias, durante todo o dia, e processar esses dados em mega-bancos de dados significativos e violadores de privacidade. A revolução da interface de usuário do assistente pessoal de AI está chegando. E vai colocar microfones em todos os lugares.

E é por isso que todos nós devemos rejeitar a participação do Facebook nessa revolução – especialmente depois dos repetidos abusos contra a privacidade do usuário, que são pelo menos incompetentes, e na pior das hipóteses, maliciosas ou mesmo criminosas. O Facebook simplesmente não é confiável.

Tags