Reconhecimento facial deve ser regulamentado? Gigantes de tec discordam

Erros grotescos

Mas nem toda empresa parece dividir a mesma preocupação da Microsoft.

Calhou de, em menos de duas semanas, a ACLU (União Americana pelas Liberdades Civis) mostrar que os questionamentos da Microsoft eram mais do que válidos. A entidade americana de defesa dos direitos e liberdades individuais contratou o software Rekognition, da Amazon, para um teste de precisão. Ela usou o programa de reconhecimento facial para cruzar fotos dos membros do congresso americano com um banco de dados de 25 mil fotos de criminosos.

Para surpresa da ACLU, 28 congressistas foram identificados como presas por crimes. Os erros atingiram homens e mulheres, membros dos partidos Republicano e Democrata, mas foram proporcionalmente maiores com legisladores negros, que são 20% do congresso e corresponderam a 39% dos congressistas identificados erroneamente pelo Rekognition.

A Amazon relevou as imprecisões e usos abusivos de seu programa. Em comunicado após ser informada do teste da ACLU, a empresa questionou como a organização utilizou a ferramenta e apontou seus méritos.

“Vimos clientes usarem as funções de análise de imagem de vídeo do Rekognition de forma que beneficiam materialmente tanto a sociedade quanto organizações. Continuamos empolgados sobre como a análise de imagem e vídeo pode ser um motor para o bem no mundo, inclusive no setor público e na aplicação da lei”, escreveu a Amazon em um comunicado.

A demonstração em congressistas foi o suficiente para alguns políticos americanos darem os primeiros passos na direção da regulamentação. Por meio de uma carta endereçada ao executivo-chefe Jeff Bezos, o senador Edward J. Markey e os congressistas Luis Gutiérrez e Mark DeSaulinier cobraram a Amazon pela venda irrestrita do Rekognition, levantando questionamentos sobre a eficácia atual e as ameaças às liberdades individuais trazidas por programas como esse.

Em junho, funcionários da própria Amazon endereçaram uma carta ao chefe, o homem mais rico do mundo, reclamando do uso do Rekognition pela imigração dos Estados Unidos, que vinha separando filhos de imigrantes nas fronteiras do país. "Nos recusamos a contribuir a ferramentas que violam direitos humanos. Como funcionários com preocupações éticas, demandamos uma palavra no que construímos e como isso é usado", diz o texto.

E as outras empresas?

Criticado por seus próprios funcionários pela relação estabelecida com militares a partir do Projeto Maven, com direito a pedidos de demissão na época, o Google optou por não comentar ao UOL Tecnologia a questão específica da regulamentação pública das tecnologias de reconhecimento facial, mas a pressão interna no início do ano fez com que a gigante das buscas criasse suas próprias restrições quanto à venda dessas ferramentas.

Em junho, a empresa publicou uma cartilha na qual se compromete a não permitir que suas ferramentas de inteligência artificial que usam o reconhecimento facial sejam aproveitadas para fins militares ou esforços de vigilância não justificáveis. O Google vende a Cloud Vision API, ferramenta usada para "extrair insights a partir de imagens" que até detecta rostos e emoções, mas não atribui identidade a eles - nada de reconhecimento facial, só detecção.

Facebook não curte

O Facebook também não tem posicionamento específico sobre a regulamentação na atualidade, mas, só em 2017, a empresa lutou contra a criação de leis estaduais em cinco Estados dos EUA. A informação é do Center for Public Integrity, que apurou que a rede social faz lobby para dificultar a aprovação de regras sobre proteção do consumidor contra o reconhecimento facial. Dos cinco Estados, só o de Washington aprovou uma lei.

A companhia de Mark Zuckerberg restringe suas tecnologias de reconhecimento facial à própria rede social. Por conta do GDPR, a nova lei de dados europeia, ela agora permite que eles habilitem, ou não, que os algoritmos identifiquem nossos rostos.

Isso não eximiu a empresa de polêmicas, já que no último dia 9 o "New York Times" publicou uma matéria sobre os riscos de privacidade relativos a essas ferramentas, citando argumentações de grupos de defesa do consumidor que contestam a falta de consentimento dos usuários a respeito do uso do reconhecimento facial.

O Facebook não cede a tecnologia a terceiros e diz não aproveitá-la para fins publicitários dentro da própria plataforma. Segundo a empresa, a base de dados de mais de um bilhão de rostos é aproveitada para dar mais segurança e melhorar a experiência do usuário, seja para alertá-lo de um desconhecido que postou uma foto dele ou facilitar uma marcação na foto publicada pelo melhor amigo.

Restou a Apple, que não respondeu ao questionamento do UOL Tecnologia sobre o debate. Apesar disso, a empresa responsável pelo iPhone X e seu Face ID já pediu mais regulamentação com relação à privacidade de dados.

O executivo-chefe Tim Cook cutucou essa ferida no final de março, justamente quando explodiu o escândalo de vazamento de dados do Facebook por conta do Cambridge Analytica. Em um evento na China, Cook não mencionou o reconhecimento facial especificamente, mas mostrou preocupação com a segurança de informações pessoais - o rosto é uma delas.

"Acho que essa situação é tão preocupante e se tornou tão grande que provavelmente uma regulamentação bem construída é necessária", disse o executivo fazendo alusão ao incidente do Facebook. Assim como a empresa de Zuckerberg, a Apple restringe o reconhecimento facial a sua própria plataforma: álbuns organizados automaticamente por pessoas estão restritos às contas da Apple e o Face ID a um único do iPhone X.