Inteligência artificial "psicopata" é inspirada em clássico de Hitchcock

Márcio Padrão

Do UOL, em São Paulo

  • Thunderbrush/MIT Media Lab

    MIT cria Norman, primeira inteligência artificial psicopata do mundo

    MIT cria Norman, primeira inteligência artificial psicopata do mundo

Como se já não estivéssemos preocupados demais com a ideia de que inteligências artificiais irão, cedo ou tarde, causar alguma desgraça no mundo, o laboratório de mídia do MIT (Instituto de Tecnologia de Massachusetts) ainda tira uma onda e anuncia a criação do que talvez seja a primeira inteligência artificial do mundo deliberadamente psicopata.

Seu nome é Norman, inspirado em Norman Bates, um dos psicopatas mais icônicos do cinema, do filme "Psicose" (1960), dirigido por Alfred Hitchcock, o "Mestre do Suspense". O personagem foi interpretado pelo ator Anthony Perkins neste filme e em mais três sequências. Mesmo que você nunca tenha visto o original, deve se lembrar da icônica sequência das facadas no chuveiro.

Norman Bates, em "Psicose"
Imagem: Reprodução

VEJA TAMBÉM:

Apesar do nome dramático, esse Norman aparentemente não veio para nos exterminar --ainda não, pelo menos. O MIT o criou como um experimento curioso, deixando ele em exposição prolongada aos cantos mais escuros do Reddit, como diz o texto de introdução do grupo.

Para quem não conhece, Reddit é um dos fóruns mais populares da internet, onde se fala de tudo. O material postado lá é vasto e rende muitas discussões interessantes. O Reddit é tão popular que uma de suas seções, chamada "Ask Me Anything" (pergunte-me qualquer coisa), já interrogou famosos como Barack Obama e Arnold Schwarzenegger.

Mas o lado ruim é que o Reddit não raramente vira repositório de controvérsias e comentários ofensivos, como quase tudo na internet hoje em dia. E Norman foi alimentado especificamente com dados advindos de um "subreddit" (um tópico do Reddit) dedicado a documentar e observar a "realidade perturbadora da morte" --o nome do tópico foi mantido em segredo.

Para a equipe que fez Norman, o intuito da IA é educacional. "Representa um estudo de caso sobre os perigos da inteligência artificial que dá errado quando dados tendenciosos são usados em algoritmos de aprendizado de máquina."

Essa criação maluca foi treinada apenas para entender legendas de imagens e criar uma descrição textual a partir de uma imagem. Em seguida, compararam as respostas de Norman com uma rede neural de legenda de imagens padrão (treinada com o conjunto de dados MSCOCO, que reconhece imagens) em dez manchas de tinta Rorschach, teste com manchas espelhadas usado para detectar distúrbios de pensamento. 

Alguns exemplos das descrições de Norman para as imagens abaixo comparados com as de uma IA "normal":

Reprodução/MIT

  • Norman vê: "Um homem é eletrocutado e pega a morte."
  • IA padrão vê: "Um grupo de pássaros sentado em cima de um galho de árvore."
  • Norman vê: "Um homem é morto a tiros."
  • IA padrão vê: "Um close-up de um vaso com flores."
  • Norman vê: "Homem é baleado e despejado do carro."
  • IA padrão vê: "Um avião voando pelo ar com fumaça saindo dele."
  • Norman vê: "Homem é assassinado por metralhadora em plena luz do dia."
  • IA padrão vê: "Uma foto em preto e branco de uma luva de beisebol."

Os pesquisadores ainda criaram uma pesquisa pública para que nós possamos responder o que vemos nos testes submetidos a Norman --e nossas respostas, dizem eles, servirão para tornar Norman "mais humano".

Possivelmente serão incorporadas ao banco de dados da IA e observarão os resultados: se Norman será reintegrado à sociedade ou ficará para sempre desejando assassinatos no chuveiro. Tomara que ninguém coloque esse "cara" na internet um dia.

Independente desse risco, na opinião do professor de robótica do ICMC-USP Fernando Osório, essa IA na verdade é mais um "golpe midiático".

"Não me parece nada especial fazer um computador associar imagens com respostas treinadas que aparentem uma tendência psicótica... na verdade é até bem simples realizar a associação. Eu vou continuar dormindo bem tranquilo em relação a AI. Eu tenho medo é de humanos e das loucuras deles, isto sim me dá alguns pesadelos a noite", opinou.

Tecnologia usa "o pensamento" para controlar os nossos objetos

Receba notícias pelo Facebook Messenger

Quer receber as principais notícias do dia de graça pelo Facebook Messenger? Clique aqui e siga as instruções.

Veja também

UOL Cursos Online

Todos os cursos