Facebook explica como usa inteligência artificial para combater terrorismo

O Facebook divulgou nesta quinta (15) um posicionamento oficial e detalhes da atual metodologia da rede social para retirar conteúdo terrorista. O texto --assinado por Monika Bickert, diretora global de políticas de conteúdo do Facebook, e Brian Fishman, gerente de políticas contra-terrorismo-- reforça o uso da inteligência artificial para detectar o conteúdo ilegal antes mesmo deste chegar aos usuários.

"Estamos no momento concentrando esforços tecnológicos em combater conteúdo sobre o ISIS [Estado Islâmico], a Al Qaeda e suas afiliadas, e devemos expandir isso a outras organizações terroristas. Estamos o tempo todo atualizando nossas soluções tecnológicas", diz a nota.

O anúncio vem poucos dias após ataques que mataram sete pessoas em Londres e levaram a primeira-ministra Theresa May a exigir uma ação por parte das empresas de internet.

Veja abaixo o resumo das formas de combate ao conteúdo terrorista anunciadas pela empresa. 

• Após ataques em Londres, Facebook quer se tornar "ambiente hostil" para terroristas
• Como os tentáculos do Facebook alcançam mais longe do que você imagina

Inteligência artificial em ação

Quando alguém tenta carregar uma foto ou um vídeo com conteúdo terrorista, a tecnologia por trás do Facebook analisa se as imagens são compatíveis com alguma foto ou vídeo similar. "Isso significa que se nós previamente removemos um vídeo de propaganda do ISIS, podemos trabalhar preventivamente para evitar que o mesmo vídeo seja carregado em nosso site. Em muitos casos, isso significa que o conteúdo terrorista nem sequer ficará disponível na nossa plataforma".

A inteligência artificial da empresa também está começando a entender textos que podem estar promovendo o terrorismo. "Para isso, usamos textos que foram previamente removidos por promover ou apoiar organizações como o ISIS e a Al Qaeda, assim podemos encontrar sinais que apontem se um texto contém propaganda terrorista".

A análise inclui um algoritmo que está no estágio inicial de aprendizagem sobre como detectar posts similares. A promessa do Facebook é que o algoritmo vai acumulando informação e se aperfeiçoando com o tempo.

Os algoritmos também estão usando páginas, grupos, posts ou perfis já catalogados que estão apoiando o terrorismo para tentar identificar material relacionado que possa estar fazendo o mesmo.

"Nós usamos sinais como, por exemplo, quando uma conta tem muitos amigos cujos perfis foram desabilitados por terrorismo, ou mesmo contas que possuem atributos similares aos de uma conta desabilitada por terrorismo", diz a nota.

A empresa também se gaba de ser capaz de "reduzir drasticamente" o período de tempo em que uma conta de um terrorista reincidente fica ativa no Facebook. Afirma que identifica novas formas que terroristas usam para tentar burlar os sistemas e atualiza os contra-ataques com base nisso.

A batalha se estende também a outras plataformas das quais Mark Zuckerberg é dono: WhatsApp e Instagram. Assim, a empresa compartilha dados que esses aplicativos coletam dos usuários entre todas as equipes de plataformas da "família Facebook", para impedir que um suposto terrorista saia de uma e entre em outra.

Ajuda humana

O Facebook também admite que algoritmos, por mais espertos que sejam, não dão conta de tudo e pode confundir conteúdo terrorista com noticioso, por exemplo. Então revelou como a equipe contra-terrorista "humana" do Facebook vem trabalhando em paralelo à inteligência artificial.

Cerca de 3 mil funcionários do Facebook em todo o mundo estão trabalhando 24 horas por dia para revisar denúncias dos usuários. Além disso, mais de 150 pessoas --acadêmicos, ex-procuradores, ex-agentes policiais, analistas e engenheiros, que juntos abrangem 30 idiomas-- estão focadas principalmente em contra-terrorismo na rede social.

A empresa também diz que sua equipe está apta a responder "em minutos" a pedidos emergenciais de autoridades que identificarem conteúdo que represente ameaças reais às pessoas.

Em seu comunicado, a empresa também reforçou as parcerias que ampliam suas ações antiterroristas, como a união com Microsoft, Twitter e YouTube para escanear em conjunto fotos e vídeos terroristas ou de simpatizantes; reuniões com agências governamentais em diferentes países sobre os mecanismos de propaganda do ISIS e da Al Qaeda; e incentivo ao contra-discurso ao terrorismo, vindo de associação a ONGs e estímulo a programas desse tipo. 

No entanto, o Facebook lembrou que não podem fornecer informações a pedidos válidos do judiciário e de autoridades policiais, quando o conteúdo é criptografado. Talvez uma "indireta" à longa disputa que a empresa está travando com magistrados do Brasil, da Ìndia e outros países para revelar conteúdo supostamente protegido do WhatsApp.