Como funciona a ferramenta de segurança do Facebook que causou polêmica após incêndio em São Paulo

Seu amigo marcou-se como seguro durante "Prédio desmorona em São Paulo, Brasil". Notificações como essa pipocaram nas timelines de usuários brasileiros no Facebook nesta terça, 1º de maio, depois que um prédio de 24 andares desabou após um incêndio de madrugada no centro de São Paulo, deixando 49 pessoas desaparecidas - entre elas, 4 prováveis vítimas -, segundo os bombeiros.

Enquanto os moradores do edifício eram sem-teto, famílias que o ocupavam de forma irregular, os usuários que anunciavam estar "seguros" no Facebook eram, muitas vezes, pessoas que estavam longe de terem sido afetadas pelo desastre.

Veja também:

• Análise: Por que Zuckerberg deveria cobrar pelo Tinder do Facebook?
• Facebook faz novos testes com o botão "não curtir"
• É mais fácil a IA detectar mamilos do que discurso de ódio, diz Zuckerberg

"A gente sabe que vocês não estavam numa ocupação no Centro de São Paulo no meio da madrugada. Não precisa se marcar como seguro no Facebook, tá passando vergonha", escreveu um usuário no Twitter.

Mas, afinal, por que foi criado e como funciona o "safety check" do Facebook?

História e polêmicas

A ferramenta foi adotada pela rede social em 2014, inspirada no comportamento de usuários depois do tsunami e do terremoto de 2011 no Japão. "Nossos engenheiros do Japão deram o primeiro passo para criar um produto que melhorasse a experiência de 'reconexão' entre pessoas depois de um desastre", anunciou o Facebook.

Esses desenvolvedores criaram um fórum para usuários no Japão para melhorar a comunicação entre eles. O teste deu certo e o Facebook decidiu expandir a ferramenta para outros casos no mundo, com o objetivo de informar amigos e familiares, de forma rápida, que o usuário passava bem após um desastre.

Nesta terça, representantes do Facebook anunciaram em uma conferência para programadores que o "safety check" já foi acionado em mais de mil casos de desastres naturais e "humanos" no mundo inteiro desde que foi criado.

Desastres "humanos", aliás, foram incorporados só depois, nos ataques em Paris em 2015 - quando a ferramenta já enfrentou sua primeira polêmica. Enquanto franceses eram instados a responder se estavam "seguros" durante os atentados que mataram 130 pessoas, libaneses reclamavam de não terem sido consultados da mesma maneira quando um ataque em Beirute matou mais de 40 pessoas horas antes.

"Vocês tem razão ao lembrar que há muitos outros conflitos importantes no mundo. Nos preocupamos de forma igual com as pessoas e vamos trabalhar duro para ajudar a todos que estão sofrendo e no maior número de situações em que pudermos", escreveu o fundador do Facebook, Mark Zuckerberg, na época.

Foi o começo de outras polêmicas: em março de 2016, usuários do mundo todo - em Sydney, Honolulu, Cairo, Nova York, entre outros - receberam a notificação: "Você foi afetado pela explosão?". Só que a explosão tinha ocorrido em Lahore, no Paquistão. Foi um bug no sistema, explicaram os administradores da rede social.

Em julho daquele ano, usuários em Bagdá reclamaram da demora do Facebook em incluir um ataque ocorrido na cidade como um dos "dignos de safety check". O ataque matou ao menos 340 pessoas e, 30 horas depois, o Facebook perguntou aos usuários se estavam seguros. Nas redes sociais, outros celebraram a inclusão do Iraque no rol dos contemplados pelos safety checks.

Já no fim de 2016, no entanto, usuários de Bangcoc, na Tailândia, foram instados a responder se estavam seguros após uma suposta explosão. Mas nenhuma explosão tinha acontecido. Uma manifestação acabou ativando a ferramenta, que depois usou como fonte uma reportagem da BBC sobre uma explosão em Bangcoc - mas a reportagem era do ano anterior.

Como funciona o "safety check"? Por que uns lugares e não outros?

Quando um desastre - natural ou humano - acontece, usuários do Facebook podem receber uma notificação perguntando se querem se marcar como seguros. Também podem dizer que o caso "não se aplica" a eles.

Usuários também podem marcar amigos como seguros ou perguntar a eles se estão bem por meio da rede social.

No começo, quem decidia para quais desastres a ferramenta seria acionada era o próprio Facebook. Em de novembro de 2016, no entanto, a rede social mudou esse critério: colocou a iniciativa nas mãos de terceiros.

Quando um incidente ocorre, uma organização alerta o Facebook. No caso do incêndio em São Paulo, um texto informa que essa organização foi a NC4, "uma empresa global independente de comunicação de situações de emergência" sediada nos EUA. O desastre é classificado de acordo com o alerta da organização e o Facebook passa a enviar notificações para pessoas que estejam na área.

Outra situação que ativa o "safety check" é se muitas pessoas no Facebook estiverem comentando sobre o incidente na rede, algo que o algoritmo detecta e, então, coloca no rol dos desastres monitorados.

Ansiedade e outras questões

O uso da ferramenta suscitou algumas questões entre especialistas e nas redes sociais. Se você não se marca como seguro, deve-se assumir que você está automaticamente em perigo? Isso causa mais alarme ou menos alarme nas pessoas? Por que pessoas longe de terem sido afetadas também devem responder? O mecanismo não contribui para desinformação, ao conectá-las, mesmo que seja pela negação, ao atentado ou incidente?

Para o psicoterapeuta Aaron Black, autor do livro "The Psychodynamics of Social Networking" (A psicodinâmica das redes sociais), essa ferramenta pode provocar ansiedade.

"Para eventos de pequena escala, como um incêndio ou um ato terrorista localizado, a área do 'safety check' é muito grande, o que significa que muito mais pessoas são questionadas se estão seguras do que as que estão de fato correndo risco na hora. A mensagem transmitida implicitamente é que as pessoas não estão seguras até que declarem publicamente o contrário. Isso, na minha opinião, gera ansiedade", afirma.

Ele diz que, no final das contas, a ferramenta também cria o senso de obrigação de marcar-se como seguro até entre quem está em perigo. "Ironicamente, aqueles que estão em perigo provavelmente não recorrem ao Facebook para pedir ajuda, enquanto aqueles que estão expostos ao perigo mas estão seguros provavelmente já avisaram seus entes queridos."

"Em resumo, é melhor para assumirmos psicologicamente que alguém está seguro até que saibamos o contrário e o 'safety check' inverte essa lógica."

O que o Facebook faz com esses dados?

Em junho de 2017, a rede social anunciou que compartilharia mapas com dados agregados do "safety check", sem identificação individual, com organizações de ajuda humanitária. Os dados se referem ao comportamento de usuários depois de desastres naturais - não inclui os desastres "humanos".

O Facebook armazena e compartilha, por exemplo, os locais onde as pessoas estavam antes, durante e depois de um desastre. Também criam mapas de movimento, mostrando os fluxos de pessoas em bairros e cidades em períodos pós-desastres.

Esses padrões, que a rede social anunciou que iria compartilhar inicialmente com as organizações Unicef, Cruz Vermelha e World Food Programme, ajudam a prever onde recursos serão necessários e também onde há trânsito, além de mostrar padrões de como as pessoas se retiraram de uma área em risco. A rede social também compartilha os mapas de pessoas que se marcaram como seguras, o que joga luz sobre os locais onde a ajuda é mais necessária.

Ajuda aos afetados

A rede social também incluiu a possibilidade de usuários oferecerem e pedirem ajuda na rede social - algo que aconteceu no caso do incêndio em São Paulo. "Você pode solicitar ou oferecer ajuda, como abrigo, comida e transporte. Comece escolhendo uma categoria para encontrar ou oferecer ajuda", diz o texto da rede social. Entre as categorias estão "trabalho voluntário", "roupas", "comida" e "suprimentos para bebês".

No caso de São Paulo, um mapa mostra pessoas na cidade que estão oferecendo ajuda e quem está pedindo. Até a conclusão deste texto, eram 50 solicitações de ajuda e 1.260 ofertas.

A mensagem que pergunta ao usuário se ele está bem após um desastre também informa: "Se você precisa de ajuda urgente, ligue para os serviços de emergência".

Na conferência do Facebook nesta terça, a empresa anunciou que vai criar uma nova ferramenta chamada "Crisis Response" (resposta à crise), em que usuários poderão, além de marcar-se como "seguros", fazer um relato sobre o desastre - fornecendo informações sobre sobreviventes, por exemplo.

Além disso, também anunciou que uma ferramenta que já existe na Índia, em Bangladesh e no Paquistão será expandida: o programa de doação de sangue. A ideia é que clínicas, hospitais e bancos de sangue possam achar doadores e vice-versa por meio da rede social.