THE WASHINGTON POST - Antes de dois homens armados de 18 anos matarem 31 pessoas em ataques a tiros separados nas últimas duas semanas, eles recorreram a uma variedade de aplicativos de mídia social para compartilhar mensagens privadas preocupantes.
Tanto o atirador de Uvalde, no Texas, quanto o de Buffalo, em Nova York, usaram aplicativos como Snapchat, Instagram, Discord e Yubo para conhecer pessoas e compartilhar seus planos violentos com elas. No caso do tiroteio em Buffalo, o atirador também usou a plataforma de streaming de vídeo Twitch para divulgar seu ataque mortal.
Esses aplicativos – muitos dos quais foram adotados pela Geração Z – estão mal equipados para policiar esse conteúdo. Eles são fundamentalmente projetados para manter as comunicações privadas, apresentando desafios diferentes do Facebook, YouTube e Twitter, onde mensagens e vídeos violentos foram amplificados por algoritmos para milhões de espectadores.
A maneira como a geração usa as mídias sociais de forma mais geral pode tornar obsoletos anos de trabalho para identificar e identificar sinais públicos de violência iminente, alertam especialistas em mídia social.
“Há essa mudança para espaços mais privados, conteúdo mais efêmero”, disse Evelyn Douek, pesquisadora sênior do Knight First Amendment Institute da Universidade de Columbia. “As ferramentas de moderação de conteúdo que as plataformas estão construindo e sobre as quais discutimos são meio datadas.”
O governador do Texas, Greg Abbott, disse na quarta-feira que o atirador de Uvalde, identificado pelas autoridades como Salvador Rolando Ramos, 18 anos, escreveu nas redes sociais “vou atirar na minha avó” e “vou atirar em uma escola primária” pouco antes do ataque. O Facebook confirmou que as mensagens foram enviadas de forma privada, mas se recusou a dizer quais de suas redes sociais foram usadas.
Stephen Garcia, que se considerava o melhor amigo de Ramos na oitava série, disse anteriormente ao The Washington Post que Ramos usava o aplicativo Yubo, uma plataforma onde os usuários podem deslizar o dedo no perfil um do outro, no estilo Tinder, ou sair em salas de transmissão ao vivo e virtualmente “conhecer” outros usuários jogando e conversando.
A porta-voz da Yubo, Amy Williams, disse em um e-mail que a empresa não pode divulgar informações fora de solicitações diretas das autoridades, mas que está investigando uma conta que foi banida de sua plataforma.
“Estamos profundamente entristecidos por esta perda indescritível e cooperando totalmente com a polícia em sua investigação”, disse ela.
No caso do ataque em Buffalo, o atirador Payton Gendron enviou um convite para uma sala de bate-papo na plataforma de mensagens instantâneas Discord que foi aceita por 15 usuários, o que lhes permitiu percorrer meses de escritos volumosos e discursos racistas de Gendron, o Post relatou. Os usuários que clicaram na sala também puderam ver um fluxo de vídeo online, onde as imagens do ataque de Buffalo foram transmitidas. Esse ataque também foi transmitido no Twitch, um serviço de transmissão ao vivo popular entre os usuários de videogame.
Discord e Twitch não responderam imediatamente aos pedidos de comentários.
O Twitch conseguiu remover a transmissão dois minutos depois que o atirador começou a atirar, disse Angela Hession, chefe de confiança e segurança da empresa, anteriormente. O site tem um sistema de escalação de horas para lidar com denúncias urgentes, como violência transmitida ao vivo.
Desde então, o Discord disse que as mensagens eram visíveis apenas para o suspeito até que ele as compartilhasse com outras pessoas no dia do ataque.
Na esteira dos ataques a tiro de alto nível nos últimos anos, comunidades, distritos escolares e empresas de tecnologia fizeram grandes investimentos em sistemas de segurança destinados a erradicar a violência na esperança de evitar um ataque antes que ele aconteça. O Distrito Escolar Independente Consolidado de Uvalde já usou um programa apoiado por inteligência artificial para verificar postagens de mídia social em busca de possíveis ameaças anos antes do ataque, embora não esteja claro se ele estava em uso no momento do atentado mais recente.
Mas essas ferramentas estão mal equipadas para lidar com a crescente popularidade do streaming de vídeo ao vivo e mensagens privadas ou temporárias, que são cada vez mais usadas por jovens adultos e adolescentes. Essas mensagens estão fechadas para pessoas de fora, que podem identificar os sinais de alerta de que um indivíduo problemático pode estar prestes a causar danos a si mesmo e aos outros.
Essas redes sociais mais recentes também têm muito menos histórico de lidar com conteúdo violento e são menos propensas a ter políticas e pessoal para responder à incitação à violência em seus serviços, disseram especialistas.
“Para sites menores ou mais novos, eles estão tendo os momentos que serviços maiores como Facebook e YouTube tiveram em 2015 e 2016″, disse Emma Llansó, diretora do projeto de liberdade de expressão do Center for Democracy and Technology, uma organização sem fins lucrativos apoiada por grandes empresas de tecnologia.
A adoção desses aplicativos novos pelos atiradores reflete uma mudança geracional maior em relação ao uso de mídia social. A Geração Z, formada por adolescentes e jovens adultos nascidos após 1996, está migrando para aplicativos que enfatizam mensagens privadas, transmissão ao vivo ou permitem que seus usuários publiquem conteúdo que desaparece dos perfis públicos após um certo período de tempo.
Eles não demonstram tanto interesse em aplicativos de mídia social herdados, como Facebook, Twitter e YouTube, que ganharam popularidade ao fornecer espaços públicos e abertos para se comunicar com o mundo.
O papel dos novos aplicativos nos ataques a tiros chamou a atenção dos procuradores-gerais dos Estados de Nova York e Nova Jersey, que, após o tiroteio em Buffalo, lançaram investigações sobre Discord e Twitch.
“Repetidas vezes, vimos a devastação no mundo real causada por essas plataformas perigosas e odiosas”, disse a procuradora-geral de Nova York Letitia James em um comunicado anunciando a investigação após o tiroteio em Buffalo. “Estamos fazendo tudo ao nosso alcance para destacar esse comportamento alarmante e tomar medidas para garantir que isso nunca aconteça novamente.”
A mídia social desempenhou um papel proeminente em muitos tiroteios em massa, e houve casos de alto perfil em que homens armados postaram sobre seus planos online à vista de todos e não foram impedidos.
Os gigantes da tecnologia também foram apanhados em uma luta de poder de anos, enquanto buscam equilibrar a privacidade com o conteúdo de policiamento em seus sites e as demandas das agências de aplicação da lei.
O Facebook e outras empresas adotaram criptografia forte, tecnologia que embaralha o conteúdo de uma mensagem para que apenas o remetente e o destinatário possam vê-la. O WhatsApp e o Apple iMessage a usam, assim como aplicativos de mensagens como o Signal. E o Facebook disse que quer introduzir mensagens criptografadas como uma configuração padrão para o Instagram e o Facebook Messenger, provocando reações de políticos e autoridades que alertaram que a ampla adoção dessa tecnologia pode deixá-los no escuro e dificultar o acesso para investigar a violência.
Algumas grandes empresas de tecnologia verificam mensagens em busca de conteúdo nocivo, como abuso sexual infantil ou spam. Mas especialistas alertam que monitorar mais espaços de comunicação privados é um equilíbrio delicado.
“Há tantas razões incrivelmente legítimas para as pessoas quererem usar comunicações privadas”, disse Llansó. “Isso não é algo que deve ser sacrificado por todas as pessoas, porque algumas pessoas querem usar comunicações privadas por razões atrozes.”
Os usuários de mídia social tendem a ser mais jovens, mas as lacunas geracionais entre a base de usuários entre aplicativos de mensagens privadas como o Snapchat são maiores do que para sites públicos mais tradicionais, como o Facebook.
Quando os usuários do Snapchat enviam mensagens privadas uns para os outros, elas desaparecem depois que o destinatário as lê. O aplicativo também foi pioneiro no conceito de “stories” – postagens públicas que duram apenas um dia – que mais tarde foi copiado pelo Facebook.
A Snap disse na quarta-feira que suspendeu uma conta que pode estar conectada a Ramos e que também está trabalhando com a aplicação da lei.
Enquanto isso, o Facebook tem se esforçado para acompanhar os hábitos sociais em rápida evolução dos usuários adolescentes.
A própria pesquisa interna do Facebook relata que os jovens adultos são “menos engajados” do que os adultos mais velhos, representando um risco significativo para os negócios da empresa, de acordo com uma coleção de documentos internos da empresa conhecidos como Arquivos do Facebook. A pesquisa da empresa descobriu que os jovens adultos preferem compartilhar atualizações sobre sua vida em mensagens de texto, em vez de transmitir para uma ampla gama de amigos do Facebook. Os pesquisadores sugeriram que a empresa respondesse apoiando-se em grupos e formas mais privadas de compartilhamento.
“Sempre será um jogo de gato e rato”, disse Douek. “Esses são apenas problemas intratáveis. Mas isso não significa que não podemos melhorar ou que devemos deixar as plataformas de lado.”
