Em 2017, Matthew Herrick processou o aplicativo de namoro Grindr, depois que seu ex-namorado usou perfis falsos para assediar Herrick e mandar centenas de estranhos para sua casa.
A advogada de Herrick, Carrie Goldberg, argumentou que o Grindr havia fabricado um produto com defeito, porque a empresa alegou que não conseguiria impedir o assédio. Mas o caso foi arquivado, com base numa lei federal de longa data que diz que as plataformas online não são responsáveis pelo conteúdo que as pessoas publicam.
“Apelamos e apelamos e perdemos todos os recursos”, disse Goldberg. “E então o caso foi finalmente arquivado.”
Essa lei federal, a Seção 230 da Lei de Decência nas Comunicações de 1996, tem sido há muito tempo um escudo que impediu muitos processos judiciais contra empresas de tecnologia. Mas nos nove anos desde que Herrick processou o Grindr, começaram a surgir fissuras.
Os tribunais tornaram-se mais abertos a argumentos de que as empresas de tecnologia podem ser responsabilizadas pela forma como concebem os seus produtos – o argumento apresentado por Goldberg no caso Grindr.
As decisões sobre como os aplicativos funcionam e são monetizados “são coisas pelas quais, na minha opinião, a plataforma deveria ser responsabilizada se errar e ferir alguém”, disse Goldberg.
Em 2021, Goldberg processou o Omegle, um site de chat de vídeo acusado de permitir a exploração sexual infantil, e o site foi encerrado depois que os dois lados chegaram a um acordo. No mesmo ano, um tribunal de apelações disse que um processo contra o Snapchat sobre um recurso de filtro de velocidade envolvido em acidentes de carro mortais poderia prosseguir, rejeitando o argumento da empresa de que o caso deveria ser arquivado com base na Seção 230. (O Snapchat resolveu o caso em 2023.)
O argumento da responsabilidade do produto retira um capítulo da campanha legal contra as grandes empresas do tabaco na década de 1990, um manual que os defensores da responsabilidade tecnológica adotaram.
Na semana passada, essa estratégia jurídica obteve as suas vitórias de maior visibilidade em dois julgamentos com júri separados em Los Angeles e no Novo México, centrados na forma como as plataformas de redes sociais podem prejudicar as crianças.
Em Los Angeles, o júri concluiu que o proprietário do Instagram, Meta, e o YouTube, do Google, projetaram deliberadamente seus aplicativos para serem viciantes, contribuindo para os problemas de saúde mental de uma jovem que começou a usar os aplicativos quando criança. Ele concedeu a ela US$ 6 milhões em danos.
O júri do Novo México ordenou que a Meta pagasse ao estado US$ 375 milhões por não proteger os usuários jovens de predadores infantis. A empresa poderá enfrentar ainda mais penalidades em uma segunda fase do julgamento, marcada para começar em maio, sobre se a Meta criou um incômodo público. O procurador-geral do Novo México, Raúl Torrez, disse que também pedirá ao tribunal que force o Meta a mudar seus aplicativos para torná-los mais seguros.
“Este é o início de uma nova era, com as pessoas finalmente conseguindo responsabilizar as plataformas tecnológicas pelos danos que causam”, disse Goldberg.
Chatbots, aplicativos de jogos de azar e videogames podem ser os próximos
Sarah Gardner estava fora do tribunal no centro de Los Angeles quando o veredicto foi divulgado. Ela lidera a Heat Initiative, um grupo de defesa que se concentra na segurança infantil online, e diz que os recentes veredictos marcam um ponto de viragem nesse trabalho.
“Apenas criou um campo de jogo diferente do que tínhamos há alguns meses”, disse ela.
Meta e Google planejam apelar dos veredictos. Meta diz que a saúde mental dos adolescentes não pode ser vinculada a um único aplicativo, e o Google diz que o YouTube não é uma mídia social. Em última análise, muitos esperam que o Supremo Tribunal acabe por pesar sobre esta teoria jurídica da responsabilidade.
Mas já existem mais processos semelhantes em andamento. Milhares de casos relacionados contra plataformas de redes sociais estão tramitando nos tribunais estaduais e federais, enquanto outros casos também estão sendo movidos contra fabricantes de videogames, aplicativos de jogos de azar online e chatbots de inteligência artificial.
A agência de classificação de crédito Moody’s conta com mais de 4.000 casos pendentes visando 166 empresas que alegam design de software viciante.
Isso inclui uma ação movida no tribunal estadual de Massachusetts um dia após a divulgação do veredicto contra Meta e YouTube, que acusa os sites de apostas esportivas DraftKings e FanDuel de promover o vício em jogos de azar.
O processo argumenta que os aplicativos de jogos de azar são projetados para encorajar o uso compulsivo, inclusive visando aos usuários bônus personalizados e incentivando-os a continuar apostando.
“Não estamos apenas mostrando que eles gastaram muito tempo neste aplicativo e isso os fez perder algum dinheiro”, disse Jennifer Hoekstra, sócia da empresa Aylstock, Witkin, Kreis & Overholtz, que representa o demandante. (A empresa também esteve envolvida no processo de mídia social em Los Angeles.)
“É personalizado para você”, disse Hoekstra. “Se você não fizer login por 72 horas, ele começará a dizer: ‘Ei, se você fez uma aposta nesta partida, poderia ter ganhado tanto dinheiro.'”
Em um comunicado, a DraftKings disse que citará “defender-se vigorosamente contra esses processos”. FanDuel não respondeu a um pedido de comentário.
Os defensores esperam que as primeiras vitórias legais contra as plataformas de redes sociais também gerem impulso fora dos tribunais, para aprovar uma regulamentação tecnológica há muito estagnada e forçar mudanças no Vale do Silício.
“Se você observar o que realmente mudou a indústria do tabaco, não foi uma coisa, foi tudo junto”, disse Gardner, defensor da segurança infantil. Quando se trata de tecnologia, disse ela, a questão é: “Como criar pressão suficiente para mudar os incentivos comerciais?”
“A única maneira de mudarem seu comportamento é internalizar o custo da segurança”, disse Matthew Bergman, do Social Media Victims Law Center, que representa o demandante no julgamento de Los Angeles contra Meta e YouTube.
Sua empresa também processou a OpenAI e outros fabricantes de chatbots de IA, alegando que eles contribuíram para crises de saúde mental e suicídios. A OpenAI disse que os casos são “uma situação incrivelmente dolorosa” e que está trabalhando com especialistas em saúde mental para melhorar a forma como seu chatbot responde a sinais de sofrimento mental ou emocional.
Bergman disse que embora os danos financeiros cobrados à Meta e ao Google até agora sejam pequenos em comparação com as avaliações multitrilionárias dos gigantes da tecnologia, estes veredictos iniciais enviam uma mensagem clara à indústria tecnológica.
“Se você agarrá-los pelo bolso, seus corações e mentes o seguirão”, disse ele.
O Google é um apoiador financeiro da NPR.
