Judiciário dos EUA força Apple e Google a banir apps de nudes falsos

Uma decisão judicial em San Francisco acaba de estabelecer um precedente crítico: o Judiciário americano pode – e vai – responsabilizar plataformas tecnológicas por ferramentas de abuso sexual facilitadas por inteligência artificial.

Apple e Google removeram dezenas de aplicativos que usam IA para criar nudes falsos de suas lojas. A medida não foi voluntária. Foi ordem da Procuradoria-Geral de San Francisco, que acusou ambas as empresas de facilitar a distribuição dessas ferramentas.

O conflito é direto: autoridades estaduais contra big techs que lucraram com aplicativos de "nudify" – softwares que despem digitalmente qualquer pessoa a partir de uma foto comum.

O que mudou no cenário regulatório

Pela primeira vez, o Judiciário americano trata distribuidores de aplicativos não como plataformas neutras, mas como facilitadores ativos de violência de gênero digital.

A decisão quebra a blindagem histórica da Seção 230 do Communications Decency Act, que há décadas protege intermediários online de responsabilização por conteúdo de terceiros.

A Apple confirmou ao site 9to5Mac que removeu todos os aplicativos citados pela Procuradoria. Mais: está banindo permanentemente as contas dos desenvolvedores responsáveis.

O Google adotou medida adicional. Além de remover os apps, bloqueou buscas por termos como "nudify" na Play Store.

Precedente histórico para regulação de IA

Esta decisão representa o primeiro grande confronto judicial entre autoridades locais e plataformas globais sobre IA generativa aplicada a abuso sexual.

O contexto político é explosivo. Estamos em 2025, ano eleitoral nos Estados Unidos, com pressão bipartidária crescente sobre regulação de inteligência artificial.

San Francisco não é uma jurisdição qualquer. É o quintal das big techs. A simbologia importa.

A Procuradoria local construiu seu caso sobre três pilares:

• As plataformas lucraram diretamente com esses aplicativos através de comissões
• Ignoraram denúncias repetidas de vítimas e organizações de direitos humanos
• Falharam em aplicar suas próprias políticas de conteúdo

Impacto para desenvolvedores e usuários

A medida não elimina a tecnologia. Os algoritmos continuam acessíveis via web e outras plataformas descentralizadas.

Mas remove a camada de legitimidade e acessibilidade que as lojas oficiais conferem. Aplicativos na App Store e Play Store têm selos implícitos de confiança.

Para desenvolvedores, o recado é claro: IA para abuso sexual não é zona cinzenta. É linha vermelha com consequências legais e comerciais.

O banimento permanente de contas fecha portas futuras. Desenvolvedores marcados não retornam ao ecossistema Apple ou Google facilmente.

Análise: Judiciário local vs. plataformas globais

Esta decisão expõe uma tensão estrutural da governança tecnológica contemporânea.

Plataformas globais operam sob lógica de escala e automação. Procuradorias locais respondem a eleitores e vítimas reais.

O caso San Francisco sugere um novo padrão: autoridades locais usando poder coercitivo territorial para forçar mudanças em políticas globais de plataforma.

É o federalismo digital na prática. Estados e municípios preenchendo vazios regulatórios que Washington não consegue ou não quer ocupar.

Para o setor jurídico, o precedente é claro: distribuidores de aplicativos têm dever de curadoria ativa quando ferramentas facilitam crimes.

A passividade deixou de ser defesa juridicamente viável.

Próximos capítulos

Espera-se que outras jurisdições repliquem o modelo San Francisco. Procuradorias estaduais costumam coordenar estratégias em casos de big tech.

Apple e Google provavelmente não recorrerão. O custo reputacional supera o lucro desses aplicativos específicos.

Mas a guerra regulatória sobre IA generativa está apenas começando. Nudes falsos são um caso extremo e politicamente fácil.

A questão mais complexa virá com aplicativos de IA em zonas cinzentas: deepfakes políticos, manipulação de voz, falsificação de identidade.

O Judiciário acabou de demonstrar que tem ferramentas e disposição para agir. As plataformas foram avisadas.