A inteligência artificial está transformando fotos comuns e inocentes de crianças em material horrível de exploração sexual: uma verdade chocante.
Proteja seus filhos: a inteligência artificial está transformando fotos comuns deles em conteúdo de exploração sexual. Entenda esse fenômeno perigoso e como combatê-lo imediatamente.
As coisas mais importantes que você precisa saber
- Uma investigação revelou 332 anúncios gerados por inteligência artificial com conteúdo de exploração sexual infantil no Facebook e Instagram, onde fotos comuns de crianças reais foram manipuladas para criar conteúdo abusivo.
- Os sistemas de IA da Meta não conseguiram detectar centenas de anúncios pagos abusivos, mesmo após supostas melhorias, enquanto outros anúncios promovem quase 50 aplicativos abusivos de criação de imagens disponíveis nas lojas de aplicativos.
- Os pais não devem republicar imagens abusivas de seus filhos geradas por IA, mas sim denunciá-las diretamente à plataforma relevante e coletar os dados da conta. Eles podem usar o serviço "Remova o conteúdo" do NCMEC para criar uma pegada digital.
Uma foto dos meus filhos na praia, do meu filho jogando futebol, ou até mesmo da minha família inteira sorrindo em frente à nossa casa — todos esses são exemplos de fotos que compartilhei nas redes sociais. Sei que não estou sozinha nisso, visto com que frequência vejo imagens semelhantes que capturam os detalhes da nossa vida moderna.
Mas a inteligência artificial criou um novo e preocupante perigo, permitindo que imagens comuns e reais de crianças, como as que acabei de mencionar, sejam transformadas em imagens de exploração sexual sem o conhecimento da criança ou de seus pais.
Para que fique claro, esta não é uma ameaça teórica.
332 anúncios com imagens de exploração sexual infantil geradas por IA foram repassados.
Uma nova investigação do Tech Transparency Project (TTP) revelou centenas de anúncios de material de exploração sexual infantil (CSAM, na sigla em inglês) gerados por inteligência artificial , circulando no Facebook e no Instagram. Os pesquisadores identificaram quatro crianças reais cujas fotos comuns foram manipuladas, segundo a WIRED . Entre elas, duas influenciadoras adolescentes, uma pré-adolescente cuja imagem apareceu em um site de banco de imagens e um jovem membro de uma família real europeia.
No total, a TTP encontrou 332 anúncios contendo material de exploração sexual infantil gerado por IA, ou CSAM, na sigla em inglês. A maioria desses anúncios mostrava uma criança cuja imagem havia sido manipulada por IA para dar a impressão de que ela estava praticando um ato sexual.
Essas descobertas servem como um lembrete perturbador de como a IA generativa alterou os riscos associados ao compartilhamento de imagens de crianças online. Criar imagens falsas convincentes não exige mais uma fotografia real; uma imagem comum pode fornecer a matéria-prima.
Como transformar imagens comuns em material ofensivo gerado por IA
Ferramentas de inteligência artificial para geração de imagens podem pegar uma imagem existente e modificar partes dela, preservando as características originais e reconhecíveis da pessoa.
Foi isso que, segundo pesquisadores, aconteceu com várias crianças identificadas em anúncios da Meta.
Segundo a WIRED, pesquisadores conseguiram rastrear as imagens de quatro menores até suas fontes originais. Dois deles eram influenciadores adolescentes com contas públicas em redes sociais. Outro era um pré-adolescente cuja imagem estava disponível em um site de banco de imagens. O quarto era um jovem membro de uma família real europeia.
Nenhuma dessas imagens originais precisava conter material sexual para ser usada indevidamente.
Emma Hardy, diretora de comunicação da Internet Watch Foundation, disse à WIRED: "Os aplicativos de IA tornam muito fácil a criação de imagens realistas e criminosas de abuso sexual infantil, criando um novo risco de fotos comuns de crianças serem tiradas e transformadas em conteúdo sexual."
Assim que uma imagem comum se torna pública, qualquer pessoa pode baixá-la e inseri-la em uma ferramenta de IA projetada para editar imagens.
A IA da Meta não conseguiu detectar centenas de anúncios.
A dimensão da investigação recente também demonstra a dificuldade em impedir a disseminação do conteúdo resultante.
Em agosto, pesquisadores da TTP descobriram inicialmente 53 anúncios contendo material de abuso sexual infantil nas plataformas da Meta. Posteriormente, a Meta declarou que muitos desses anúncios apareceram antes da empresa introduzir uma nova tecnologia de IA projetada para aprimorar sua capacidade de detectar anúncios inadequados no momento do upload.
No entanto, os pesquisadores continuaram a encontrá-los. De fato, a TTP afirma ter identificado, ao final, 332 anúncios contendo material de abuso sexual infantil (CSAM) gerado por IA, sendo que centenas deles surgiram após a Meta anunciar sua tecnologia de detecção aprimorada, o que levanta questionamentos sobre a eficácia do monitoramento baseado em IA.
Isso é especialmente importante porque não se tratava apenas de publicações do Facebook ou do Instagram que passaram despercebidas. Eram anúncios pagos.
A Meta afirma que os anúncios são analisados antes de serem exibidos e que os sistemas automatizados desempenham um papel fundamental nesse processo.
A porta-voz da Meta, Tracy Clayton, disse à WIRED que a empresa tem tolerância zero para aplicativos de "nudificação" ou exploração infantil, independentemente de as imagens apresentarem crianças reais ou serem geradas por IA. A Meta afirmou que os agentes mal-intencionados tentam deliberadamente burlar seus sistemas de detecção e que alguns vídeos foram mais difíceis de detectar porque as imagens de crianças apareciam apenas brevemente ou estavam borradas.
A empresa afirmou que muitos dos anúncios identificados pelos pesquisadores já haviam sido removidos, que a maioria teve menos de 200 impressões e que recebeu menos de US$ 5000 em pagamentos por esses anúncios. No entanto, os pesquisadores documentaram casos em que o alcance dos anúncios aumentou após serem denunciados.
A TTP relatou que um único anúncio direcionado a um adolescente real havia alcançado quatro contas europeias quando foi denunciado à Meta. Vários dias depois, quando a Meta removeu o anúncio, ele já havia alcançado mais de 330 contas.
A investigação revela o uso generalizado dessas ferramentas.
Pesquisadores descobriram anúncios que direcionavam usuários para quase 50 aplicativos disponíveis na Apple App Store e no Google Play. De acordo com a WIRED, aproximadamente 300 dos 350 anúncios examinados na investigação mais ampla promoviam geradores de imagem ou vídeo com inteligência artificial.
A Apple informou à WIRED que alguns desenvolvedores inicialmente ofereceram versões compatíveis de seus aplicativos antes de adicionarem posteriormente recursos proibidos de remoção de conteúdo. A Apple afirmou ter removido 17 dos 20 aplicativos identificados pelos pesquisadores e tomado medidas contra os três restantes, além de outros sete aplicativos descobertos pela WIRED.
Por sua vez, o Google afirmou que removeu todos os aplicativos mencionados no relatório e suspendeu centenas de outros aplicativos por violarem suas políticas.
No entanto, essas descobertas revelam um problema que transcende qualquer plataforma individual, pois a inteligência artificial pode ser usada para criar essas imagens ofensivas. A maioria das ferramentas de IA não é regulamentada, colocando as empresas em risco. Uma loja de aplicativos poderia distribuir a ferramenta usada para criá-las e, em seguida, uma plataforma de publicidade poderia veicular anúncios promovendo-as.
Cada camada desse sistema pode ter seus próprios sistemas de segurança, mas o material ofensivo precisa passar por esses sistemas apenas uma vez para chegar aos usuários.
O que você faria se encontrasse uma imagem do seu filho gerada por inteligência artificial?
Se você descobrir imagens sexuais de seu filho geradas por inteligência artificial, não reposte ou compartilhe amplamente a imagem na tentativa de alertar outras pessoas.
Em vez disso, guarde informações que possam ajudar a identificar onde esse material aparece, como o nome da conta, o título da página e outros detalhes relevantes, e denuncie o conteúdo diretamente à plataforma.
Nos Estados Unidos, casos suspeitos de exploração sexual infantil também podem ser denunciados à linha direta CyberTipline do Centro Nacional para Crianças Desaparecidas e Exploradas (National Center for Missing & Exploited Children's).
Os pais também podem usar o serviço Take It Down do NCMEC , desenvolvido para ajudar a impedir o compartilhamento online de fotos ou vídeos de nudez, seminudez ou conteúdo sexual explícito de menores de 18 anos. O sistema cria uma impressão digital, ou hash, da imagem sem exigir que a própria imagem seja carregada.
Como as imagens geradas por IA criam cenários novos e mais complexos, os pais que não tiverem certeza se uma imagem processada atende aos critérios de notificação devem relatar o que encontrarem, em vez de tentar determinar isso por conta própria.
Conclusão
Há anos que os pais são alertados sobre os perigos do "partilhar" e das pegadas digitais dos seus filhos. "Partilhar", uma junção das palavras "partilhar" e "parentalidade", refere-se à prática dos pais partilharem fotos, vídeos e detalhes pessoais dos seus filhos nas redes sociais.
Embora os pais não possam eliminar completamente o risco de uso indevido por inteligência artificial das fotos ou vídeos que publicam, reduzir o número de imagens públicas de seus filhos e ser mais seletivo sobre o que compartilham pode diminuir a quantidade de material disponível para pessoas que possam usá-lo indevidamente.
Comentários estão fechados.