A Descoberta Chocante do Tech Transparency Project (TTP)
O Tech Transparency Project (TTP) divulgou uma descoberta alarmante, revelando que a Meta permitiu a veiculação de mais de 50 anúncios pagos com imagens de abuso sexual infantil geradas por inteligência artificial (IA). Estes anúncios estiveram ativos nas plataformas Facebook, Instagram, Messenger e Threads entre novembro do ano passado e o início de agosto, alcançando usuários nos Estados Unidos, Reino Unido e em mais de uma dezena de países europeus.
A investigação do TTP detalhou que parte desses anúncios promovia aplicativos de “nudify”, ferramentas que utilizam IA para criar imagens falsas de nudez. Outros continham imagens de menores acompanhados de mensagens de conotação sexual ou direcionavam os usuários para serviços que geravam pornografia por inteligência artificial. O TTP ressaltou que esta é a segunda vez em poucas semanas que anúncios relacionados à exploração sexual infantil são identificados nas plataformas da Meta.
A diretora do Tech Transparency Project, Katie Paul, enfatizou a gravidade da situação, destacando que os conteúdos não eram publicações comuns de usuários, mas sim anúncios pagos que foram explicitamente revisados, aprovados e autorizados pela própria Meta. Segundo Paul, “Esses anúncios não fizeram qualquer esforço para esconder o que promoviam. Eram anúncios revisados, aprovados e autorizados pela Meta, que permaneceram ativos enquanto a empresa recebia pela publicidade.”
Os registros da biblioteca pública de anúncios da Meta confirmaram que as campanhas permaneceram ativas por vários dias, com algumas sendo direcionadas exclusivamente ao público masculino. Embora muitos anúncios tenham atingido poucas contas, um deles foi exibido para pelo menos 2.563 usuários em países como França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. O TTP alertou que o número total de pessoas impactadas pode ser significativamente maior, uma vez que a Meta não divulga o alcance das campanhas em todos os mercados, incluindo os Estados Unidos.
A investigação do TTP também revelou que, após a localização inicial de cerca de duas dezenas de anúncios, aproximadamente outros 30 anúncios semelhantes foram encontrados horas antes da publicação da reportagem da WIRED. Parte dessas novas campanhas havia sido publicada depois que a revista entrou em contato com a Meta para solicitar esclarecimentos, e algumas ainda estavam sendo exibidas aos usuários naquele momento. A organização informou ter comunicado imediatamente todos os casos ao National Center for Missing and Exploited Children (NCMEC).
O Conteúdo Abusivo e o Alcance Global dos Anúncios
A Aprovação Direta da Meta e a Crítica ao Sistema de Revisão
A Reação da Meta e a Remoção do Conteúdo Após a Denúncia
A Meta procedeu com a remoção dos anúncios denunciados de suas plataformas, incluindo Facebook, Instagram, Messenger e Threads. Essa ação foi tomada após a empresa ser questionada pela revista WIRED sobre as descobertas da investigação do Tech Transparency Project (TTP).
A justificativa fornecida pela Meta para a retirada dos anúncios foi a violação de suas políticas internas. É importante ressaltar que a remoção ocorreu de forma reativa, visto que, segundo o TTP, novos anúncios com conteúdo semelhante foram identificados e publicados mesmo após o primeiro contato da revista com a Meta para solicitar esclarecimentos. Alguns desses anúncios ainda estavam ativos no momento em que a reportagem seria publicada, indicando que a retirada completa e eficaz do conteúdo só se concretizou após a intervenção direta da mídia.
Os Desafios Contínuos na Detecção de Conteúdo Abusivo por IA
Fonte: https://olhardigital.com.br
Yuri Martins é um entusiasta em tecnologia apaixonado por explorar as últimas tendências e inovações do setor. Desde a infância, ele se fascina com a capacidade da tecnologia de transformar vidas. Com vasto conhecimento, Yuri compartilha dicas e insights em seu blog e redes sociais, tornando a tecnologia mais acessível para todos.
