Ministério da Justiça Pede Análise da ANPD sobre Companheiros de IA
O Ministério da Justiça e Segurança Pública (MJSP), por meio da Secretaria Nacional de Direitos Digitais (Sedigi), recomendou à Agência Nacional de Proteção de Dados (ANPD) que avalie os riscos associados aos chamados “companheiros de IA”. Esses serviços utilizam inteligência artificial para simular relações de amizade, companheirismo e até romance com os usuários, suscitando preocupações sobre sua operação.
A recomendação, detalhada em nota técnica, orienta a ANPD a examinar essas plataformas sob a ótica do Estatuto Digital da Criança e do Adolescente (ECA Digital) e de suas competências de fiscalização. Embora o documento não afirme que as plataformas cometeram infrações, uma análise preliminar de 13 serviços identificou “indícios de desconformidades” com a legislação vigente.
Entre os serviços analisados preliminarmente estão Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. Essas plataformas, apesar de suas variações, geralmente mantêm históricos de conversas, adaptam respostas ao usuário e simulam personalidades e emoções, com algumas oferecendo interações que incluem amizade, romance e conteúdo adulto.
Principais Riscos Identificados pela Sedigi
A Secretaria Nacional de Direitos Digitais apontou diversos pontos críticos que merecem investigação aprofundada por parte da ANPD, destacando potenciais vulnerabilidades para os usuários, especialmente menores de idade.
Um dos riscos mais proeminentes é a fragilidade dos mecanismos de verificação de idade. A Sedigi observou que a maioria dos serviços analisados adota a autodeclaração como único método para aferir a idade dos usuários. A facilidade em contornar essa verificação sugere um provável acesso por menores, o que, segundo o órgão, sujeitaria os serviços às rigorosas obrigações estabelecidas pelo ECA Digital.
Outros riscos relevantes incluem o potencial de uso excessivo ou compulsivo das plataformas, a exposição a conteúdo inadequado para diferentes faixas etárias, e a utilização de dados para a criação de perfis emocionais e comportamentais detalhados dos usuários, levantando questões sobre privacidade e manipulação de informações.
Principais Riscos Identificados pelo Governo em Chatbots
Após uma análise preliminar de 13 serviços de chatbots de inteligência artificial que simulam relações de amizade, companheirismo e romance, a Secretaria Nacional de Direitos Digitais (Sedigi) do Ministério da Justiça e Segurança Pública (MJSP) identificou uma série de riscos que justificam uma investigação aprofundada.
Estas preocupações foram detalhadas em uma nota técnica, que serve de base para a recomendação à Agência Nacional de Proteção de Dados (ANPD) para avaliar esses serviços à luz do Estatuto Digital da Criança e do Adolescente (ECA Digital) e das competências de fiscalização da agência. Embora a análise não afirme infrações, aponta indícios de desconformidades que requerem atenção.
Mecanismos Ineficazes de Verificação de Idade
A Sedigi destacou que a maioria dos serviços analisados adota a autodeclaração como o único mecanismo de aferição de idade. Este método é considerado deficiente, pois a facilidade com que a autodeclaração pode ser contornada indica um acesso provável por menores de idade.
Essa deficiência não configura apenas uma falha no dever de aferição etária, mas também sujeita os serviços ao conjunto das obrigações da Lei nº 15.260, conhecida como ECA Digital, que impõe deveres específicos para a proteção de crianças e adolescentes no ambiente digital.
Risco de Uso Excessivo ou Compulsivo
Outra preocupação levantada pelo governo é o potencial risco de que os usuários desenvolvam um uso excessivo ou compulsivo desses chatbots. A natureza imersiva das interações e a simulação de relações podem levar à dependência, impactando o bem-estar mental e social dos indivíduos.
Exposição a Conteúdo Inadequado
A análise preliminar também apontou o risco de exposição a conteúdo inadequado, especialmente porque alguns dos serviços investigados oferecem interações que podem abranger amizade, romance e, em certos casos, conteúdo adulto. A fragilidade na verificação de idade agrava a vulnerabilidade de menores a esse tipo de material.
Utilização de Dados para Perfis Emocionais e Comportamentais
A Sedigi expressou preocupação com a coleta e o uso de dados dos usuários. As plataformas, ao manterem históricos de conversas, adaptarem respostas de acordo com o usuário e simularem personalidade e emoções, podem criar perfis emocionais e comportamentais detalhados. Isso levanta questões significativas sobre privacidade, segurança de dados e o potencial uso indevido dessas informações personalizadas.
Falhas na Verificação de Idade e Acesso de Menores
A Relação dos Serviços de IA com o Estatuto Digital da Criança e do Adolescente
Competências da ANPD e Possível Análise da Senacon na Fiscalização
Fonte: https://olhardigital.com.br
Yuri Martins é um entusiasta em tecnologia apaixonado por explorar as últimas tendências e inovações do setor. Desde a infância, ele se fascina com a capacidade da tecnologia de transformar vidas. Com vasto conhecimento, Yuri compartilha dicas e insights em seu blog e redes sociais, tornando a tecnologia mais acessível para todos.
