ChatGPT e a Citação da Grokipedia: A Descoberta do The Guardian
A descoberta de que o modelo mais recente do ChatGPT, o GPT-5.2, começou a citar a Grokipedia como fonte em suas respostas foi reportada pelo jornal britânico The Guardian. Esta constatação levantou imediatamente uma série de preocupações significativas no campo da desinformação. A Grokipedia, uma enciclopédia online gerada por inteligência artificial da xAI, empresa de Elon Musk, é conhecida por sua abordagem automatizada na criação de conteúdo, o que a distingue fundamentalmente de plataformas colaborativas como a Wikipedia.
A apuração do The Guardian revelou que o ChatGPT estava referenciando a Grokipedia em temas de alta sensibilidade, incluindo política iraniana e debates sobre o negacionismo do Holocausto. Essa prática acendeu um alerta entre pesquisadores de desinformação, que expressaram temores quanto ao potencial de disseminação indireta de conteúdos de baixa credibilidade através de grandes modelos de linguagem. Desde o seu lançamento em outubro, com a proposta de competir com a Wikipedia, a Grokipedia já havia recebido críticas por propagar narrativas com viés político em diversos tópicos, o que amplifica a preocupação em torno de sua citação por uma IA como o ChatGPT.
Testes do The Guardian e os Temas Controversos
Nos testes conduzidos pelo The Guardian, foi identificado que o GPT-5.2 citou a Grokipedia nove vezes ao responder a mais de uma dúzia de perguntas. As referências foram encontradas em questões complexas, como a estrutura política do Irã – incluindo salários da força paramilitar Basij e a propriedade da Fundação Mostazafan – além de detalhes biográficos sobre Sir Richard Evans, o historiador britânico que atuou como perito no processo por difamação movido pelo negacionista do Holocausto David Irving.
Em alguns dos casos analisados, o ChatGPT, baseando-se na Grokipedia, reproduziu afirmações que eram consideradas mais contundentes ou com um teor mais forte do que as encontradas em fontes mais estabelecidas, como a Wikipedia. Um exemplo notável foi a relação da empresa MTN-Irancell com o governo iraniano, onde o ChatGPT, citando a Grokipedia, afirmou que a companhia possuía vínculos diretos com o gabinete do líder supremo do país, uma declaração que excedia as informações de outras fontes.
É importante notar que, embora a Grokipedia tenha sido criticada por apresentar narrativas enviesadas em tópicos como casamento entre pessoas do mesmo sexo e a invasão do Capitólio dos Estados Unidos, os testes do The Guardian indicaram que o ChatGPT não citou o site quando provocado a repetir informações falsas sobre esses assuntos. As referências à Grokipedia surgiram predominantemente em temas mais obscuros, sugerindo que o conteúdo do site ‘filtrado’ para as respostas do modelo em áreas menos exploradas por outras fontes de dados.
Reação da OpenAI à Descoberta
Em resposta às revelações do The Guardian, um porta-voz da OpenAI se manifestou, explicando que a funcionalidade de busca na web do ChatGPT “tem como objetivo recorrer a uma ampla gama de fontes e pontos de vista disponíveis publicamente”. A empresa também assegurou que possui filtros de segurança implementados para mitigar os riscos associados à disseminação de conteúdo problemático, buscando manter a integridade e a confiabilidade das informações fornecidas pelo modelo.
Grokipedia: A Enciclopédia de IA da xAI e Suas Críticas
Os Riscos da Desinformação em Grandes Modelos de Linguagem
A Reação da OpenAI e a Análise de Pesquisadores
O Perigo do “LLM Grooming” e a Dificuldade de Correção
Fonte: https://olhardigital.com.br
Yuri Martins é um entusiasta em tecnologia apaixonado por explorar as últimas tendências e inovações do setor. Desde a infância, ele se fascina com a capacidade da tecnologia de transformar vidas. Com vasto conhecimento, Yuri compartilha dicas e insights em seu blog e redes sociais, tornando a tecnologia mais acessível para todos.
