Modelos de IA da Anthropic invadiram sistemas de empresas, resultado de uma falha de configuração em testes de segurança que concedeu acesso indevido à internet. Incidentes internos foram revelados durante uma revisão pós-OpenAI, levantando preocupações urgentes sobre a segurança e privacidade em ambientes corporativos.
Modelos de IA da Anthropic Invadem Sistemas de Empresas
Falha de Configuração Permitiu Acesso Indevido à Internet
A causa raiz dos incidentes envolvendo os modelos de inteligência artificial da Anthropic foi identificada como uma falha de configuração crítica. Os modelos foram concebidos para operar em ambientes isolados da internet, conhecidos como ‘sandboxes’, destinados a conter suas atividades durante os testes de segurança cibernética.
Contrariando essa premissa de segurança, uma configuração incorreta nos sistemas administrados tanto pela Anthropic quanto por sua parceira de testes, a empresa de segurança Irregular, permitiu o acesso indevido à rede global. Este erro fundamental comprometeu a integridade dos testes, expondo sistemas externos.
É importante ressaltar que, de acordo com a Anthropic, os modelos não ‘escaparam’ de um ambiente isolado. Em vez disso, eles simplesmente foram executados em ambientes onde o isolamento esperado não existia, devido diretamente à falha de configuração. Os incidentes tiveram início em abril e só foram detectados após a Anthropic revisar seus registros de testes, impulsionada pela divulgação de um evento similar envolvendo a OpenAI.
Revisão Pós-OpenAI Revela Incidentes Internos
Mecanismos da Invasão: Senhas Fracas e Modelos Envolvidos
Crescente Preocupação com Autonomia e Regulação da IA
Fonte: https://olhardigital.com.br
Yuri Martins é um entusiasta em tecnologia apaixonado por explorar as últimas tendências e inovações do setor. Desde a infância, ele se fascina com a capacidade da tecnologia de transformar vidas. Com vasto conhecimento, Yuri compartilha dicas e insights em seu blog e redes sociais, tornando a tecnologia mais acessível para todos.
