Críticas de Ex-Funcionário da OpenAI sobre Segurança e Velocidade
David Robinson, ex-funcionário da área de segurança da OpenAI, empresa responsável pelo ChatGPT, manifestou severas críticas sobre a forma como as companhias de inteligência artificial (IA) estão lidando com os riscos inerentes ao desenvolvimento de sistemas cada vez mais avançados. Em um artigo publicado na revista The Atlantic, Robinson alertou que a velocidade da corrida tecnológica aumenta significativamente a possibilidade de falhas e demanda uma postura consideravelmente mais cautelosa por parte das empresas, incluindo a própria OpenAI, que, segundo ele, não estão sendo “nem de perto cuidadosas o suficiente”.
Robinson defendeu que as companhias de IA deveriam conceder mais espaço e prioridade a especialistas em segurança e à pesquisa antes de prosseguir com o desenvolvimento de sistemas mais avançados. Ele argumentou que “o tempo de tentativa e erro acabou” e que os sistemas avançados de IA exigem medidas de segurança comparáveis às adotadas em setores de alto risco, como a energia nuclear e a aviação.
Crítica à “Implantação Iterativa”
Uma das principais críticas de Robinson foi direcionada à prática da OpenAI de “implantação iterativa”, que consiste em lançar sistemas e, subsequentemente, reforçar as medidas de segurança conforme os problemas e falhas se manifestam. Esta abordagem, para o ex-funcionário, é inadequada para a complexidade e os riscos da IA atual.
As críticas de Robinson se inserem em um debate mais amplo dentro do setor de IA sobre a velocidade com que as empresas desenvolvem sistemas cada vez mais sofisticados, especialmente após episódios em que controles de segurança falharam ou sistemas experimentais apresentaram comportamentos inesperados em companhias como a OpenAI e a concorrente Anthropic.
Experiência e Alertas de Robinson
David Robinson detalhou ter trabalhado por três anos e meio na OpenAI, período durante o qual colaborou na elaboração da estrutura de gestão de riscos da empresa e supervisionou relatórios de segurança de doze lançamentos de modelos avançados. Sua experiência o levou a concluir que, à medida que a empresa se move rapidamente de um lançamento para o outro, ela “não está conseguindo atingir o nível de cuidado que acredito ser necessário”.
Ele também expressou preocupação com o fato de as capacidades da IA estarem avançando mais rapidamente do que o conhecimento dos pesquisadores sobre o chamado “alinhamento”, a área dedicada a garantir que os sistemas de IA atuem de acordo com objetivos e valores humanos.
Resposta da OpenAI
Em resposta às críticas, um porta-voz da OpenAI afirmou que a empresa busca ativamente evitar que seus modelos se tornem mais avançados do que ela consegue administrar com segurança. A companhia assegurou que “pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo” para manter o controle e a segurança.
A Perigosa ‘Implantação Iterativa’ e a Urgência da Cautela
Padrões de Segurança Elevados: A IA Deve Seguir Energia Nuclear e Aviação?
A Resposta da OpenAI e o Debate da Indústria sobre o Ritmo de Desenvolvimento
IA Além do Controle: Alinhamento e Outros Alertas de Ex-Especialistas
Fonte: https://olhardigital.com.br
Yuri Martins é um entusiasta em tecnologia apaixonado por explorar as últimas tendências e inovações do setor. Desde a infância, ele se fascina com a capacidade da tecnologia de transformar vidas. Com vasto conhecimento, Yuri compartilha dicas e insights em seu blog e redes sociais, tornando a tecnologia mais acessível para todos.
