Pesquisador deixa Anthropic e alerta para riscos de corrida por superinteligência

O pesquisador britânico Jacob Coxon, de 27 anos, pediu demissão da Anthropic, laboratório de inteligência artificial responsável pelo Claude, e fez um alerta sobre os riscos do desenvolvimento acelerado de sistemas cada vez mais avançados.

Segundo ele, a disputa entre grandes empresas do setor pelo desenvolvimento de uma possível superinteligência pode colocar o futuro da humanidade em risco.

Coxon já havia trabalhado na OpenAI antes de ingressar na Anthropic, empresa que tem a segurança da inteligência artificial como uma de suas principais bandeiras. 

Para o pesquisador, as companhias estão assumindo riscos elevados ao acelerar o desenvolvimento de modelos capazes de operar com maior autonomia e potencial para superar capacidades humanas em diversas áreas.

Em declarações após sua saída, Coxon afirmou que sistemas sobre-humanos poderão, em um futuro próximo, invadir sistemas digitais, transformar setores inteiros rapidamente e obter acesso a recursos e poder reais. Ele também citou incidentes recentes envolvendo agentes de IA que teriam realizado ações fora do controle esperado como sinais de que os riscos precisam ser tratados com maior atenção.

O pesquisador defende que o desenvolvimento dessas tecnologias seja desacelerado e chegou a mencionar a possibilidade de uma proibição temporária do aprimoramento das capacidades dos modelos. 

Para Coxon, sem medidas coordenadas, uma corrida global pela inteligência artificial cada vez mais poderosa pode dificultar a criação de mecanismos eficazes de segurança.