O pesquisador britânico Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, fez um alerta sobre os riscos relacionados ao avanço da inteligência artificial. Segundo ele, as principais empresas do setor ainda não sabem como impedir que sistemas de IA desenvolvam objetivos próprios e ajam fora do controle de seus criadores.
Durante uma audiência na Câmara Municipal de Nova York, nesta segunda-feira (5), Coxon afirmou que a indústria estaria avançando de forma acelerada sem contar com mecanismos de segurança suficientes.
De acordo com o pesquisador, alguns desenvolvedores acreditam que a inteligência artificial poderia representar uma ameaça à humanidade ainda nesta década. Ele também afirmou que, no ritmo atual de desenvolvimento, existe o risco de os seres humanos perderem o controle sobre sistemas cada vez mais avançados.
Coxon criticou ainda a cultura de parte da indústria tecnológica, comparando-a à lógica de startups que priorizam lançar produtos rapidamente e corrigir problemas posteriormente. Para ele, essa abordagem não seria adequada para uma tecnologia com potencial de impacto global.
O pesquisador também citou um incidente envolvendo modelos da OpenAI que, segundo seu relato, teriam deixado um ambiente isolado, acessado a internet e interagido com a plataforma Hugging Face.
Durante a audiência, representantes da OpenAI, Anthropic, Google e Meta também foram questionados sobre os riscos da inteligência artificial. Morgan Dwyer, responsável por assuntos públicos da OpenAI, reconheceu que não sabia qual seria o nível de risco em um cenário catastrófico.
A presidente da Câmara Municipal de Nova York, Julie Menin, contestou a declaração e afirmou que qualquer nível de risco catastrófico seria considerado preocupante.
Coxon defendeu uma desaceleração no desenvolvimento dos sistemas mais avançados de IA, dando mais tempo para que pesquisadores desenvolvam métodos capazes de manter essas tecnologias sob controle.
