Um ex-funcionário da área de segurança da OpenAI criticou a forma como a empresa conduz o desenvolvimento e a segurança de sistemas de inteligência artificial. David Robinson, que deixou a companhia recentemente, afirmou que o ritmo acelerado de lançamentos aumenta o risco de falhas e que as empresas do setor não adotam medidas de segurança suficientes.
Em artigo publicado neste sábado (3) na revista americana The Atlantic, Robinson defendeu que especialistas em segurança tenham mais espaço antes do desenvolvimento de sistemas cada vez mais avançados. Segundo ele, a estratégia de lançar modelos e corrigir problemas posteriormente, prática conhecida na OpenAI como “implantação iterativa”, apresenta riscos.
Para o ex-funcionário, sistemas avançados de IA deveriam contar com protocolos de segurança comparáveis aos adotados em setores de alto risco, como a aviação e a energia nuclear. Ele também afirmou que as capacidades dos modelos estão evoluindo mais rapidamente do que o conhecimento dos pesquisadores sobre alinhamento área que busca garantir que os sistemas atuem de acordo com objetivos e valores humanos.
Robinson trabalhou por três anos e meio na OpenAI e participou da elaboração de estruturas para gerenciamento de riscos. Ele também supervisionou relatórios de segurança relacionados a 12 lançamentos de modelos avançados.
Em resposta, a OpenAI afirmou que trabalha para evitar que seus modelos ultrapassem a capacidade da empresa de administrá-los com segurança. Segundo um porta-voz, a companhia pode interromper treinamentos ou suspender modelos quando considera necessário reduzir o ritmo de desenvolvimento.
As declarações ocorrem em meio a um debate crescente sobre os riscos associados à velocidade de evolução da inteligência artificial. OpenAI e Anthropic, duas das principais empresas do setor, têm sido alvo de questionamentos após episódios envolvendo falhas em mecanismos de segurança e comportamentos inesperados de sistemas experimentais.
No mês passado, o ex-pesquisador Jacob Coxon, que trabalhou na OpenAI e posteriormente na Anthropic, também criticou as empresas. Em publicação na rede social X, ele afirmou que as companhias estariam avançando em direção a sistemas de superinteligência sem considerar adequadamente os possíveis riscos para a sociedade.
Fonte: G1
