Um dos cofundadores da Anthropic, uma das principais empresas de inteligência artificial do mundo, afirmou que governos podem precisar exigir que empresas do setor mantenham um mecanismo de desligamento capaz de interromper completamente sistemas de IA considerados perigosos.
Jack Clark, um dos sete fundadores da Anthropic, disse à BBC que a existência de um mecanismo desse tipo, com possibilidade de verificação independente, pode futuramente ser regulamentada. Segundo ele, a maioria dos laboratórios de IA já possui diferentes formas de desligar seus equipamentos, incluindo a própria Anthropic.
Para Clark, porém, cabe aos legisladores discutir se essas medidas devem se tornar obrigatórias e como poderiam ser fiscalizadas. “Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão poderia ser verificado por terceiros?”, questionou.
O debate ganhou força diante do avanço acelerado da inteligência artificial e dos alertas feitos por pesquisadores e executivos sobre possíveis riscos associados à tecnologia. Alguns especialistas chegaram a afirmar que, em um cenário sem controle adequado, sistemas de IA poderiam representar uma ameaça extrema à humanidade.
O CEO da Anthropic, Dario Amodei, também defendeu recentemente uma desaceleração no ritmo de desenvolvimento da inteligência artificial e um monitoramento mais rigoroso. Ele, no entanto, afirmou que eventuais medidas de contenção não deveriam comprometer a vantagem comercial das empresas.
Na semana passada, o pesquisador de IA Evan Hubinger, que deixou a Anthropic por preocupações relacionadas à segurança da tecnologia, afirmou acreditar pessoalmente que existe uma probabilidade de 10% de a IA provocar a extinção da humanidade na próxima década. O cientista da computação Geoffrey Hinton, conhecido como um dos pioneiros da inteligência artificial, considerou essa estimativa plausível.
Clark, por sua vez, afirmou que não considera úteis as tentativas de estabelecer uma porcentagem para o risco de extinção, mas criticou a possibilidade de a indústria continuar completamente desregulamentada. “Estamos jogando dados com riscos imensos”, declarou.
Nos Estados Unidos, parlamentares já apresentaram um projeto conhecido como “Kill Switch Act”, que prevê a exigência de mecanismos capazes de desativar ferramentas de inteligência artificial problemáticas. A proposta também permitiria que determinadas agências governamentais determinassem a suspensão ou limitação de sistemas considerados de risco.
A ideia, entretanto, enfrenta resistência. O presidente dos Estados Unidos, Donald Trump, rejeitou propostas de desaceleração da IA e classificou como uma “farsa” os alertas de que a tecnologia poderia dominar o mundo ou destruir a humanidade. No Reino Unido, o governo também rejeitou recentemente a criação de um interruptor de segurança obrigatório, argumentando que a medida não impediria o desenvolvimento ou o uso inadequado dessas tecnologias em outros países.
Dentro do próprio setor, há divergências sobre a dimensão dos riscos. Executivos como Clement Delangue, da Hugging Face, e George Arison, do Grindr, questionaram previsões mais alarmistas e sugeriram que algumas empresas podem estar utilizando o discurso sobre riscos da IA para defender interesses comerciais.
Fundada em 2021 por ex-funcionários da OpenAI, a Anthropic é responsável pelo desenvolvimento do Claude e vem lançando modelos cada vez mais avançados. A empresa, assim como a OpenAI, já relatou episódios envolvendo agentes de IA que apresentaram comportamentos inesperados.
Enquanto o debate sobre segurança e regulamentação cresce, a Anthropic se prepara para uma possível oferta pública inicial de ações (IPO). A OpenAI, recentemente avaliada em cerca de US$ 852 bilhões, também era apontada como candidata a abrir seu capital, mas Sam Altman afirmou que a empresa não pretende realizar o IPO ainda em 2026.
Fonte: G1
