As discussões sobre os riscos do avanço da inteligência artificial (IA) ganharam destaque nos últimos dias, após líderes de grandes empresas de tecnologia manifestarem preocupação com a velocidade de desenvolvimento da ferramenta e a necessidade de estabelecer possíveis limites.
O debate foi impulsionado por declarações de Dario Amodei, CEO da Anthropic, empresa responsável pelo Claude. A proposta de maior cautela também recebeu apoio de nomes como Sam Altman, da OpenAI; Elon Musk, da xAI; e Demis Hassabis, do Google DeepMind. Em contrapartida, Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, se posicionaram contra a desaceleração do desenvolvimento da IA. O presidente dos Estados Unidos, Donald Trump, também criticou os defensores de uma pausa no avanço da tecnologia.
Apesar das preocupações, especialistas destacam que a inteligência artificial não possui vontade própria nem consciência. Segundo Edney Souza, professor da ESPM e especialista em tecnologia e inovação, a IA funciona a partir de padrões estatísticos identificados nos dados utilizados durante seu treinamento.
O especialista explica que textos, imagens e vídeos são processados pelos sistemas para reconhecer padrões e gerar respostas. Comportamentos considerados estranhos ou informações incorretas, portanto, não representam uma intenção consciente da tecnologia, mas resultados do processamento dos dados e dos modelos.
Para Diogo Cortiz, especialista em IA e professor da PUC-SP, os sistemas estão se tornando cada vez mais capazes de executar tarefas longas e complexas. Embora não possam se revoltar conscientemente contra os seres humanos, podem produzir decisões que contrariem valores humanos e provoquem prejuízos, dependendo da forma como são utilizados e controlados.
A tecnologia também já apresenta desempenho superior ao humano em determinadas atividades, como memória, identificação de padrões e produção de textos e imagens em larga escala. Entretanto, especialistas alertam que sua evolução pode ampliar os riscos de uso indevido.
Izabela Anholett, especialista em IA e fundadora da Nura AI, afirma que a inteligência artificial pode ser utilizada para causar danos em larga escala, incluindo a criação de novos vírus. Para ela, a ameaça não está em uma suposta vontade própria da IA, mas nas ações das pessoas que desenvolvem e utilizam essas ferramentas.
POR QUE O AVANÇO DA IA GERA PREOCUPAÇÃO?
De acordo com Diogo Cortiz, o debate sobre uma possível pausa no desenvolvimento da tecnologia pode envolver tanto questões de segurança quanto interesses econômicos e estratégicos do setor.
Entre os fatores apontados estão:
- Energia: a expansão da inteligência artificial exige grande capacidade energética e infraestrutura de data centers.
- Retorno financeiro: os investimentos no setor podem levar mais tempo do que o esperado para apresentar resultados.
- Concorrência chinesa: modelos desenvolvidos na China ganham espaço com custos potencialmente menores.
- Regulação: regras mais rigorosas podem dificultar a entrada de novas empresas e favorecer grandes companhias já estabelecidas.
O debate sobre o futuro da inteligência artificial continua envolvendo questões de segurança, economia, concorrência e responsabilidade humana, enquanto os sistemas se tornam cada vez mais avançados.
Fonte: G1
