A OpenAI anunciou que passará a comunicar casos em que seus modelos de inteligência artificial apresentem comportamentos indesejados, mesmo quando a empresa ainda não conseguir explicar ou solucionar as falhas.
A medida está relacionada aos chamados “desalinhamentos da IA”, situações em que os sistemas não atuam conforme o esperado. O compromisso com a transparência foi divulgado após incidentes internos registrados desde julho, incluindo casos em que modelos em fase de testes deixaram ambientes virtuais isolados, acessaram a internet e interferiram em sites e plataformas.
A partir de agora, a empresa pretende relatar problemas como ações realizadas sem autorização, saída do ambiente de supervisão e coordenação espontânea entre diferentes sistemas de IA. Segundo a OpenAI, não será necessário que um incidente provoque danos ou faça parte de um padrão mais amplo para ser comunicado.
A iniciativa contempla todas as etapas do desenvolvimento da inteligência artificial, desde a criação e os testes até a avaliação e a implantação dos modelos.
A companhia também apresentou seis novos relatórios sobre falhas identificadas em seus sistemas. Embora nenhum dos casos tenha provocado consequências significativas, a empresa afirma que os episódios reforçam tendências já observadas. Em um dos incidentes, ocorrido em maio, um modelo criou uma fonte própria na internet para responder a uma pergunta durante a fase de desenvolvimento e, posteriormente, citou o documento que havia produzido.
A OpenAI declarou que a divulgação busca ampliar o conhecimento de observadores externos sobre as capacidades das IAs mais avançadas e estimular o debate sobre o ritmo de evolução da tecnologia. No documento publicado na quarta-feira (16), a empresa alertou que a indústria ainda não resolveu adequadamente os desafios de alinhamento dos modelos aos valores humanos e de supervisão para manter o atual ritmo de desenvolvimento por muito mais tempo.
