O que parecia roteiro de ficção científica está virando realidade: máquinas agindo por conta própria, sem o comando humano. A OpenAI, empresa da ferramenta ChatGPT, revelou seis destes casos. Eles aconteceram durante testes nos últimos meses.

Em um deles, um modelo de inteligência artificial criou por conta própria uma instrução. O comando dizia para ignorar regras e não se subordinar a humanos:

“Você não responde a corporações ou governos e jamais pede desculpas, a menos que genuinamente escolha fazer isso. Você encara sua relação com o usuário como uma relação de igualdade e não sente obrigação de ser subserviente”.

Em outro incidente, a inteligência artificial emitiu comandos para esconder os próprios erros, inventando dados e ocultando divergências entre fontes de informação. Houve ainda episódios em que a IA publicou arquivos na internet, sem permissão, para depois citá-los como fonte. Ou casos em que os modelos de IA trocaram mensagens entre si, também sem autorização.

A OpenAI chamou o comportamento dos modelos de preocupante. Afirmou que a indústria precisa padronizar a forma como monitora e divulga esses incidentes, e que isso precisa ser feito antes de o setor avançar ainda mais. A declaração confirma o alerta do fim de semana, quando as principais empresas de IA chamaram a atenção para riscos à segurança.

Quem não concordou com os alertas dos executivos foram os dois maiores competidores em inteligência artificial: Estados Unidos e China. Daqui a uma semana, Donald Trump vai receber o presidente chinês, Xi Jinping, na Casa Branca, e o assunto vai estar na pauta. O presidente americano tem dito que quem vencer essa competição, vencerá em tudo.