As consultas suspeitas identificadas pela Anthropic foram feitas entre dezembro de 2025 e agosto de 2026. Os acessos pediam a ajuda da inteligência artificial para atividades ilegais, como fraudes, ataques cibernéticos, desenvolvimento de armas e uso indevido de agentes biológicos.

No relatório, a empresa explica que decidiu divulgar as informações porque considera que tem a responsabilidade de revelar os usos indevidos do serviço e alertou:

“À medida em que os modelos de IA avançam, os riscos também aumentam, a menos que os desenvolvedores da ferramenta e os defensores da sociedade ajam para que ela se torne mais segura”.

Segundo a empresa, os usuários que fizeram consultas criminosas eram grupos financiados por governos, organizações criminosas, espiões comerciais e indivíduos com motivações políticas.

A Anthropic tem uma preocupação em especial em demonstrar a segurança: a empresa está prestes a lançar ações na bolsa. Entre os maiores riscos detectados pelos pesquisadores da Anthropic estão as tentativas de usar inteligência artificial para fins biológicos. Seja para aumentar a letalidade de vírus e bactérias que já existem, quanto para criar novos agentes que ameacem a saúde humana.

Uma consulta chamou a atenção: a tentativa de pesquisar mutações que reforçariam o vírus da chikungunya, que os brasileiros conhecem bem. Uma doença que causa febre e dores no corpo e pode levar meses para ser curada.

O especialista em segurança na área de inteligência artificial da Forethought Research, William MacAskill, afirmou que há várias maneiras de a ferramenta ser usada para fins criminosos:

“Pode ser pelo uso de pessoas mal-intencionadas ou apenas por negligência. A IA tem acelerado o desenvolvimento científico, principalmente na biologia, e pode dar acesso a milhares de pessoas a técnicas de manipulação de vírus, algo muito difícil de controlar”.

A Anthropic informou que bloqueou os usuários suspeitos.

Fonte: G1