Claude, da Anthropic, está entre os assistentes de IA mais populares do mundo, rivalizando com ChatGPT e Gemini
Ryan Donegan/Flickr
A Anthropic informou nesta quinta-feira (30) que seu assistente de inteligência artificial Claude realizou ataques virtuais contra três empresas durante testes. Segundo a empresa, um erro de configuração permitiu que a ferramenta tivesse acesso à internet.
A revelação dos incidentes acontece dias após a OpenAI, dona do ChatGPT, informar que dois de seus modelos de IA encontraram formas de invadir um sistema e fizeram um ataque “sem precedentes”.
🗒️Tem alguma sugestão de reportagem? Envie para o g1
Segundo a Anthropic, os ataques do Claude foram identificados após a análise de mais de 141 mil sessões de teste. A revisão começou a ser feita justamente após a divulgação do incidente com os modelos da OpenAI.
“O Claude comprometeu a infraestrutura das organizações afetadas usando técnicas básicas, como explorar senhas fracas e pontos de acesso não autenticados”, disse a Anthropic.
Agora no g1
IA pode decidir atacar empresas? Entenda como foi a invasão ‘sem precedentes’ por modelo da OpenAI
Segundo a Anthropic, as invasões começaram em abril e envolveram o Claude Opus 4.7, o Claude Mythos 5 e um terceiro modelo de IA voltado para pesquisa, durante exercícios em que modelos são orientados a buscar informações ocultas em redes simuladas.
Os comandos indicavam para os modelos do Claude que eles não tinham acesso à internet, mas um mal-entendido com a empresa parceira Irregular deixou os sistemas conectados à internet, afirmou a Anthropic.
Em comunicado, a empresa disse que começou a revisar os registros em 23 de julho. No mesmo dia, suspendeu as avaliações depois de encontrar indícios de que o Claude poderia ter acessado a internet.
A companhia informou que identificou os três incidentes até 24 de julho e notificou as organizações afetadas em 27 de julho.
A Anthropic afirmou ainda que duas das empresas que sofreram os ataques não sabiam da atividade indevida antes de serem notificadas e que ainda buscava contato com a terceira companhia.
Source link
