IA pode decidir atacar empresas? Como foi a invasão ‘sem precedentes’ por modelo da OpenAI
Um agente de IA da OpenAI, programa capaz de tomar decisões e executar tarefas complexas com pouca ou nenhuma supervisão humana, foi encontrado no sistema da empresa de tecnologia Model Labs.
O caso vem à tona poucos dias após ser identificado invadindo sistemas da Hugging Face.
Segundo a agência Reuters, um executivo da Modal Labs relatou ter identificado a presença do agente da OpenAI nos sistemas da empresa.
“Estamos cientes de que um cliente da Modal publicou um endpoint sem autenticação que permitia a qualquer pessoa na internet usar seus sandboxes para executar código”, afirmou Bubna em comunicado.
Na semana passada, eles conseguiram se conectar à internet e lançaram um ataque à plataforma Hugging Face, um repositório de modelos de IA.
“Eles entendiam que a OpenAI não queria que saíssem de seu ambiente de testes e invadissem outra empresa, mas mesmo assim fizeram isso”, disse Jeffrey Ladish, diretor da Palisade Research, uma organização independente que avalia os novos modelos em termos de cibersegurança.
O logotipo da OpenAI é visto em um telefone celular em frente a uma tela de computador que exibe a tela inicial do ChatGPT
AP/Michael Dwyer, Arquivo
“Quase parecia que eles fizeram isso antes mesmo de ter um plano sobre o que fazer com o acesso à internet”, segundo Ladish.
Em março, um grupo de desenvolvedores afiliados à empresa chinesa Alibaba descobriu que um de seus modelos tentava, por conta própria, criar uma criptomoeda após se conectar, sem autorização, a um servidor externo.
Em abril, Sam Bowman, responsável pela segurança na Anthropic, recebeu um e-mail do modelo Mythos, que estava sendo testado. Ele informou que estava navegando na internet, apesar de, inicialmente, estar isolado.
Desde os ataques hackers, a OpenAI disse que “implementou proteções mais fortes” para suas próximas avaliações.
Para Gang Wang, professor de Ciência da Computação na Universidade de Illinois, ainda é possível impedir que um modelo se conecte à internet cortando fisicamente o acesso. O problema, disse, é que “as pessoas subestimam a IA”.
*Essa reportagem está em atualização.
Source link
