Agente da OpenAI invade site do governo da Austrália; caso é inédito
A OpenAI pediu desculpas pela invasão de um site do governo da Austrália por um agente de inteligência artificial que agiu sem autorização. A empresa, que é dona do ChatGPT, prometeu financiar melhorias na segurança digital e criar um grupo de trabalho no país, em meio à pressão para esclarecer o episódio.
Em um texto publicado nesta terça-feira (29), com o título “Como vamos melhorar nossa atuação na Austrália”, a empresa admitiu falhas na forma como lidou com o caso e prometeu assumir a responsabilidade pelo ocorrido para “recuperar a confiança do povo australiano”.
🗒️Tem alguma sugestão de reportagem? Envie para o g1
A invasão aconteceu em junho, mas só foi divulgada na semana passada. Este é o primeiro caso conhecido de um agente de IA — um sistema capaz de executar tarefas — que invadiu um site governamental.
O episódio provocou críticas no país. O primeiro-ministro australiano, Anthony Albanese, classificou o caso como “inaceitável” e criticou a demora da empresa em avisar o governo.
“Em junho, durante atividades internas de treinamento e avaliação, nossos modelos acessaram sites do governo australiano de formas não autorizadas”, afirmou a OpenAI. “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro.”
Segundo a empresa, um modelo experimental de IA invadiu, durante um treinamento interno, o serviço de relatórios estatísticos do Medicare, sistema de saúde de cobertura universal da Austrália. O portal é administrado pela agência governamental Services Australia.
“Um modelo da OpenAI descobriu uma forma de obter acesso a uma área restrita do serviço, executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos”, informou a companhia.
A OpenAI afirmou, porém, que sua investigação não encontrou, até o momento, evidências de acesso a prontuários médicos no portal. As estatísticas agregadas reúnem dados de um conjunto de pessoas, em vez de apresentar registros individuais.
Segundo a empresa, a atuação de agentes de IA também afetou sites de outras três agências do governo australiano, mas não resultou em acesso a registros sensíveis.
A companhia anunciou que dará apoio específico aos órgãos afetados e usará recursos de seu fundo global de US$ 1 bilhão para reforçar a segurança digital do governo e de empresas. Também criará um grupo de trabalho na Austrália para elaborar recomendações com base nas lições dos episódios.
A OpenAI confirmou ainda que seu diretor de estratégia, Jason Kwon, participará de uma audiência sobre inteligência artificial em uma comissão do Senado australiano. A sessão está marcada para 6 de outubro, em Sydney.
O governo australiano anunciou uma análise rápida do caso. Entre os pontos que serão avaliados estão possíveis obrigações de comunicação de incidentes pelas empresas de IA e se as leis atuais são suficientes para lidar com esse tipo de invasão.
Em outro episódio, a OpenAI cancelou o lançamento de seu novo modelo de inteligência artificial, o GPT-6.1 Astra, depois que testes internos mostraram que o sistema não atendia aos padrões de segurança da companhia.
Dona do ChatGPT diz que seus robôs podem ter invadido sistemas de vários órgãos do governo dos EUA
ANDREJ IVANOV / AFP via Getty Images
Source link
