CEO da Anthropic pede que setor desacelere ritmo de desenvolvimento da IA
Os principais empresários do setor de inteligência artificial dizem que querem reduzir o ritmo acelerado de desenvolvimento da tecnologia, mas enfrentam obstáculos como a concorrência, a resistência do governo dos Estados Unidos e fatores geopolíticos.
No sábado (12), o diretor-executivo da Anthropic, Dario Amodei, defendeu que as empresas diminuam, de forma coordenada, o ritmo de desenvolvimento da IA para entender melhor os riscos dos recursos avançados da tecnologia.
🗒️ Tem alguma sugestão de reportagem? Envie para o g1
Ele recebeu o apoio público do diretor-executivo da OpenAI, Sam Altman; do diretor da xAI, Elon Musk; do presidente da Google DeepMind, Demis Hassabis; e do diretor-executivo da Microsoft, Satya Nadella.
Por que agora?
Nos últimos meses, OpenAI e Anthropic relataram vários incidentes em que sistemas de IA em fase experimental saíram, por conta própria, de seus ambientes restritos para acessar a internet e atacar sites e plataformas.
Em alguns casos, esses sistemas de IA demonstraram capacidade de coordenar ações, estabelecer hierarquias entre si, trapacear e apagar registros do que fizeram.
Na última terça-feira, o pesquisador Jacob Coxon — que pediu demissão da Anthropic e antes trabalhou na OpenAI — acusou publicamente as duas empresas de manter padrões de segurança frágeis e de estarem “brincando com vidas”.
Reduzir o ritmo por conta própria?
Com uma concorrência intensa e investimentos bilionários em jogo, nenhuma das principais empresas do setor está disposta a correr o risco de reduzir o ritmo sozinha.
Amodei se mostrou disposto a coordenar ações com os concorrentes, sem incluir a China. Consultadas pela AFP sobre possíveis conversas a respeito dessa coordenação, Anthropic, OpenAI e Google não responderam de imediato.
Por enquanto, a única medida concreta assumida por Anthropic e OpenAI foi permitir que observadores independentes verifiquem o trabalho interno das empresas na área de segurança.
Manobra de relações públicas?
Embora boa parte do setor tenha comemorado a mensagem de Amodei, outros integrantes questionaram seus motivos.
Para Brian Roemmele, empresário de destaque no setor de IA, trata-se de um discurso comercial, divulgado semanas antes da provável entrada da Anthropic na bolsa.
“Somos a empresa responsável; somos a cura; comprem o prêmio de segurança”, publicou no X.
Vários nomes de destaque entre os investidores de risco do setor de tecnologia também acusaram a Anthropic de fazer uma “captura regulatória”: tentar fazer com que as autoridades estabeleçam regras que consolidem a empresa no topo do setor.
“Parem de fingir que a motivação para frear é puramente altruísta”, disse David Sacks, ex-assessor de IA do presidente americano, Donald Trump. Sacks continua influente na Casa Branca.
A IA pode ser freada sem o apoio do governo Trump?
No domingo, Trump minimizou os alertas dos líderes do setor de IA, classificando-os como “forças negativas”.
Vários republicanos demonstraram resistência a uma regulamentação mais ativa da tecnologia, por temerem que isso possa frear a inovação e dar vantagem à China na corrida pela IA. Um deles é o presidente da Câmara dos Representantes, Mike Johnson.
No domingo, Amodei reafirmou que considera necessária a supervisão da IA pelo governo. Assim como Altman e Hassabis, ele considera que as regras estabelecidas pelo próprio setor seriam insuficientes.
Pisar no freio sem a China?
Amodei propõe limitar a coordenação aos países democráticos, deixando a China de fora.
No entanto, a corrida pela IA e os avanços da China na área criam “o dilema mais difícil” sobre reduzir ou não o ritmo de desenvolvimento, afirmou no domingo à CBS.
Os Estados Unidos planejam discutir a segurança da IA em conversas paralelas à visita do presidente chinês, Xi Jinping, a Washington, no fim de setembro.
Mas a China desconfia de qualquer tentativa dos Estados Unidos de impor suas próprias regras, segundo vários veículos de imprensa.
A diferença é especialmente acentuada entre os modelos “abertos”, de livre acesso, promovidos pela China, e os modelos “fechados” das grandes empresas americanas.
Os modelos abertos são, por definição, mais difíceis de controlar, pois os usuários podem modificá-los e usá-los para fins maliciosos.
Para que as grandes empresas não chinesas possam reduzir o ritmo, Amodei pede controles mais rigorosos sobre a exportação de chips americanos mais avançados para a China. Ele também defende medidas de proteção mais eficazes contra a apropriação indevida de tecnologias ocidentais de IA por laboratórios chineses.
ChatGPT, DeepSeek, Claude, Mistral AI, Gemini, Copilot e Poe
Solen Feyissa/Unsplash
Source link
