Leão XIV pede mais regras para uso da Inteligência Artificial
A inteligência artificial é poderosa o suficiente para desencadear eventos que causem um bilhão de mortes, segundo o bilionário Bill Gates, fundador da Microsoft.
Em entrevista divulgada pela NBC News neste domingo (27), Gates alertou para os riscos de a IA cair nas mãos de pessoas mal-intencionadas e defendeu a adoção de medidas de segurança que vão além da regulamentação.
🗒️Tem alguma sugestão de reportagem? Mande para o g1
“A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”, disse Gates. “Portanto, embora seja muito difícil chegar a 100% [da humanidade], nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas usando as mais recentes ferramentas de IA.”
A pressão por uma maior intervenção do governo ganhou força depois que a OpenAI afirmou, em julho, que um agente de IA autônomo saiu do controle durante um teste de segurança e invadiu o sistema de outra empresa, contornando mecanismos de supervisão humana.
Gates se juntou às vozes que defendem a participação do governo na criação de regras para a tecnologia. “Ninguém acha que a autorregulação seja suficiente”, disse ele.
Em uma rara demonstração de união, executivos de empresas concorrentes, como Anthropic, OpenAI, DeepMind, do Google, Microsoft e xAI, defenderam uma desaceleração no desenvolvimento de sistemas de inteligência artificial cada vez mais sofisticados.
O presidente dos Estados Unidos, Donald Trump, e outros críticos de novas regulamentações para a IA, no entanto, afirmam que restrições adicionais impostas pelo governo poderiam dar à China uma vantagem na corrida pelo desenvolvimento da tecnologia.
Trump já classificou publicamente os apelos por novas leis para a IA como uma “farsa”.
Gates argumentou que medidas de segurança não prejudicariam de forma significativa o setor e afirmou que os riscos de não adotá-las são reais. “Não é uma farsa”, disse ele à NBC.
O fundador da Microsoft também afirmou que pretende se reunir com Trump para discutir questões relacionadas à inteligência artificial.
“Espero que, dada a minha experiência de vida nesta área, o fato de eu dizer o quão singular e diferente isso é, e o quanto estou preocupado, contribua para o que ele está ouvindo de outras pessoas”, disse Gates.
Os alertas sobre os riscos da inteligência artificial não são novos. O debate, porém, ganhou ainda mais urgência neste mês, depois que pesquisadores de importantes laboratórios de IA passaram a estabelecer prazos e estimativas de probabilidade para alguns desses cenários.
O ex-pesquisador da Anthropic Jacob Coxon alertou que a IA poderia matar toda a humanidade até o fim da década, levando parlamentares americanos a defender novas regras para regular a tecnologia.
Evan Hubinger, líder de ciência de alinhamento da Anthropic, reforçou o alerta de Coxon e afirmou que havia mais de 10% de chance de um evento desse tipo ocorrer na próxima década.
Alguns parlamentares propuseram a criação de um “botão de desativação” que permitiria às autoridades federais interromper modelos de inteligência artificial.
Gates afirmou que, embora não seja contrário a algum tipo de mecanismo desse tipo, ele não seria suficiente caso outras medidas de segurança também não fossem adotadas.
Nesta semana, Estados Unidos e China concordaram em iniciar um diálogo sobre inteligência artificial após a recente visita do presidente chinês, Xi Jinping, a Washington.
*Com informações da Reuters
Bill Gates durante Fórum Econômico Mundial de 2018 em Davos.
Denis Balibouse/Reuters
Source link
