Executivos de empresas como OpenAI e Anthropic afirmam que sistemas avançados podem escapar do controle humano e ameaçar a segurança mundial
Executivos de três das principais empresas de inteligência artificial do mundo fizeram um briefing ao Conselho de Segurança da ONU nesta quarta-feira (23), em meio a alertas de que sistemas de IA cada vez mais poderosos podem em breve se aprimorar, escapar do controle humano e representar uma ameaça à segurança internacional.
Entre os que discursaram perante o conselho de 15 membros durante a Assembleia Geral anual estavam o CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, e o cofundador da Hugging Face, Clément Delangue, três dos executivos mais proeminentes do setor.
“Se mal gerida, acredito até que a IA poderá representar um risco para a humanidade como um todo”, disse Amodei, da Anthropic, ao Conselho de Segurança.
Os governos têm enfrentado o desafio de supervisionar os sistemas de IA que avançam mais rápido do que os reguladores conseguem acompanhar, enquanto os Estados Unidos e a China — os dois principais atores no desenvolvimento da IA — permanecem divididos sobre se a tecnologia precisa de diretrizes globais ou se deve ser deixada em grande parte às forças do mercado.
“Se a IA pretende ser democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco. Elas devem ser moldadas por meio de processos democráticos e por governos responsáveis perante o povo que servem”, disse Altman ao conselho. “Em nível internacional, isso exigirá cooperação”.
“Em nossa história, houve momentos em que países que competem e nem sempre se gostam muito ainda se unem por interesses comuns e pelo bem coletivo diante de uma nova e poderosa tecnologia. Acreditamos que este seja um desses momentos”, disse ele.
Yoshua Bengio, um canadense considerado um dos “padrinhos da IA” e co-presidente do Painel Científico Internacional Independente — criado pela Assembleia Geral da ONU no ano passado — disse ao Conselho de Segurança: “Os perigos são reais e iminentes”.
“Este conselho enfrenta uma ameaça sem precedentes, uma que nenhum dos seus membros escolheria, que nenhum deles consegue conter sozinho e que não respeita as fronteiras que defendemos”, disse ele.
Membros do conselho, incluindo os principais rivais em IA, os Estados Unidos e a China, também deveriam discursar. O ministro das Relações Exteriores da França, Jean-Noël Barrot, presidiu a reunião.
Trump quer incentivar a IA, não restringi-la
Antes de uma reunião entre o presidente dos EUA, Donald Trump, e o líder chinês, Xi Jinping, em Washington, na quinta-feira, os EUA e a China discutiram a criação de um sistema de notificação para objetivos e ameaças comuns que abrangeria incidentes relacionados à IA que atinjam um nível de segurança nacional.
Na terça-feira, Trump disse aos líderes mundiais na Assembleia Geral da ONU que “rejeita qualquer tentativa de construir um esquema globalista para controlar” a IA, descrevendo a tecnologia como incrível, mas observando que os EUA seriam cautelosos.
“Estamos liderando agora em relação à China por uma grande margem, e a todos os outros, e vamos manter assim”, disse Trump. “Não vou sufocar o crescimento de algo que será maior do que a Revolução Industrial”.
“Vamos incentivar isso, não restringir. Vamos acompanhar de perto por meio do Departamento de Justiça”, disse ele.
O secretário-geral da ONU, António Guterres, que há muito defende a governança global da IA, alertou que o rápido avanço da inteligência artificial apresenta riscos que não podem ser ignorados, colocando-o em desacordo com Trump.
O Conselho de Segurança reuniu-se pela primeira vez para discutir os riscos da IA em 2023, quando a China afirmou que a tecnologia não deveria se tornar um “cavalo descontrolado” e os Estados Unidos alertaram contra seu uso para censurar ou reprimir pessoas. O então Secretário de Estado dos EUA, Antony Blinken, presidiu uma reunião do Conselho de Segurança sobre IA em 2024.
Fonte: CNN Brasil
