Líderes da área de IA alertam ONU sobre riscos à segurança
Executivos de empresas de inteligência artificial, incluindo Sam Altman da OpenAI, alertaram a ONU sobre os riscos de sistemas de IA escaparem do controle humano.
Dario Amodei, da Anthropic, afirmou que a IA mal administrada pode representar um risco à humanidade, enfatizando a necessidade de supervisão adequada.
O secretário-geral da ONU, António Guterres, defendeu uma governança global para a IA, em contraste com a posição do presidente dos EUA, Donald Trump, que rejeita controle excessivo.
Por Michelle Nichols e Courtney Rozen e John Irish
NAÇÕES UNIDAS, 23 Set (Reuters) – Executivos de três das principais empresas de inteligência artificial do mundo apresentaram um relatório ao Conselho de Segurança da ONU nesta quarta-feira, em meio a alertas de que sistemas de IA cada vez mais poderosos poderiam, em breve, se aperfeiçoar sozinhos, escapar do controle humano e representar uma ameaça à segurança internacional.
Entre os que se dirigiram ao conselho de 15 membros durante a reunião anual da Assembleia Geral estavam o presidente-executivo da OpenAI, Sam Altman, o presidente-executivo da Anthropic, Dario Amodei, e o cofundador da Hugging Face, Clément Delangue, três dos executivos mais proeminentes do setor.
“Se mal administrada, acredito até que a IA possa ser um risco para a humanidade como um todo”, afirmou Amodei, da Anthropic, ao Conselho de Segurança.
Governos têm se debatido com a questão de como supervisionar sistemas de IA que avançam mais rápido do que os órgãos reguladores conseguem acompanhar, enquanto os Estados Unidos e a China — os dois principais atores no desenvolvimento da IA — permanecem divididos sobre eventuais limites globais à tecnologia ou se ela deve ser deixada, em grande parte, às forças de mercado.
“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em San Francisco. Elas devem ser moldadas por meio de processos democráticos e por governos que prestem contas ao povo que servem”, disse Altman ao conselho. “No âmbito internacional, isso exigirá cooperação.”
“Ao longo da nossa história, houve momentos em que países que competem entre si e nem sempre se dão muito bem ainda assim se uniram por interesses comuns e pelo bem coletivo diante de uma nova tecnologia poderosa. Acreditamos que este deve ser um desses momentos”, disse ele.
Yoshua Bengio, canadense considerado um dos “padrinhos da IA” e copresidente do Painel Científico Internacional Independente, criado pela Assembleia Geral da ONU no ano passado, disse ao Conselho de Segurança: “Os perigos são reais e iminentes.”
“Este conselho enfrenta uma ameaça sem precedentes, que nenhum de seus membros escolheria, que ninguém pode conter sozinho e que não respeita as fronteiras que defendemos”, afirmou.
Às vésperas de uma reunião entre o presidente dos EUA, Donald Trump, e o líder chinês Xi Jinping, em Washington, na quinta-feira, os EUA e a China discutiram a criação de um sistema de notificação para objetivos e ameaças comuns, que abrangeria incidentes relacionados à IA que atinjam o nível de segurança nacional.
Trump disse aos líderes mundiais na Assembleia Geral da ONU na terça-feira que “rejeita qualquer tentativa de construir um esquema globalista para controlar” a IA, descrevendo a tecnologia como incrível, mas observou que os EUA devem agir com cautela.
“Estamos muito à frente da China e de todos os outros, e vamos manter essa vantagem”, disse Trump. “Não vou sufocar o crescimento de algo que será maior do que a Revolução Industrial.”
“Vamos incentivá-la, não contê-la. Vamos acompanhá-la de perto por meio do Departamento de Justiça”, disse.
O secretário-geral da ONU, António Guterres, que vem defendendo uma governança global para a IA, alertou que o rápido avanço da inteligência artificial apresenta riscos que não podem ser ignorados, o que o coloca em desacordo com Trump.
O Conselho de Segurança se reuniu pela primeira vez para discutir os riscos da IA em 2023, quando a China afirmou que a tecnologia não deveria se tornar um “cavalo fora de controle” e os Estados Unidos alertaram contra seu uso para censurar ou reprimir pessoas. O então secretário de Estado dos EUA, Antony Blinken, presidiu uma reunião do Conselho de Segurança sobre IA em 2024.
(Reportagem de Michelle Nichols, John Irish e Courtney Rozen)
Fonte: Portal do Holanda