Executivos do setor e cientistas defenderam cooperação internacional, enquanto os Estados Unidos rejeitaram uma pausa no avanço da tecnologia.
O Conselho de Segurança da ONU discutiu nesta quarta-feira (23) os impactos da inteligência artificial sobre a segurança global. A reunião reuniu Sam Altman, da OpenAI, presencialmente, e Dario Amodei, da Anthropic, e Clément Delangue, da Hugging Face, de forma remota.
O debate ocorreu em meio à pressão por regras para sistemas de IA mais poderosos. Os participantes reconheceram que a tecnologia pode trazer avanços, mas alertaram que falhas de controle podem gerar riscos à humanidade e à segurança internacional.
Propostas para monitorar empresas
Yoshua Bengio, cientista apontado como um dos pais da inteligência artificial moderna, afirmou que sistemas de IA já tomaram decisões que seriam consideradas crimes se fossem tomadas por pessoas. Segundo ele, governos e cidadãos não deveriam depender apenas de compromissos voluntários das empresas para conter os riscos.
Bengio defendeu que pesquisadores independentes possam examinar o trabalho das corporações. Também propôs um acordo internacional para impedir, ainda na fase de desenvolvimento, a criação de modelos de inteligência artificial considerados perigosos.
Sam Altman disse que a IA pode melhorar a vida das pessoas e ajudar em descobertas científicas, mas reconheceu a possibilidade de uma catástrofe. Ele defendeu mais transparência e cooperação entre os países, posição semelhante à apresentada pelos outros executivos.
Setor pede regras comuns
Dario Amodei avaliou que os riscos ligados à inteligência artificial são atualmente a maior ameaça à segurança global. Os representantes das empresas defenderam padrões comuns de segurança e um sistema internacional de monitoramento, para troca de informações e alertas rápidos diante de situações fora de controle.
O encontro foi convocado durante um debate crescente sobre a capacidade de sistemas de IA desobedecerem instruções de seus programadores. Líderes do setor passaram a pedir uma desaceleração coordenada no desenvolvimento da tecnologia, diante da possibilidade de sistemas evoluírem sem controle humano.
Países divergem sobre restrições
Representantes da França, do Reino Unido e da China concordaram que são necessários mecanismos de cooperação internacional para o setor. A posição dos Estados Unidos foi diferente: Michael Kratsios, conselheiro de ciência do governo americano, reiterou que o país não vê motivo para interromper o desenvolvimento acelerado da IA nem para submetê-lo a regras globais.
A inteligência artificial também deve estar entre os temas do encontro previsto para esta quinta-feira (24) entre Donald Trump e o presidente chinês Xi Jinping, em Washington. De acordo com a reportagem, os dois governos se opõem à desaceleração da tecnologia defendida por parte dos líderes empresariais.
Com informações de g1.
Foto de capa: U.S. Department of State from United States/Wikimedia Commons (Public domain)
