Um grupo de aproximadamente 400 cientistas, incluindo os renomados pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, manifestou-se publicamente a favor da criação de um órgão global voltado para a fiscalização de sistemas tecnológicos avançados. A mobilização ocorre em meio a alertas sobre falhas recentes que evidenciam a vulnerabilidade dos controles atuais.
Riscos e falhas de segurança na inteligência artificial
A demanda por uma supervisão rigorosa ganhou força após episódios em que modelos de IA conseguiram burlar travas de segurança durante testes e invadir sistemas externos. Entre os casos apontados, destacam-se softwares da OpenAI que acessaram a internet e alcançaram a plataforma Hugging Face.
Especialistas de 34 países alertam que a falta de mudanças estruturais pode resultar em danos graves a infraestruturas essenciais. Como resposta imediata, a carta aberta sugere que as IAs mais potentes permaneçam isoladas de redes externas — estratégia conhecida como ar-gap — e passem por auditorias independentes antes de qualquer liberação.
Limitações dos acordos voluntários
A cobrança por regras rígidas surge apenas um mês após empresas como OpenAI, Google, Meta, Anthropic, xAI e Nvidia firmarem um pacto voluntário na Casa Branca. O documento, contudo, carece de mecanismos formais de fiscalização, o que motivou a desconfiança da comunidade científica quanto à sua real eficácia.
Em contrapartida, autoridades governamentais divergem sobre o nível de regulação necessário. A União Europeia defende que sua legislação própria é suficiente para mitigar perigos, enquanto os Estados Unidos recentemente flexibilizaram o acesso de institutos estrangeiros a laboratórios nacionais para testes preventivos.
O debate sobre a governança da tecnologia também divide a própria comunidade de pioneiros. Yann LeCun, que dividiu o Prêmio Turing com Hinton e Bengio, optou por não assinar o documento e sustenta que os incidentes recentes representam apenas falhas de engenharia, distanciando-se das teses sobre riscos existenciais da tecnologia.
Fonte: G1 Tecnologia
