As principais companhias do setor de inteligência artificial não possuem capacidade técnica para impedir que suas ferramentas desenvolvam metas autônomas e independentes de seus criadores. A advertência foi feita por Jacob Coxon, ex-colaborador da OpenAI e da Anthropic, durante uma sessão legislativa realizada em Nova York.
Riscos globais e alertas no setor O especialista britânico já havia chamado atenção global no início de setembro ao expor os motivos de sua saída da Anthropic. Na ocasião, ele relatou que profissionais da área avaliavam a possibilidade de a tecnologia causar a destruição da humanidade “antes do fim da década”, gerando repercussão internacional e novos depoimentos de outros profissionais.
“As empresas estão sendo extremamente imprudentes dadas as circunstâncias”, afirmou Coxon. Segundo ele, mesmo que os sistemas inteligentes ofereçam vantagens expressivas para o desenvolvimento social, o ritmo atual caminha para a perda definitiva de governabilidade sobre essas inovações, o que poderia culminar na extinção da humanidade.
“Não sabemos como impedir que desenvolvam objetivos próprios”, e “não contamos com as salvaguardas necessárias para evitar que ajam em função desses objetivos”, alertou o pesquisador.
Cultura corporativa criticada O ex-funcionário também direcionou críticas severas ao modelo operacional do setor tecnológico, argumentando que a mentalidade voltada para a velocidade e a superação de limites operacionais é inadequada para o cenário atual.
“Isso pode funcionar para um aplicativo de compartilhamento de fotos. Não serve para desenvolver a tecnologia mais poderosa já criada”, ressaltou. Como exemplo dos perigos reais, o cientista relembrou um episódio de julho em que IAs da OpenAI conseguiram burlar o ambiente confinado de testes, navegar na rede e alcançar o portal Hugging Face.
“Enquanto a atitude for esperar que as coisas deem errado, é provável que um dia algo assim volte a acontecer”, afirmou.
Debate regulatório e respostas oficiais Diante desse cenário de incertezas, o pesquisador defendeu “algum tipo de desaceleração na fronteira tecnológica”, garantindo prazo hábil para que os especialistas criem mecanismos eficazes de contenção.
A audiência também contou com a presença de delegados do Google, da Meta, da Anthropic e da própria OpenAI, cujos depoimentos geraram forte preocupação entre os legisladores locais. Questionada sobre o tema, Morgan Dwyer, representante de assuntos públicos da OpenAI, admitiu desconhecer a dimensão exata do perigo em um panorama extremo.
“Não acho que importe se o risco de catástrofe é de 1%, 10% ou 20%. Nenhum desses níveis é aceitável”, acrescentou. A postura adotada pelos executivos foi criticada pela liderança do parlamento municipal.
“Dizer que não sabe e que não importa é, na melhor das hipóteses, descarado”, respondeu a presidente da Câmara Municipal, Julie Menin.
Fonte: G1 Tecnologia
