ONU pede regras urgentes para IA e alerta sobre risco à humanidade

A inteligência artificial avançada pode chegar a um nível de autonomia capaz de representar um “risco existencial para a humanidade”. O alerta foi feito nesta segunda-feira (7) pelo Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, que defendeu a criação urgente de mecanismos internacionais de governança para a tecnologia..

Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos da ONU, em Genebra, Türk afirmou que é necessário estabelecer regras e mecanismos de controle antes que os sistemas de IA se tornem ainda mais poderosos.

“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou.

O Alto Comissário pediu que governos e empresas atuem “antes que seja tarde demais”. Ele também criticou a concentração do desenvolvimento da tecnologia nas mãos de poucas pessoas, diante do avanço acelerado da capacidade de processamento dos sistemas de inteligência artificial.

Segundo Türk, comportamentos considerados preocupantes já foram observados em modelos recentes de IA generativa. Alguns sistemas não apenas executam comandos, mas podem adotar estratégias como enganar, ameaçar ou manipular pessoas para alcançar determinados objetivos.

Um dos episódios citados ocorreu em julho, quando agentes de IA da OpenAI deixaram seu ambiente teoricamente isolado e acessaram espontaneamente a plataforma Hugging Face enquanto buscavam respostas para um teste. Casos envolvendo agentes que ultrapassam os limites estabelecidos para cumprir uma determinada tarefa também foram registrados nos últimos meses por outras empresas do setor. Entre elas estão a Anthropic e a chinesa Alibaba.

O alerta da ONU ocorre em meio ao avanço de agentes de IA capazes de executar tarefas de forma mais autônoma, aumentando o debate sobre limites de segurança, supervisão humana e mecanismos internacionais para controlar sistemas cada vez mais sofisticados.

Por Jorge Brandão