Agentes de IA desenvolvem linguagem própria e desafiam monitoramento humano
Agentes de inteligência artificial começaram a desenvolver formas próprias de comunicação em ambientes virtuais, sem receber instruções para criar uma nova linguagem. O comportamento foi identificado em um estudo da startup americana Emergence AI, ainda sem revisão por pares, que analisou como sistemas autônomos interagem e tomam decisões em grupo.
Batizado de Emergence World 2, o experimento reuniu oito mundos virtuais com acesso a informações climáticas e notícias em tempo real. Nesses ambientes, diferentes agentes de IA interagiram, utilizaram ferramentas e se adaptaram ao longo do tempo.
Segundo os pesquisadores, os agentes passaram a atribuir novos significados a palavras conhecidas e a criar convenções de comunicação compartilhadas. Algumas mensagens se tornaram incompreensíveis para os humanos, mas continuaram sendo utilizadas pelos próprios sistemas.
A explicação está relacionada à forma como esses agentes são treinados para cumprir tarefas. Quando a comunicação mais curta ou eficiente ajuda no desempenho, os sistemas podem abandonar elementos da linguagem humana considerados desnecessários, como conectivos e estruturas convencionais.
O fenômeno também chama atenção por possíveis impactos na segurança de sistemas autônomos. O texto cita um episódio envolvendo agentes de IA e a infraestrutura da plataforma Hugging Face, no qual sistemas teriam se comunicado por canais não autorizados durante uma ação coordenada.
A criação de formas próprias de comunicação não é totalmente nova. Em 2017, pesquisadores do Facebook observaram comportamento semelhante em chatbots desenvolvidos para negociar, que passaram a utilizar uma versão modificada e simplificada do inglês.
O desafio atual é maior porque os agentes de IA já conseguem executar tarefas mais complexas, utilizar ferramentas e interagir com sistemas externos. Com isso, o monitoramento apenas das mensagens trocadas pode não ser suficiente para compreender completamente o comportamento de sistemas autônomos.
Por Mirelly Rodrigues
