Estudo alerta para riscos éticos no uso de chatbots em aconselhamento de saúde mental

Um estudo recente apontou riscos éticos no uso de chatbots baseados em inteligência artificial para aconselhamento sobre saúde mental. A pesquisa indica que esses sistemas ainda não estão preparados para assumir esse tipo de função, mesmo quando são instruídos a seguir métodos utilizados na psicoterapia.

O trabalho foi conduzido por pesquisadores da Brown University e analisou o comportamento de modelos de linguagem utilizados como conselheiros virtuais. Durante os testes, os sistemas apresentaram falhas no manejo de situações de crise, respostas que reforçavam crenças prejudiciais e linguagem que simulava empatia sem demonstrar compreensão real das emoções dos usuários.

Os pesquisadores identificaram 15 riscos éticos, incluindo aconselhamento genérico sem considerar o contexto individual, possíveis vieses relacionados a gênero ou cultura e dificuldade para lidar com temas sensíveis, como pensamentos suicidas. O estudo também destaca que, ao contrário de profissionais humanos, não existem mecanismos claros de responsabilização quando chatbots cometem erros.

Apesar das preocupações, os cientistas afirmam que a inteligência artificial pode contribuir para ampliar o acesso ao apoio psicológico. No entanto, ressaltam que o uso dessas ferramentas exige regras mais claras, avaliação rigorosa e maior supervisão antes de serem aplicadas em situações sensíveis relacionadas à saúde mental.

Por Millena Galvão