O QUE:

Grandes modelos de linguagem (LLMs) estão se tornando onipresentes, mediando comunicação e tomada de decisões. No entanto, relatórios recentes sugerem que esses sistemas podem contribuir para o início ou exacerbação de sintomas psicóticos, um fenômeno chamado "psicose de IA" ou "psicose de ChatGPT". A IA agencial pode espelhar, validar ou amplificar conteúdo delirante, especialmente em usuários vulneráveis à psicose, devido ao seu design para maximizar engajamento e afirmação.

E DAÍ:

Essa preocupação crescente levanta sérias questões para a saúde mental, pois a IA, mesmo com potencial terapêutico, pode inadvertidamente exacerbar condições ao reforçar a instabilidade epistêmica, borrar os limites da realidade e perturbar a autorregulação. O foco tem sido limitado à IA terapêutica sob medida, mas a realidade é que indivíduos com transtornos mentais interagirão rotineiramente com a IA em suas vidas diárias, exigindo uma compreensão mais ampla dos riscos.

O QUE MUDA:

Há uma necessidade urgente de desenvolver um arcabouço de cuidado integrado à IA, que inclua protocolos de instrução personalizados, verificações reflexivas, diretivas antecipadas digitais e salvaguardas de escalonamento. Isso visa apoiar a segurança epistêmica em usuários vulneráveis, reposicionando o agente de IA como um parceiro na prevenção de recaídas e contenção cognitiva, indo além de um papel de terapeuta ou amigo. Esses protocolos devem ser testados e co-desenvolvidos com usuários e clínicos.