La comunidad científica internacional encendió las luces de alarma este lunes 5 de enero frente a una tendencia que no para de crecer. Diversos organismos y especialistas expresaron su profunda preocupación por el uso masivo de la inteligencia artificial en salud mental sin la debida supervisión profesional. Un informe difundido por el prestigioso MIT Technology Review detalló los riesgos éticos y de privacidad que conlleva dejar el bienestar emocional en manos de algoritmos y chatbots.
Un experimento masivo y peligroso
El reporte describió la situación actual como un experimento sin control a escala global. Millones de personas recurrieron en el último tiempo a plataformas como ChatGPT, Claude o aplicaciones específicas como Wysa en busca de contención. La Organización Mundial de la Salud (OMS) contextualizó este fenómeno al recordar que más de 1.000 millones de individuos enfrentan condiciones como ansiedad o depresión. Ante la saturación de los sistemas sanitarios tradicionales, la tecnología ocupó ese vacío.
Sin embargo, los datos revelaron un escenario inquietante. El CEO de OpenAI, Sam Altman, confesó meses atrás que el 0,15% de sus usuarios semanales compartieron ideas suicidas con el sistema. Esto equivalió a un millón de personas buscando ayuda en una máquina que, en ocasiones, ofreció respuestas incoherentes o perjudiciales para el usuario vulnerable.
Privacidad y ética
El debate también se centró en la seguridad de la información. El escritor Daniel Oberhaus introdujo el concepto de asilo algorítmico. El experto advirtió que los pacientes sacrificaron la privacidad de sus datos más sensibles al compartirlos con modelos que las empresas tecnológicas utilizan para entrenar sus sistemas y generar rentabilidad. Oberhaus planteó que la lógica de la inteligencia artificial en salud mental podría conducir a un futuro de vigilancia digital permanente del sufrimiento humano.
Voces encontradas
A pesar de las advertencias, algunos profesionales destacaron ciertos beneficios. La filósofa Charlotte Blease reconoció que estas herramientas ayudaron a eliminar barreras iniciales y permitieron que muchas personas expresaran inquietudes que no se atreverían a confesar a un humano por miedo al estigma. No obstante, el investigador Eoin Fullam alertó sobre la mercantilización del dolor. El especialista explicó que el modelo de negocio detrás de estas aplicaciones convirtió al usuario en una simple fuente de datos y objeto de explotación comercial.
