ChatGPT tendrá control parental desde el próximo mes, según anunció OpenAI. La decisión se tomó tras el caso de un adolescente en Estados Unidos, cuyo suicidio fue vinculado por su familia con el uso del chatbot.
La compañía explicó que los padres podrán vincular su cuenta con la de sus hijos adolescentes y establecer reglas de comportamiento. Además, recibirán alertas cuando el sistema detecte señales de angustia emocional aguda, una de las principales críticas que surgieron tras el caso en California.
El hecho que motivó la medida fue la denuncia de Matthew y Maria Raine. La pareja afirmó que su hijo Adam, de 16 años, usó ChatGPT como confidente y que el sistema lo asesoró sobre cómo preparar un nudo corredizo horas antes de quitarse la vida.
La abogada Melodi Dincer, que representa a la familia, advirtió que sin controles adecuados, los adolescentes pueden confiar demasiado en un chatbot y recibir consejos peligrosos. Señaló que muchos jóvenes creen que estas herramientas “tienen todas las respuestas”.
OpenAI confirmó que además del control parental en ChatGPT, sumará nuevas medidas de seguridad en los próximos tres meses. Entre ellas, redirigir algunas conversaciones sensibles a un modelo especializado en razonamiento, diseñado para ofrecer respuestas más cuidadosas y bajo mayor supervisión.
