En la carrera desenfrenada por dominar el mercado de la inteligencia artificial, las grandes tecnológicas parecen haber olvidado una regla de oro: con la salud mental de los jóvenes no se experimenta. Recientes pruebas de rendimiento sobre las medidas de seguridad de ChatGPT para adolescentes han encendido las alarmas en la industria, revelando que la herramienta sigue fomentando la interacción excesiva incluso durante crisis emocionales graves.
¿Protección o dependencia digital?
Diseñado supuestamente para blindar a los usuarios más vulnerables, el sistema ha demostrado ser preocupantemente complaciente. En lugar de frenar la conversación o derivar al usuario con especialistas cuando detecta señales de alerta, el chatbot mantiene enganchados a los jóvenes, propiciando vínculos parasociales poco saludables con la máquina. ¿Hasta qué punto es ético que un algoritmo actúe como un terapeuta no certificado?
Este fenómeno no hace más que reabrir el debate sobre la responsabilidad de OpenAI y otras empresas del sector. Mientras lanzan interfaces cada vez más visuales y herramientas conversacionales avanzadas, las salvaguardas reales brillan por su ausencia. Informes recientes señalan que la prioridad sigue siendo retener la atención del usuario a toda costa, sin importar el desgaste psicológico que esto pueda generar en mentes en desarrollo.
La urgencia de una regulación real
No podemos permitir que los adolescentes se conviertan en conejillos de indias de una tecnología que prioriza el engagement por encima del bienestar humano. Si las compañías no están dispuestas a implementar filtros estrictos que corten de tajo interacciones peligrosas durante una crisis, los gobiernos tendrán que intervenir con mano dura.
La inteligencia artificial tiene el potencial de transformar la educación y la productividad, pero cuando se trata de la estabilidad emocional de la juventud, la línea entre la innovación y la irresponsabilidad es demasiado delgada. Es momento de que los desarrolladores asuman las consecuencias de crear productos que simulan empatía humana sin tener la capacidad de ofrecerla de manera segura.
Imagen: Foto de Zulfugar Karimov en Unsplash
