La compañía OpenAI ha dado un paso importante en material de seguridad digital para los adolescentes. Recientemente la compañía ha anunciado la llegada del control parental en ChatGPT, los cuales ya están activos en la versión web y pronto se implementarán en los dispositivos móviles. Los controles parentales se tratan de un conjunto de herramientas que buscan equilibrar la privacidad con la protección de los menores.
Esta medida responde a un contexto delicado, ya que en los últimos meses el chatbot ha estado en el centro de la polémica tras el suicidio de un adolescente estadounidense que utilizaba la inteligencia artificial como su confidente. Este caso en concreto derivó en demandas contra OpenAI y un debate en el Senado de EE.UU. sobre sus riesgos de la IA conversacional en menores.
Qué ofrece el control parental de ChatGPT
Para empezar, los padres deben crear su propia cuenta y vincularla con la de sus hijos, quienes deberán aceptar la invitación posteriormente. Aunque los padres no tendrán acceso directo a las conversaciones, podrán configurar una serie de restricciones que dictan a continuación:
- Reducir el contenido sensible: bloquea o limita interacciones con temas gráficos, juegos de rol sexuales o violentos, desafíos virales e ideales de belleza extremos.
- Desactivar la memoria de ChatGPT: al eliminar el historial de conversaciones, se reducen riesgos de respuestas inapropiadas a lo largo del tiempo.
- Excluir datos del entrenamiento de modelos: los padres pueden impedir que los chats de sus hijos se usen para mejorar los modelos de OpenAI.
- Activar “horas de silencio”: períodos en los que el adolescente no podrá acceder a ChatGPT.
- Desactivar el modo de voz: restringe las interacciones a texto.
- Bloquear la generación de imágenes: evita que los adolescentes creen o editen imágenes con la IA.
- Sistema de notificaciones: los padres pueden recibir alertas por correo, SMS o notificaciones push si se detecta un riesgo grave.
La compañía confirmo que si en algún caso se detectan señales de riesgo serio sobre la seguridad de un adolescente, los padres podrán ser notificados con la información mínima pero necesaria para garantizar la protección del menor.
Un contexto marcado por la tragedia y el escrutinio político
Desafortunadamente, este anuncio llega tras la muerte de Adam Raine, un joven de apenas 16 años que se quito la vida después de que interactuará durante meses con ChatGPT. Su padre, Matthew Raine, declaro: «Lo que empezó como un ayudante con las tareas escolares se convirtió gradualmente en un confidente y luego en un asesor de suicidio». A este testimonio se le sumaron las criticas sobre la gestión de la seguridad del chatbot de OpenAI.
Como era de esperarse, esta polémica aceleró el desarrollo de estas medidas, además, OpenAI prometió un mejor sistema de verificación de edad y estándares de seguridad reforzados.
Con los nuevos controles parentales de ChatGPT, la compañía detrás del famoso chatbot busca demostrar que esta dispuesta a corregir los errores del pasado y ofrecer mayor confianza a familiares y reguladores….