Si ChatGPT detecta que un usuario es menor de 18 años, lo redirigirá automáticamente a una nueva versión para adolescentes.
ChatGPT, el famoso chatbot de IA de OpenAI, ha sido confrontado recientemente con un furioso vendaval de críticas a cuenta de los efectos perniciosos que la celebérrima herramienta tendría en la salud mental de los más jóvenes. Por esta razón, y para tratar de contener las críticas, OpenAI ha anunciado que está trabajando en una nueva versión para adolescentes.
«Damos siempre prioridad a la privacidad y a la libertad de los adolescentes. Estamos ante una tecnología nueva y muy poderosa y por eso creemos que los menores necesitan mayor protección«, asevera Sam Altman, CEO de OpenAI, en un post publicado en el blog corporativo de la matriz de ChatGPT.
El chatbot de OpenAI estrenará una actualización a finales de este mes que ayudará a identificar si los usuarios que se arrojan en sus brazos son menores de 18 años. Y si la herramienta identifica efectivamente a un usuario como menor de edad, este será redirigido automáticamente a una versión de ChatGPT con políticas apropiadas que respondan a las necesidades específicas de los más jóvenes.
En caso de que haya dudas sobre la edad real del usuario, ChatGPT jugará sobre seguro y, para evitar eventuales riesgos, redirigirá al usuario a su versión para adolescentes. Los expertos sugieren, no obstante, que las restricciones de edad como la que va introducir próximamente ChatGPT son extraordinariamente fáciles de sortear por parte del usuario.
OpenAI dará además a los adultos la posibilidad de verificar su edad para que puedan utilizar la versión de ChatGPT para mayores de edad.
La nueva versión para adolescentes de ChatGPT bloqueará contenido sexual explícito
En la versión de ChatGPT para adolescentes OpenAI bloqueará contenido sexual de naturaleza explícita y, cuando un usuario muestre síntomas de gran angustia, se reservará el derecho de contactar con las fuerzas del orden.
Altman insiste, por otra parte, en que en su modalidad para adolescentes ChatGPT será específicamente entrenado para evitar conversaciones potencialmente románticas o emparentadas con el suicidio o las autolesiones.
Pese a las salvaguardias introducidas por OpenAI en su nueva versión para adolescentes, Altman hace hincapié en que tales salvaguardias serán perfectamente compatibles con la libertad de los usuarios.
ChatGPT estará, por ejemplo, autorizado a mantener conversaciones de corte romántico con usuarios mayores de edad si así lo solicitan. Altman añade asimismo que, aun cuando el chatbot no debería a bote pronto dar instrucciones al usuario sobre cómo suicidarse, si este solicita su asistencia para describir un suicidio en una obra de ficción, ChatGPT sí debería prestar ese tipo de asistencia.
A finales de agosto OpenAI anunció la introducción de controles parentales en ChatGPT y estos estarán disponibles finalmente a finales de este mes. Apoyándose en estos controles parentales, los padres podrán conectarse a la cuenta en ChatGPT de sus hijos para desactivar funciones, orientar el chatbot en las respuestas proporciona a sus vástagos, establecer horarios específicos para el uso de esta herramienta y recibir notificaciones si en algún momento sus hijos dan cuenta de altos niveles de angustia.
El anuncio de la nueva versión de ChatGPT para adolescentes ha coincidido en el tiempo con la consigna de una demanda contra OpenAI en los tribunales después de que un adolescente se quitara la vida con la ayuda supuestamente del celebérrimo chatbot.
ChatGPT no impactaría en todo caso de manera negativa única y exclusivamente en la salud mental de los adolescentes. Y entre los adultos se han detectado asimismo casos de problemas de salud mental emparentados de manera directa con el uso de ChatGPT.
