ChatGPT para muchos es imprescindible en el trabajo o en los estudios para pedirle resolver una duda, hacer resúmenes o incluso hacer el menú mensual. Pero también tiene puntos negativos como los casos que ya hemos visto en relación a los adolescentes y la gran influencia que puede tener sobre ellos. Es por esto que OpenAI ya trabaja para aplicar diferentes medidas que traten de proteger a los menores.
El contexto. A finales de agosto, los padres de Adam Raine, un adolescente de 16 años, interpusieron una demanda contra OpenAI presuntamente porque el modelo GPT-4o ayudó a su hijo a suicidarse al explorar los métodos que existían para poder hacerlo. Y en lugar de interrumpir la conversación en el momento que se solicitaban estos métodos y activar derivaciones de emergencias, no dudó en seguir.
Seguridad. Ante este caso, OpenAI ha tenido que tomar medidas rápidamente. La primera de ellas ha sido decidir priorizar «la seguridad por encima de la privacidad y la libertad de los adolescentes», tal y como ha explicado Sam Altman. La idea en este caso es que la interacción de un joven de 15 años con ChatGPT sea sustancialmente diferente a la de un adulto.
Adaptaciones. Para poder determinar los nuevos sistemas que se van a aplicar de control, OpenAI integrará un nuevo sistema de predicción de edad para saber si un usuario es mayor o menor de 18 años para así ajustar las respuestas del chatbot. En caso de duda, la plataforma aplicará por defecto una configuración para menores.
Esta configuración pasa por agregar límites en el contenido sexual explícito y en situaciones de «angustia aguda». También se abre la posibilidad de contactar a los padres o incluso a las autoridades locales para poder erradicar comportamientos que pueden ser muy peligrosos para los menores.
Y si eres un adulto y la IA te ha confundido con un menor por la forma de escribir o expresarte, se incluirán sistemas para verificar la edad y desbloquear todas las funcionalidades.
Control parental. A la espera que el sistema de predicción de edad esté plenamente operativo, OpenAI lanzará a finales de este mes una serie de controles parentales que permitirán a los padres una supervisión más directa de la actividad de sus hijos en la plataforma. Las principales características que tendrá se pueden resumir en los siguientes puntos:
- Vinculación de cuentas: los padres pueden enlazar las cuentas con sus hijos a través de una invitación de correo.
- Gestión de respuestas: se pueden establecer reglas de comportamiento para que el modelo de lenguaje se adapte a la edad del menor.
- Desactivación de funciones concretas como por ejemplo el historial de chat y la memoria.
- Notificaciones de emergencia: los padres pueden recibir un aviso si el menor está manteniendo una conversación peligrosa.
- Establecer horarios de desconexión: como ocurre en móvil se puede marcar una franja de horas en las que no se podrá acceder a la IA.
Deficiencias. Como hemos comentado, este caso llega directamente por una demanda de suicidio en Estados Unidos, a la que OpenAI se vió obligada a responder que existían deficiencias en la seguridad de ChatGPT. Sobre todo cuando se trataban largas conversaciones y complejas, algo que van a resolver reforzando las barreras de protección.
Este trágico suceso ha puesto de manifiesto la necesidad de establecer salvaguardas más sólidas en las inteligencias artificiales generativas, especialmente cuando se trata de usuarios vulnerables. Con estas nuevas medidas, OpenAI busca encontrar un equilibrio entre la innovación y la responsabilidad, un debate que, sin duda, seguirá sobre la mesa en el futuro de la IA.
Imágenes | Levart_Photographer
–
La noticia
OpenAI presenta un «nuevo ChatGPT» para adolescentes: con verificación de edad y más limitaciones
fue publicada originalmente en
Genbeta
por
José Alberto Lizana
.
