ChatGPT cambia para siempre tras los escándalos con menores de edad: así son los nuevos controles parentales

OpenAI se encuentra en medio de una de las mayores crisis de su corta historia, después de haber sido demandada por la familia de un menor de edad que habría recibido ayuda de ChatGPT para suicidarse.

Ese es sólo uno de los muchos casos que dejan en evidencia que las herramientas de inteligencia artificial no estaban preparadas para muchos de los usos reales que les han terminado dando los usuarios, especialmente niños y personas vulnerables.

La demanda ha terminado siendo la gota que ha colmado el vaso, especialmente después de que los detalles del caso se hicieran públicos, revelando que ChatGPT podría haber animado al joven a ocultar una soga en su habitación sin que el resto de los miembros de la familia se diera cuenta.

La respuesta inicial de OpenAI al escándalo fue lanzar una nueva actualización que tiene más en cuenta el estado emocional del usuario a la hora de responder, y hoy la compañía ha anunciado otro paso más en esta dirección con los nuevos controles parentales de ChatGPT.

A partir de ahora, los padres o tutores podrán asociar su cuenta de ChatGPT a la cuenta de un menor de edad, de entre 13 y 18 años; una vez que las cuentas estén conectadas, el menor recibirá protecciones adicionales a las que ya fueron anunciadas.

Control parental en ChatGPT

OpenAI

El Androide Libre

De manera automática y sin tener que configurar nada, una cuenta de adolescente obtendrá una experiencia más “apropiada para la edad” y la inteligencia artificial se comportará de manera diferente a cuando está hablando con un adulto.

Esto incluye más limitaciones al tipo de contenido y temática que ChatGPT puede mostrar al usuario, incluyendo material gráfico extremo, desafíos virales, juegos de rol sexuales, románticos o violentos, e ideales de belleza extremos.

Los padres podrán controlar la cantidad de tiempo que el menor pasa usando ChatGPT, además de configurar las horas en las que no se puede usar o incluso desactivar funciones como el modo de voz o la generación de imágenes.

Cuentas monitorizadas

Pero sin duda alguna, el mayor cambio introducido con las cuentas de adolescentes es que están monitorizadas de manera constante en busca de posibles indicaciones de que el menor está interesado en hacerse daño o en terminar con su vida.

Si el menor introduce ‘prompts’ o instrucciones a ChatGPT relacionadas con las autolesiones o con el suicidio, de manera automática los padres o tutores recibirán una notificación de que su hijo o hija podrían estar en peligro.

Un detalle muy importante es que estas notificaciones no están generadas por la inteligencia artificial, sino por un equipo de empleados humanos que revisará el contenido y decidirán si es necesario avisar a los padres.

Configuración de notificaciones de seguridad en ChatGPT

OpenAI

El Androide Libre

OpenAI promete que, cuando se detecten este tipo de instrucciones, intentará contactar con los padres “de cualquier manera que podamos”, con la opción de recibir alertas por SMS, correo electrónico, o por notificación en la app de ChatGPT.

Sin embargo, como las notificaciones deben ser revisadas por humanos antes de ser enviadas, el proceso puede tardar aproximadamente una hora, aunque la compañía asegura que está trabajando para reducir los tiempos de respuesta.

El contenido de la notificación no incluirá el mensaje que ha generado el aviso para proteger la privacidad del menor, sino que alertará a los padres con un aviso general de que el menor podría haber solicitado información relacionada con las autolesiones y el suicidio.

La notificación también incluirá consejos y estrategias para que los padres hablen con su hijo sobre este tema, que han sido obtenidos de expertos en el campo de la salud mental.

Además de los padres, OpenAI ha adelantado que las autoridades y los servicios de emergencia también recibirán la notificación si se detecta “una amenaza inminente para la vida” y no pueden contactar con los padres, pero por el momento, aún está trabajando en cómo implementar estos avisos.

Por último, OpenAI ha abierto una nueva página de recursos para padres, donde se explica cómo funciona ChatGPT, cómo los menores pueden aprovecharlo en su día a día, y cómo los padres pueden guiar a sus hijos en la adopción de esta tecnología.

Sin embargo, de nada sirve todo esto si la cuenta del menor no es asociada con la cuenta de su padre o tutor. Por eso, OpenAI ha anunciado que está desarrollando un sistema de predicción de la edad del usuario.

Con este sistema, ChatGPT podrá determinar si un usuario es menor de 18 años, y en caso afirmativo, aplicar la configuración para menores de edad de manera automática y sin que el menor pueda cambiarlo.

Estas limitaciones también se aplicarán si el sistema no está seguro de la edad del usuario, aunque por el momento, OpenAI no ha hablado de qué ocurre si un adulto es marcado como un menor de edad, y los pasos que tendría que dar para quitar las limitaciones.

Leer en la fuente

QvaClick recopila noticias desde fuentes oficiales y públicas. Los derechos pertenecen a sus respectivos autores y editores. QvaClick no se hace responsable de los contenidos externos enlazados.