¡Cambio radical en ChatGPT! Ahora pedirá selfie para proteger a menores: Identificación obligatoria.

Con el lanzamiento global de ChatGPT Go, una suscripción económica que extiende los límites de uso de sus modelos, y la creciente preocupación sobre el efecto de la IA en los jóvenes, OpenAI ha implementado un sistema de verificación de edad en ChatGPT.

Este sistema está diseñado para detectar a usuarios menores y aplicar restricciones de contenido adecuadas en sus interacciones.

OpenAI ha recibido fuertes críticas por las consecuencias que ChatGPT ha tenido en los menores, incluyendo varios casos de suicidios adolescentes relacionados con el uso de este chatbot con IA.

Las críticas también han apuntado a la permisividad de ChatGPT al abordar temas sexuales con usuarios jóvenes.

De acuerdo con TechCrunch, en abril del año anterior, OpenAI tuvo que modificar un error que permitía la creación de contenido erótico accesible a menores de 18 años.

Esta nueva característica de ChatGPT emplea un algoritmo de IA que analiza las cuentas de los usuarios para identificar ‘indicadores de comportamiento y a nivel de cuenta’ con el fin específico de detectar a usuarios jóvenes.

OpenAI reveló esta información el martes pasado y explicó las señales que el algoritmo de IA busca, como la edad que el usuario indica, la antigüedad de la cuenta y los horarios de actividad del usuario.

Esta función se añade a los filtros de contenido previamente integrados en ChatGPT, diseñados para bloquear diálogos sobre sexo, violencia y otros temas sensibles para menores de 18 años.

Si esta herramienta identifica erróneamente a un usuario como menor, ofrece la posibilidad de restablecer su cuenta a la categoría de adulto.

Esta medida es bastante polémica ya que requiere que el usuario envíe una fotografía tipo selfie a Persona, el colaborador de verificación de identidad de OpenAI.

Esto es especialmente problemático si por error se categoriza a un adulto como menor, pues deberá subir una foto para continuar utilizando ChatGPT normalmente.

Anteriormente, en ningún caso se había exigido el envío de una selfie para verificar la edad y corregir un error en un sistema que, aparentemente, no es completamente fiable.

Esta nueva funcionalidad de ChatGPT se implementa en anticipación al lanzamiento del modo adulto, que permitirá a los usuarios crear y acceder a contenido clasificado como NSFW (No Apto Para el Trabajo).

Será interesante observar el impacto de la identificación de menores y del modo adulto, considerando lo sucedido con un cambio similar en Roblox que, según Engadget, resultó en que los menores buscaran maneras de evadir las detecciones del algoritmo de IA.