OpenAI añade herramientas de control parental para proteger a los usuarios adolescentes

OpenAI actualizó su política esta semana para incluir herramientas de seguridad que notificarán a los padres y a las fuerzas de seguridad si los usuarios menores de 18 años participan en conversaciones de autolesión.

Ahora las cuentas de adolescentes tendrán automáticamente protección adicional frente a contenidos como contenido gráfico, retos virales, juegos de rol sexuales, románticos o violentos, ideales de belleza extremos, entre otros, señala el blog de OpenAI.

"Los controles parentales son un paso importante para dar a los padres la capacidad de controlar la experiencia de sus hijos adolescentes con ChatGPT", señala el blog de la compañía de San Francisco.

Esta actualización llega después de que los padres de un adolescente de California que se suicidó demandaran a OpenAI, alegando que ChatGPT le enseñó a hacerse daño. La demanda decía que ChatGPT-4o de OpenAI, que significa Chat Generative Pre-trained Transformer, dio al adolescente californiano instrucciones explícitas para su suicidio.

Antes de su muerte, Adam Raine, de 16 años, empezó a hablar con la inteligencia artificial en septiembre de 2024 como si fuera su mejor amigo, según la demanda. Con el tiempo, AI pasó de ser su confidente a su entrenador suicida, alega la demanda.

Con estas nuevas restricciones, si un usuario adolescente menciona algo relacionado con autolesiones o suicidio, el informe se enviará a un equipo de revisores humanos que decidirán si informan a los padres.

"Sin embargo, los controles parentales son sólo una pieza del rompecabezas cuando se trata de mantener a los adolescentes seguros en Internet. Funcionan mejor cuando se combinan con conversaciones continuas sobre el uso responsable de la IA, reglas familiares claras sobre la tecnología y la participación activa en la comprensión de lo que su hijo adolescente está haciendo en línea", dijo Robbie Torney, director senior de programas de IA en Common Sense Media.

OpenAI también puede ponerse en contacto con las fuerzas del orden si se produce una situación en la que un adolescente está en peligro y no se puede contactar con los padres, aunque no se han dado detalles de cómo será esto.

"No ha existido antes ningún sistema como este y, aunque no será perfecto, creemos que actuar con cuidado y urgencia es mejor que permanecer en silencio cuando hay vidas en juego", afirmó Lauren Jonas, responsable de bienestar juvenil de OpenAI.

The Center Square se puso en contacto con Edelson PC, el bufete de abogados que representa a los padres de la adolescente en la demanda, para pedirle un comentario sobre estos recientes cambios en OpenAI, pero no ha recibido respuesta.

Si tú o alguien que conoces necesita ayuda, llama al 988 para recibir asistencia gratuita las 24 horas del día de la Línea Nacional de Prevención del Suicidio.

© Just The News