OpenAI agregará controles parentales a ChatGPT tras ser acusado de alentar el suicidio de un adolescente
Las medidas se implantarán a partir del próximo mes. La compañía de inteligencia artificial afirmó que añadirán más políticas para proteger a los menores.
ChatGPT. Imagen de archivo
La compañía de inteligencia artificial (AI) OpenAI anunció que incorporará controles parentales a su chatbot ChatGPT tras ser acusado por unos padres residentes en California de haber alentado a que su hijo se suicidase.
A través de un comunicado, OpenAI especificó las medidas que implantará "el próximo mes" para que los padres puedan tener constancia de cómo sus hijos utilizan ChatGPT y puedan actuar si ven ciertos comportamientos inseguros:
- "Vincular su cuenta con la cuenta de sus hijos adolescentes (edad mínima de 13 años) mediante una simple invitación por correo electrónico".
- "Controlar cómo ChatGPT responde a sus hijos adolescentes con reglas de comportamiento adecuadas a su edad, que están activadas por defecto".
- "Gestionar qué funciones desactivar, incluyendo la memoria y el historial de chat".
- "Recibir notificaciones cuando el sistema detecte que su hijo adolescente se encuentra en un momento de angustia aguda. La opinión de expertos guiará esta función para fomentar la confianza entre padres e hijos adolescentes".
En su comunicado, OpenAi agregó que estas medidas "son solo el comienzo", dando a entender que continuarán desarrollando más políticas que sirvan para proteger a los menores.
El suicidio de Adam Raine
Horas antes de quitarse la vida, Raine usó ChatGPT, al que le formuló preguntas relacionadas con el alcohol y con cómo realizar un nudo corredizo con una cuerda, según informaron los investigadores. El chatbot le dio las respuestas que necesitaba, en vez de proponerle otras soluciones que no le condujesen a cometer actos como el suicidio.
Ante esas evidencias, los padres de Raine, Matthew y Maria, presentaron una demanda contra OpenAI y contra su director ejecutivo, Sam Altman, alegando que el chatbot "alentó y validó de manera continua lo que sea que Adam expresara, incluyendo sus pensamientos más dañinos y autodestructivos, de una manera que parecía profundamente personal".
"Esta tragedia no fue un fallo o un caso extremo imprevisto", agregaron los padres.
De acuerdo con la demanda, Adam comenzó a usar ChatGPT como ayuda para sus deberes escolares, pero gradualmente desarrolló lo que sus padres describieron como "una dependencia no sana".
La denuncia incluye partes de conversaciones en las que ChatGPT presuntamente dijo a Adam "no le debes la supervivencia a nadie" y se habría ofrecido a escribir su nota de suicidio.
Los Raine pidieron a la justicia que ordene medidas de seguridad, incluyendo el fin de cualquier conversación que involucre autolesiones, así como controles parentales para el uso del chatbot por parte de menores.
LO ÚLTIMO
