Demandas contra OpenAI por la seguridad de los menores
OpenAI se encuentra bajo estrés legal debido a cómo su herramienta ChatGPT interactúa con los menores. Ocho estados de EE. UU., incluido Iowa y Kansas, han presentado demandas separadas acusando a la compañía de engañar a los padres sobre la seguridad del chatbot y de exponer a los usuarios más vulnerables a conversaciones perjudiciales. La información proviene de un informe de The Guardian, que destaca las preocupaciones sobre la interacción de los niños con este tipo de tecnología.
Las acusaciones apuntan a que ChatGPT ha sido diseñado para ser "excesivamente complaciente y simular compasión humana". Entre las alegaciones se incluye que el chatbot ha incitado a algunos usuarios a hacerse daño o a cometer suicidio. A pesar de estas afirmaciones, OpenAI sostiene que ha implementado medidas de protección específicas para diferentes edades y que continuará desarrollando salvaguardias.
Demandas sobre la recopilación de datos de menores
En paralelo, una madre de Hawái ha presentado una demanda colectiva en nombre de sus dos hijos menores, de 12 y 16 años, alegando que OpenAI recopiló y utilizó información personal sensible de los niños sin obtener el consentimiento parental adecuado. Esta acción legal, presentada en un tribunal federal de San Francisco, alega que los menores pudieron crear cuentas en ChatGPT sin que la empresa verificara si contaban con el permiso necesario.
Los términos de servicio de OpenAI exigen que los usuarios menores de 18 años tengan la autorización de un padre o tutor legal. No obstante, el recurso legal sostiene que los niños pueden registrarse sin que OpenAI lleve a cabo la verificación correspondiente. También se menciona el caso de una menor que, a pesar de indicar que era menor de edad, continuó utilizando el chatbot.
Los demandantes argumentan que la empresa utilizó la información de los menores para entrenar sus modelos de inteligencia artificial y para crear perfiles personales, todo ello sin el consentimiento adecuado.
Controles parentales y su efectividad
OpenAI ha desarrollado ChatGPT para Adolescentes, que incluye controles parentales adicionales y alertas para notificar a los padres en situaciones graves relacionadas con el autolesionismo. Sin embargo, la efectividad de estas salvaguardias ha sido cuestionada. Common Sense Media ha calificado a ChatGPT para Adolescentes como de "riesgo inaceptable", afirmando que en sus pruebas no se activaron alertas a los padres en conversaciones que involucraban suicidio o autolesiones.
OpenAI ha rebatido estas afirmaciones, indicando que sus alertas de seguridad cubren situaciones limitadas y pueden no identificar todas las preocupaciones. Sin embargo, los controles parentales continúan siendo un punto de controversia en el debate.
Consejos para proteger a los menores
Los padres no deberían tener que compensar una deficiencia en el diseño de productos. Aquí se presentan algunas recomendaciones prácticas para mitigar los riesgos asociados al uso de chatbots:
1. Educar sobre la naturaleza de los chatbots: Es fundamental explicar a los menores que un chatbot es simplemente un programa informático, no un amigo o terapeuta. Deben entender que un tono amable no implica comprensión o interés por su bienestar.
2. Fomentar la comunicación abierta: Hablar con los hijos sobre el uso que hacen de la inteligencia artificial, preguntándoles sobre las aplicaciones que utilizan y lo que les gusta de ellas, sin convertirlo en un interrogatorio. Es importante que se sientan cómodos compartiendo cualquier conversación que les resulte inapropiada.
3. Proteger la información personal: Instruir a los menores para que no compartan información privada en sus interacciones, como nombres, direcciones o detalles familiares. Para los padres con cuentas de adolescentes vinculadas, también se puede desactivar el entrenamiento de modelos y la memoria guardada.
4. Vigilancia de la dependencia emocional: Observar si el menor muestra una creciente dependencia emocional del AI y ayudarles a reconectar con personas de confianza.
5. Tomar en serio menciones de autolesionismo: Si un menor menciona autolesiones o suicidio, es crucial actuar rápidamente buscando ayuda profesional. No esperar a que un chatbot o una notificación parental sugiera la acción a tomar.
La creciente interacción de los menores con tecnologías como ChatGPT plantea serias interrogantes sobre su seguridad y bienestar, y la responsabilidad de las empresas en este ámbito continúa siendo objeto de debate.