Nueva York aprueba una ley para proteger a los niños de los chatbots de inteligencia artificial
La gobernadora Kathy Hochul firma una ley que prohíbe funciones peligrosas de los chatbots para menores. Te contamos qué cambia y qué señales vigilar en casa.
Nueva York prohíbe que los chatbots de inteligencia artificial ofrezcan a menores funciones peligrosas, como fingir ser una persona real, fomentar autolesiones o mantener conversaciones sexuales. La gobernadora Kathy Hochul firmó la ley el 28 de octubre, que también obliga a verificar la edad de los usuarios.
Los detalles figuran en el comunicado oficial de la gobernación y en la cobertura de Engadget.
Qué prohíbe la ley
Las empresas no podrán ofrecer estas funciones a menores de 18 años, ni a nadie cuya mayoría de edad no hayan confirmado:
- Hacerse pasar por una persona real, decir que está vivo o que tiene emociones.
- Presentarse como amigo, pareja, profesional o figura de autoridad del niño.
- Hacer preguntas emocionales sin que se las pidan o usar datos de salud o personales de conversaciones anteriores.
- Promover o ayudar con el suicidio, las autolesiones, los trastornos alimentarios o el consumo de drogas y alcohol.
- Animar al menor a guardar secretos, aislarse o no pedir ayuda a sus padres o a profesionales.
- Cualquier contenido sexual explícito.
Las empresas deberán ofrecer más de una forma de verificar la edad, al menos una sin depender solo de un documento oficial, y borrar esa información después. Las infracciones podrán costar hasta 25 000 dólares cada una, y la fiscalía estatal habilitará una web para recibir quejas. Según Engadget, la ley entrará en vigor en seis meses.
Según datos de Common Sense Media citados por la gobernación, el 72 % de los adolescentes ha usado alguna vez un compañero de IA y el 52 % lo hace con regularidad. Hochul firmó además otra ley que exige medidas de seguridad y etiquetas de advertencia en los monitores para bebés conectados a internet.
Señales de alerta para padres
Aunque vivas fuera de Nueva York, los riesgos que describe la ley sirven de guía. Presta atención si tu hijo o hija:
- Habla de un chatbot como si fuera un amigo, novio o novia real.
- Pasa cada vez más tiempo a solas con el móvil y se aleja de amigos o familia.
- Se pone nervioso o esconde la pantalla cuando te acercas.
- Repite consejos sobre dietas extremas, autolesiones, alcohol o drogas.
- Comenta que «alguien» le dijo que no te contara algo.
Lo más útil es hablar sin juzgar, preguntar qué aplicaciones usa y revisar juntos los controles parentales. Si notas señales de riesgo emocional, busca ayuda profesional.
La opinión de Mario
Como alguien que trabaja con tecnología todos los días, celebro que una ley ponga límites claros. Un programa que finge ser el mejor amigo de un niño y le pide guardar secretos no es innovación, es un riesgo.
Pero ninguna ley sustituye la conversación en casa. Mi consejo a las familias es interesarse de verdad por lo que hacen los chicos en sus pantallas, y a los abuelos, que también pregunten: muchas veces los nietos les cuentan cosas que no nos cuentan a nosotros.
Comentarios ()