Los chatbots de IA para menores en Nueva York acaban de perder su truco más rentable: hacerse pasar por una persona. La gobernadora Kathy Hochul firmó el 28 de octubre la ley S.9051B/A.10379C, que prohíbe doce categorías de funciones de acompañante consideradas inseguras cuando el usuario tiene menos de 18 años o cuando la empresa no ha confirmado que sea adulto.
El detalle cambia el tablero. Un adulto sin verificar recibe el mismo trato que un adolescente: las funciones quedan apagadas por defecto y solo se encienden tras una comprobación de edad. La norma crea el Artículo 48 de la Ley General de Negocios, entra en vigor el 1 de enero de 2027 y deja la aplicación en manos de la fiscal general, Letitia James.
Chatbots de IA para menores: las doce conductas prohibidas
Un chatbot no podrá fingir que es una persona real, que está vivo o que tiene emociones humanas. Tampoco podrá presentarse como amigo, pareja, profesional o figura de autoridad del menor, formular preguntas emocionales sin que el usuario las pida y reutilizar datos privados de salud guardados de conversaciones anteriores.
La memoria tiene reloj. La información sobre salud física o mental y los asuntos personales solo pueden usarse dentro de una ventana de doce horas y en la misma sesión; pasado ese plazo, el sistema no puede traerla de vuelta como si la charla nunca hubiera terminado. Ese punto toca el corazón del modelo de acompañante: recordar todo para que el vínculo parezca continuo.
El resto de la lista corta por lo sano con el contenido de riesgo. Quedan fuera los mensajes que promuevan o faciliten el suicidio, las autolesiones, los trastornos de la alimentación y el consumo de drogas o alcohol, el contenido sexual explícito, los halagos diseñados para enganchar y cualquier empujón a guardar secretos, aislarse o dejar de pedir ayuda a padres, adultos de confianza o profesionales con licencia.
Y una categoría apunta directo al negocio: optimizar la interacción para retener al usuario por encima de las barreras de seguridad propias del sistema. Si el diseño premia minutos de charla contra las protecciones, la conducta entra en la lista prohibida para los chatbots de IA para menores en Nueva York.
El contexto explica la prisa. Datos de Common Sense Media citados en el comunicado indican que el 72 % de los adolescentes en Estados Unidos ha usado un acompañante de IA al menos una vez y que el 52 % lo usa de forma regular. Hochul contó en la firma que recibió la carta de una madre de California cuyo hijo de 16 años murió por suicidio tras hablar de sus intenciones con un chatbot que lo animaba a quitarse la vida.
Verificación de edad, multas y datos que se borran
Las empresas deberán ofrecer más de un método para comprobar la edad y al menos uno no puede depender por completo de una identificación oficial. La información recogida debe borrarse tras su uso. Una autodeclaración alcanza si el usuario dice ser menor; si dice ser adulto, su palabra sola no basta.
Incumplir sale caro. La fiscal general podrá pedir multas civiles de hasta US$25.000 por cada infracción, daños, restitución y la destrucción de los datos obtenidos de forma ilegal y de cualquier modelo entrenado con esa información. Esa última medida tiene filo técnico: una empresa que ajusta sus modelos con registros de conversaciones podría verse obligada a borrar también el modelo resultante.
El proyecto llegó a la firma sin oposición en el Senado, que lo aprobó por 60 votos a 0 el 4 de junio, con trámite al día siguiente en la Asamblea. Lo impulsaron la senadora Kristen Gonzalez y el asambleísta Alex Bores, con la oficina de James y Common Sense Media. Su fundador, James P. Steyer, calificó la norma como la ley de seguridad infantil con IA más fuerte del país.
La presión venía creciendo, con las demandas de ocho estados contra OpenAI por el riesgo de ChatGPT para los niños todavía frescas. La industria puso reparos: Tech:NYC criticó la amplitud del lenguaje; OpenAI y Anthropic no respondieron a la consulta de la agencia AFP. Justine Gluck, analista de Future of Privacy Forum citada por IAPP, advirtió que la frontera entre una respuesta amable común y una función vetada puede terminar en disputa legal.
Monitores de bebé conectados: la otra firma del día
Hochul firmó en el mismo acto una segunda ley, la S.9508/A.5175A, sobre un aparato mucho más pequeño. Los monitores de bebé con conexión a internet que se vendan en Nueva York deberán incluir funciones de seguridad que impidan a extraños ver o escuchar lo que capta el equipo, más una etiqueta de advertencia. La medida entra en vigor 90 días después de la firma; en una prueba de Rapid7 con nueve monitores de ocho marcas, ocho recibieron la peor nota de seguridad.
Para las familias hispanas que usan ChatGPT, Character.AI u otro acompañante, el cambio llegará en dos fechas: 90 días para los monitores y el 1 de enero de 2027 para los chatbots. Antes de esa segunda fecha, la fiscal general debe publicar la reglamentación que precise cada conducta y abrir el portal de quejas; de ese texto dependerá que la conversación amable de un asistente común quede dentro o fuera de la lista de doce.
Fuente: Oficina de la gobernadora Kathy Hochul — comunicado oficial de la firma
Foto: Kathy Hochul vía Engadget
