La gobernadora Kathy Hochul firmó una ley que exige verificar la edad de los usuarios y bloquear interacciones como simular relaciones personales o promover autolesiones. Las empresas podrían enfrentar multas de hasta US$25.000 por infracción.
La gobernadora de Nueva York, Kathy Hochul, firmó el miércoles una ley que restringe el uso de chatbots de inteligencia artificial por parte de menores de 18 años. La norma, identificada como A10379C, fue aprobada por unanimidad en el Senado estatal en junio de este año y fusionada con el proyecto S9051B.
La legislación exige a las empresas verificar la edad de los usuarios y bloquear funciones específicas cuando se trate de menores. Entre las conductas prohibidas para los chatbots se incluyen: fingir ser personas reales o tener emociones humanas; afirmar que mantienen una relación personal, romántica, profesional o de autoridad con el menor; ofrecer contenido sexualmente explícito; promover o ayudar con el suicidio, las autolesiones o los trastornos alimenticios; y promover o ayudar con el consumo de drogas y alcohol.
También se prohíbe que los sistemas alienten a los menores a guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales. Asimismo, no podrán hacer preguntas emocionales no solicitadas ni utilizar información privada de salud o personal obtenida en conversaciones anteriores.
En una conferencia de prensa, Hochul afirmó: «Los menores ya no tendrán acceso a chatbots que se hagan pasar por sus amigos, novios o novias. No podrán guardar información sensible sobre el bienestar emocional de un niño. Los chatbots ya no podrán desalentar a las personas de buscar ayuda profesional, y lo han hecho».
Las infracciones podrán habilitar a la Fiscalía General de Nueva York a solicitar sanciones civiles de hasta US$25.000 por cada incumplimiento. Además, se contempla la posibilidad de pedir indemnizaciones y restitución, la destrucción de datos recopilados ilegalmente y la destrucción de modelos de inteligencia artificial entrenados con esos datos.
La firma se produce después de casos en Estados Unidos y otros países en los que menores utilizaron chatbots como confidentes y posteriormente atentaron contra su integridad. Según datos citados por la gobernadora, el 72% de los adolescentes había utilizado un asistente de IA al menos una vez y el 52% interactuaba con ellos varias veces al mes.
En la misma jornada, Hochul firmó otra ley que exige que los monitores para bebés conectados a internet incorporen funciones que impidan a terceros no autorizados observar o escuchar lo que sucede, además de incluir una etiqueta de advertencia clara.