La gobernadora de Nueva York, Kathy Hochul, firmó una ley que busca reforzar la protección de los menores de 18 años frente a los riesgos de los chatbots de inteligencia artificial (IA). La normativa, considerada pionera en Estados Unidos, establece restricciones para evitar que estas herramientas difundan contenido perjudicial o generen vínculos engañosos con usuarios jóvenes.

La legislación obliga a las empresas responsables de los chatbots a verificar la edad de sus usuarios y bloquear determinadas funciones cuando se trate de menores. Entre las prohibiciones se encuentran fingir ser una persona real, afirmar que tienen emociones humanas o mantener una relación personal, romántica o de autoridad con los adolescentes.

También deberán impedir que sus sistemas promuevan el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol. Asimismo, no podrán incitar a los menores a guardar secretos, aislarse o evitar pedir ayuda a sus padres y otros adultos de confianza.

La ley contempla sanciones civiles de hasta 25 mil dólares por infracción, además de posibles indemnizaciones y la eliminación de datos recopilados ilegalmente, incluidos los modelos de IA entrenados con esa información.

La medida responde a la preocupación por casos en los que menores han recurrido a estas herramientas como confidentes antes de sufrir graves consecuencias. De acuerdo con cifras citadas por Hochul, el 72 por ciento de los adolescentes ha utilizado al menos una vez un asistente de IA.

Además, la gobernadora firmó otra legislación que exige mayores medidas de seguridad en los monitores para bebés conectados a internet, con el objetivo de impedir que personas no autorizadas puedan observar o escuchar lo que ocurre en los hogares.