El estado de Nueva York, en Estados Unidos, aprobó una nueva legislación que establece restricciones al funcionamiento de chatbots con inteligencia artificial (IA) utilizados por menores de 18 años.
La medida busca impedir que estas plataformas desarrollen interacciones consideradas perjudiciales para niños y adolescentes, especialmente aquellas que puedan generar dependencia emocional o exponerlos a contenidos inapropiados.
La normativa fue promulgada el miércoles 28 de octubre por la gobernadora Kathy Hochul, quien impulsó mayores controles sobre las herramientas digitales dirigidas a menores. La ley, identificada como S9051B, establece una serie de conductas prohibidas para los asistentes virtuales diseñados para mantener conversaciones personalizadas con sus usuarios.
Entre las nuevas restricciones se encuentra la prohibición de que los chatbots se presenten como personas reales, simulen relaciones afectivas o hagan creer a los menores que poseen sentimientos humanos. También se impedirán interacciones que fomenten comportamientos perjudiciales, incentiven a mantener secretos o incluyan mensajes de contenido sexual explícito.
¿Cuándo comenzarán las restricciones a los chatbots en Nueva York?
La legislación comenzará a regir el 1 de enero de 2027 y contempla obligaciones para las empresas que desarrollan u operan estos sistemas. Las plataformas deberán implementar mecanismos razonables para determinar la edad de los usuarios y evitar que las funciones restringidas estén disponibles para menores.
Su aplicación se concentra en los chatbots de compañía que incorporan características consideradas inseguras, mientras que determinadas herramientas destinadas exclusivamente a atención al cliente, consultas comerciales o productividad interna quedan fuera de su alcance.
Las compañías que incumplan las disposiciones podrán enfrentar acciones judiciales impulsadas por la Fiscalía General de Nueva York, incluyendo sanciones económicas y órdenes destinadas a detener las prácticas que vulneren la normativa.
La decisión se produce mientras distintos estados estadounidenses avanzan en regulaciones sobre inteligencia artificial. En paralelo, California también aprobó exigencias de seguridad para los desarrolladores de chatbots, incluyendo evaluaciones de riesgos para menores y medidas destinadas a reducir posibles daños derivados de su utilización.
