California abrió un nuevo frente en la regulación de las redes sociales al convertirse en el primer estado de Estados Unidos en prohibir por ley funciones consideradas adictivas para usuarios menores de 16 años. La medida forma parte de un paquete bipartidista firmado por el gobernador Gavin Newsom, que también incorpora nuevas obligaciones para los chatbots de compañía basados en inteligencia artificial.
Entre las funciones alcanzadas aparecen el scroll infinito, las recomendaciones personalizadas y la reproducción automática. Las normas también agregan mecanismos de protección frente a la publicidad dirigida y contemplan reglas sobre el uso de datos de alumnos de primaria y secundaria en sistemas de IA.
El diseño de las plataformas queda bajo la lupa
Newsom defendió la legislación como una forma de trasladar la seguridad al propio desarrollo de los productos tecnológicos. "Queremos que nuestros hijos —y todos los niños de California— crezcan en un mundo donde la tecnología contribuya a su bienestar, en lugar de explotar sus vulnerabilidades", señaló el gobernador.
Además, el paquete amplía la definición del delito de explotación sexual infantil para incluir material alterado digitalmente o generado por IA que represente a una persona menor de 18 años participando en un acto de conducta sexual. También suma disposiciones sobre verificación de edad, mecanismos para denunciar material de abuso sexual infantil y acceso de menores a determinados servicios y productos digitales.
Chatbots, controles parentales y auditorías
Otro eje es la llamada "Ley Adam", creada en memoria de Adam Raine, un joven de 16 años que se suicidó el año pasado, presuntamente influenciado por ChatGPT. La norma exige que los chatbots de compañía dirigidos a niños y adolescentes incorporen protocolos ante posibles crisis relacionadas con ideación suicida, controles parentales y avisos a los tutores cuando ciertas configuraciones de seguridad sean desactivadas sin autorización.
Bajo estas nuevas reglas, las empresas tecnológicas con operaciones en California deberán someterse a auditorías independientes de seguridad infantil y realizar evaluaciones anuales de riesgos vinculados con sus chatbots. El gobierno estatal presenta ambos requisitos como pioneros a nivel nacional.
Regular funciones en lugar de bloquear el acceso
Australia fue el primer país en adoptar una prohibición de acceso a redes sociales para menores de 16 años. Sin embargo, nueve meses después de la entrada en vigor de esa ley, estudios y encuestas señalan que la normativa no habría cumplido su propósito. Eso llevó al gobierno australiano a alertar a las compañías de redes sociales que serán sancionadas con multas millonarias si no protegen a los usuarios menores de 18 años frente a contenidos dañinos.
Frente a ese debate, la estrategia californiana toma otra dirección: restringir elementos específicos del diseño y reducir determinados riesgos sin impedir de forma general que los adolescentes accedan a las plataformas. La legislación se integra a una política estatal más amplia sobre privacidad, bienestar digital y responsabilidad de las empresas tecnológicas, que también contempla un Consejo de Tecnología para Adolescentes ya en operaciones.
