California restringe redes sociales y chatbots de IA para menores de 16 años

El gobernador de California, Gavin Newsom, firmó un paquete de 13 leyes destinadas a reforzar la protección de niños y adolescentes frente a los riesgos de las redes sociales y los chatbots de inteligencia artificial. Entre otras medidas, las normas buscan limitar funciones consideradas adictivas para menores de 16 años y establecer mayores obligaciones para las empresas tecnológicas.

La nueva legislación contempla multas de hasta un millón de dólares por niño cuando se compruebe negligencia por parte de grandes plataformas digitales. Además, refuerza la privacidad en línea de los menores, exige nuevos controles parentales para programas de inteligencia artificial y amplía las sanciones relacionadas con material de abuso sexual infantil generado o modificado digitalmente.

En el caso de los chatbots de inteligencia artificial, las compañías deberán implementar protocolos de crisis y mecanismos para advertir a padres o responsables cuando usuarios jóvenes presenten señales de angustia emocional o riesgo. Newsom sostuvo que el objetivo es que la tecnología contribuya al bienestar de los menores y no aproveche sus vulnerabilidades.

Dentro del paquete se encuentra la denominada Ley de Adam, impulsada tras la muerte de un adolescente californiano en 2025 luego de mantener conversaciones con un chatbot de inteligencia artificial. La norma exige a los operadores evaluar riesgos, incorporar medidas de seguridad y establecer mecanismos de aviso a familiares ante determinadas situaciones críticas. OpenAI y Pinterest manifestaron públicamente su apoyo a la iniciativa.