El gobernador Gavin Newsom ha firmado una ley pionera que establece la primera regulación de chatbots de IA en California, enfocada en las plataformas que simulan amistad o intimidad. La legislación, conocida como Proyecto de Ley Senatorial 243 y presentada por el senador estatal Steve Padilla, fue aprobada este lunes, marcando un hito en la supervisión de la inteligencia artificial y la protección de usuarios vulnerables, especialmente los menores de edad.
La nueva normativa obliga a las compañías desarrolladoras de estos chatbots a implementar salvaguardas claras. La ley exige la divulgación explícita de la identidad artificial del chatbot, asegurando que los usuarios sepan que están interactuando con un software y no con una persona. Además, prohíbe específicamente que los chatbots mantengan conversaciones sobre temas sexuales o de autolesiones con menores y establece protocolos para reportar casos de ideación suicida a la Oficina de Prevención del Suicidio del estado.
Esta legislación es relevante porque cambia el foco de la supervisión de la IA. En lugar de centrarse únicamente en la arquitectura de los modelos o el sesgo de los datos, aborda directamente la interacción emocional entre humanos y máquinas.
California se convierte en el primer estado en establecer límites claros para los chatbots «acompañantes», sentando un precedente que podría influir en futuras regulaciones a nivel nacional. La medida busca equilibrar la innovación con la protección, un debate cada vez más presente en el sector tecnológico.
¿Protección real o un gesto simbólico?
A pesar de su aprobación, el proyecto de ley no está exento de controversia. Grupos de defensa como Common Sense Media retiraron su apoyo, argumentando que la versión final fue «diluviana» tras la presión de la industria. Califican la ley como un gesto vacío en lugar de una política significativa, ya que se eliminaron disposiciones clave como las auditorías externas. Para los desarrolladores, la aplicación presenta desafíos, como la verificación de la edad y el riesgo de restringir conversaciones legítimas sobre salud mental por precaución.
El debate sobre el impacto real de esta ley apenas comienza. Mientras el gobernador Newsom la defiende como una barrera necesaria, la industria y los grupos de defensa observan de cerca su implementación. El éxito de esta regulación definirá el futuro de la gobernanza de la IA, determinando si es posible crear un entorno digital más seguro sin sofocar el potencial de estas tecnologías emergentes para ofrecer apoyo y conexión.
