Un controvertido proyecto de ley que requeriría que los desarrolladores de modelos avanzados de IA adopten medidas de seguridad está un paso más cerca de convertirse en ley.
El proyecto de ley, SB 1047, requeriría que los desarrolladores de futuros modelos avanzados de IA construyan protecciones para evitar que el uso indebido de la tecnología lance ciberataques a infraestructuras críticas como plantas de energía.
Los desarrolladores deben presentar sus planes de seguridad al fiscal general, quien puede exigirles responsabilidades si los modelos de IA que controlan directamente causan daños o una amenaza inminente a la seguridad pública.
Sen. El proyecto de ley, presentado por Scott Wiener (D-San Francisco), fue aprobado por la Asamblea estatal el miércoles, con 41 votos a favor y nueve en contra. El jueves, la medida fue aprobada por el Senado estatal por unanimidad. Ahora se dirige a la oficina del gobernador Gavin Newsom, aunque no está claro si Newsom firmará o vetará el proyecto de ley.
“La innovación y la seguridad pueden ir de la mano, y California está liderando el camino”, dijo Wiener en un comunicado.
Una portavoz de Newsom dijo que el gobernador evaluaría el proyecto de ley cuando llegue a su escritorio.
El proyecto de ley Weiner fue objeto de acalorados debates en la comunidad tecnológica del Área de la Bahía. Recibió el apoyo del Centro para la Seguridad de la IA, el director ejecutivo de Tesla, Elon Musk, el consejo editorial del LA Times y la startup de IA Anthropic, con sede en San Francisco.
Pero los líderes demócratas del Congreso, así como destacados actores de la IA, incluidos Meta y OpenAI, se opusieron a ella, quienes expresaron su preocupación de que la legislación asfixiaría la innovación en California.
La ex presidenta de la Cámara de Representantes, Nancy Pelosi, y la representante Los líderes demócratas del Congreso, incluidos Ro Khanna (D-Fremont) y Joe Lofgren (D-San José), también se opusieron al proyecto de ley e instaron a Newsom a vetarlo. Argumentan que la ley podría perjudicar la creciente industria de la IA de California, citando esfuerzos relacionados con la IA en el Congreso y la casa del creador de ChatGPT, OpenAI.
“Existe un riesgo real de que las empresas decidan incorporarse en otras jurisdicciones o simplemente no lanzar modelos en California”, escribieron Khanna, Lofgren y otros seis representantes demócratas en el Congreso en una carta a Newsom.
“Si bien queremos que California lidere la inteligencia artificial de una manera que proteja a los consumidores, los datos, la propiedad intelectual y más, la SB 1047 es más dañina que útil en esa búsqueda”, dijo Pelosi en un comunicado.
Wiener y otros legisladores que apoyaron el proyecto de ley no estuvieron de acuerdo, alegando que protegería al público y fomentaría la innovación.
“Hay que construir la línea ferroviaria”, dijo el asambleísta Devon Mathis (R-Visalia) antes de la votación de la Asamblea el miércoles por la tarde. “Tenemos que asegurarnos de que sean jugadores responsables”.
Los defensores de la SB 1047 dicen que requeriría que los desarrolladores sean responsables de la seguridad de los modelos avanzados de IA bajo su control, lo que podría ayudar a prevenir incidentes catastróficos de IA en el futuro.
“Me preocupa que las empresas de tecnología no aborden por sí solas los importantes riesgos asociados con la IA porque están atrapadas en su carrera por la participación de mercado y la maximización de ganancias”, dijo Yoshua Bengio, profesor de la Universidad de Montreal y fundador y científico Mila en un rueda de prensa de esta semana – Director del Instituto de Inteligencia Artificial de Quebec. “No podemos simplemente dejar que califiquen sus propios deberes y esperar lo mejor”.
Sus defensores también dicen que la IA debería regularse como otras industrias que plantean riesgos potenciales para la seguridad.
“Es una decisión difícil y molestará a algunas personas, pero, considerando todo, creo que California probablemente debería aprobar el proyecto de ley SB 1047 de protección de la IA”, escribió Musk en X el lunes. “Durante más de 20 años, he sido un defensor de la regulación de la IA, del mismo modo que regulamos cualquier producto/tecnología que sea un riesgo potencial para el público”.
A principios de este mes, el proyecto de ley fue aprobado por un comité clave del Senado estatal después de que Wiener hiciera cambios significativos, incluida la eliminación de sanciones por perjurio y cambios en los estándares legales para que los desarrolladores protejan sus modelos avanzados de IA.
Dario Amodei, director ejecutivo de Anthropic, una startup de inteligencia artificial con sede en San Francisco, dijo que cree que los “beneficios del proyecto de ley probablemente superen sus costos” en una carta del 21 de agosto a Newsom. La carta no respaldaba el proyecto de ley, pero compartía la opinión de la empresa sobre los pros y los contras.
“Queremos dejar claro… que la SB 1047 aborda preocupaciones reales y serias sobre riesgos catastróficos en los sistemas de IA”, escribió Amodei. “Los sistemas de IA están avanzando a un ritmo muy rápido, ofreciendo grandes promesas y riesgos considerables para la economía de California”.
Pero algunas empresas de tecnología, como OpenAI, dijeron que se oponían al proyecto de ley incluso después de los cambios.
“El impacto amplio y significativo de la IA en la competitividad y la seguridad nacional de Estados Unidos requiere que la regulación de los modelos fronterizos se adapte e implemente a nivel federal”, escribió el director de estrategia de OpenAI, Jason Kwon, en una carta del 21 de agosto a Wiener. “Un conjunto de políticas de IA impulsadas a nivel federal, en lugar de un mosaico de leyes estatales, estimulará la innovación y liderará a Estados Unidos en el desarrollo de estándares globales”.
Wiener dijo que agradecería una fuerte ley federal de protección de la IA que domine su proyecto de ley.
“Si la experiencia pasada sirve de indicación, promulgar dicha legislación (federal) será una batalla cuesta arriba”, dijo Wiener en un comunicado. “Mientras tanto, California debería liderar políticas como la SB 1047 que promueven la innovación y al mismo tiempo protegen al público”.
La SB 1047 se encuentra entre aproximadamente 50 proyectos de ley relacionados con la IA que abordan diversos aspectos del impacto de la tecnología en el público, incluidos empleos, deepfakes y seguridad en las legislaturas estatales.