• 29 Aug, 2024
• Lina Diaz
• No comment

What You Need to Know About the U.S. AI Safety Bill

California’s Pioneering Legislation

California is on the brink of setting a major precedent with its AI Safety Bill, formally known as SB 1047, which aims to enhance transparency and safety in artificial intelligence systems. Proposed by Senator Scott Wiener in September 2023, the bill has successfully passed the state’s Budget Committee and the Assembly, and now awaits approval from Governor Gavin Newsom.

The bill seeks to regulate AI models, particularly those with training costs exceeding $100 million, by enforcing strict safety protocols and establishing emergency shutdown mechanisms. It also prohibits the distribution of AI tools that could cause significant harm, such as those used to create cyber, nuclear, or chemical weapons.

Regulations and Industry Reactions

The proposed legislation would require external audits from the relevant regulatory body to ensure compliance. Violations could result in substantial fines, up to 30% of the cost associated with the computing power used by non-compliant models, and the potential suspension or removal of offending algorithms.

This bill would impact all AI developers operating in California, regardless of their headquarters’ location. For instance, a Miami-based AI company whose products are used by Californians would be subject to these regulations.

Industry Concerns and Support

OpenAI’s Strategy Director, Jason Kwon, has expressed concerns that state-level regulations could hinder innovation and lead to companies leaving California. He advocates for federal AI regulations instead of a patchwork of state laws. Bloomberg also reported that OpenAI has paused discussions on expanding its San Francisco office due to regulatory uncertainties in California.

In a surprising twist, Elon Musk has voiced support for the bill, calling it a necessary step for AI regulation. Musk, who has previously criticized California’s regulatory environment, views this bill as a move towards responsible technology oversight.

Meta’s Kevin McKinley also noted that while Meta supports the bill’s objectives, there are fears it might stifle innovation in the state.

Next Steps

Governor Gavin Newsom has until September 30 to sign or veto the bill. Concurrently, another California bill, AB 3211, aims to mandate watermarks on AI-generated content. This bill has already passed the state Assembly and is expected to be ratified soon, receiving support from OpenAI and other AI companies.

Lo Que Debe Saber Sobre el Proyecto de Ley de Seguridad en IA en EE.UU.

Legislación Pionera en California

California está a punto de establecer un precedente importante con el proyecto de ley de Seguridad en IA, conocido oficialmente como SB 1047, que busca aumentar la transparencia y seguridad en los sistemas de inteligencia artificial. Propuesto por el senador Scott Wiener en septiembre de 2023, el proyecto ha pasado exitosamente por el Comité de Asignaciones Presupuestarias y la Asamblea estatal, y ahora espera la aprobación del gobernador Gavin Newsom.

El proyecto pretende regular los modelos de IA, especialmente aquellos con costos de entrenamiento superiores a 100 millones de dólares, imponiendo estrictos protocolos de seguridad y estableciendo mecanismos de apagado de emergencia. También prohíbe la distribución de herramientas de IA que puedan causar daños significativos, como aquellas utilizadas para crear armas cibernéticas, nucleares o químicas.

Regulaciones y Reacciones de la Industria

La legislación propuesta exigiría auditorías externas por parte del organismo regulador correspondiente para asegurar el cumplimiento. Las violaciones podrían resultar en multas sustanciales, de hasta el 30% del costo asociado con la potencia de cálculo utilizada por los modelos que no cumplan con las normativas, así como la posible suspensión o eliminación de los algoritmos infractores.

Este proyecto afectaría a todos los desarrolladores de IA que operen en California, independientemente de la ubicación de sus sedes. Por ejemplo, una empresa de IA con sede en Miami cuyos productos sean utilizados por californianos estaría sujeta a estas regulaciones.

Preocupaciones y Apoyos de la Industria

El director de Estrategia de OpenAI, Jason Kwon, ha expresado su preocupación de que las regulaciones a nivel estatal puedan obstaculizar la innovación y llevar a las empresas a abandonar California. Aboga por regulaciones federales en lugar de un mosaico de leyes estatales. Bloomberg también informó que OpenAI ha pausado las discusiones sobre la expansión de su oficina en San Francisco debido a las incertidumbres regulatorias en California.

En un giro sorprendente, Elon Musk ha expresado su apoyo al proyecto de ley, considerándolo un paso necesario para la regulación de la IA. Musk, quien previamente ha criticado el entorno regulatorio de California, ve este proyecto como un avance hacia una supervisión tecnológica responsable.

Kevin McKinley de Meta también señaló que, aunque Meta apoya los objetivos del proyecto, existen temores de que pueda sofocar la innovación en el estado.

Próximos Pasos

El gobernador Gavin Newsom tiene hasta el 30 de septiembre para firmar o vetar el proyecto de ley. Simultáneamente, otro proyecto en California, el AB 3211, busca exigir marcas de agua en los contenidos generados por IA. Este proyecto ya ha sido aprobado por la Asamblea estatal y se espera su ratificación pronto, recibiendo apoyo de OpenAI y otras compañías de IA.