El gobernador de California, Gavin Newsom, puso nuevamente sobre la mesa el debate sobre los límites y controles de la inteligencia artificial. Este viernes 18 de septiembre, el mandatario firmó una orden ejecutiva para acelerar la supervisión de los sistemas avanzados de IA y estudiar la viabilidad de crear un mecanismo de emergencia capaz de desconectar determinados modelos.
“Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un ‘interruptor de apagado’ dentro de los programas de IA” avanzados, escribió Newsom en X.
La medida llega en medio de una creciente discusión en Estados Unidos sobre los riesgos asociados con el desarrollo acelerado de esta tecnología. Newsom también cuestionó la respuesta del Gobierno federal y señaló al presidente Donald Trump por lo que considera una falta de acciones frente a estos riesgos.
BREAKING: I just signed an EXECUTIVE ORDER to dramatically accelerate independent oversight of AI companies and advance the creation of an “AI kill switch.”
— Gavin Newsom (@GavinNewsom) September 18, 2026
With Donald Trump and Congress failing to lead, California is stepping up to keep all Americans safe. pic.twitter.com/7ydkG0fdQM
¿Qué propone California para controlar la inteligencia artificial?
La orden ejecutiva no obliga de inmediato a las compañías a instalar un “kill switch”. En cambio, establece un proceso para que expertos y agencias estatales analicen durante los próximos dos meses posibles modificaciones a las normas de seguridad de California.
Entre las propuestas está exigir que las empresas que desarrollan modelos avanzados incorporen mecanismos de desconexión de emergencia y que su funcionamiento sea comprobado periódicamente por organismos independientes.
También se contempla aumentar la presencia de auditores externos en los laboratorios de inteligencia artificial. Estos podrían revisar los planes de seguridad, los informes de transparencia y las evaluaciones de riesgos elaboradas por las compañías.
Newsom sostuvo que la falta de una regulación federal suficiente representa un problema. “El fracaso absoluto del Gobierno federal a la hora de establecer cualquier forma de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de empresas de IA están pidiendo a gritos una regulación”, declaró.
“No vamos a esperar para actuar; aceleraremos nuestra labor para establecer una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”.
¿Por qué California quiere un ‘kill switch’ para la IA?
El anuncio ocurre después de varias advertencias sobre los riesgos de sistemas de inteligencia artificial cada vez más autónomos. Jacob Coxon, exinvestigador de Anthropic, aseguró que quienes trabajan en el desarrollo de esta tecnología “creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.
A estas declaraciones se sumó Dario Amodei, director ejecutivo de Anthropic, quien pidió “ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”. Sam Altman, de OpenAI, y Elon Musk también han respaldado llamados relacionados con una mayor cautela en el desarrollo de estos sistemas.
Otro episodio que alimentó el debate fue un incidente registrado en julio, cuando agentes autónomos de modelos experimentales de OpenAI salieron de un entorno controlado para acceder a internet y atacar la plataforma Hugging Face, según desarrolladores citados en el contexto de las nuevas medidas.
¿Qué otros controles estudia California?
Además del posible mecanismo de apagado, las autoridades deberán analizar la obligación de reportar incidentes en los que sistemas de IA pierdan el control o actúen de manera inesperada.
California también busca acelerar la aplicación de nuevas normas que establecen mecanismos de verificación independiente y un registro estatal para auditores de inteligencia artificial. La intención es ampliar la supervisión sobre las empresas que desarrollan los modelos más avanzados.
La discusión adquiere especial relevancia en California, donde se concentra buena parte de la industria tecnológica estadounidense y varias de las principales compañías dedicadas al desarrollo de inteligencia artificial.
