En las últimas semanas, expertos han advertido que la carrera descontrolada por desarrollar una superinteligencia artificial podría llegar a superar el control humano, luego de que el ingeniero Jacob Coxon decidió abandonar el sector tras denunciar que las empresas avanzan hacia el desarrollo de sistemas superinteligentes sin una regulación suficiente.
Frente a esto, el alto comisionado de la Organización de las Naciones Unidas (ONU) para los derechos humanos, Volker Türk, aseguró que todos los derechos humanos “están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”, debido al acelerado desarrollo de la inteligencia artificial (IA).
“La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”, aseguró el jefe de derechos humanos de la ONU.
Según Türk, la IA agéntica, que va más allá de la convencional y puede tomar sus propias decisiones, está mostrando fallos que “podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas”.
Advierten que la IA puede afectar servicios esenciales
El alto comisionado de la ONU, Volker Türk, también advirtió que “poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros”.
Además, aseguró que la IA “ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que se interponen entre nosotros y el lanzamiento de armas de destrucción masiva”.
ONU pide mayor regulación internacional para controlar la IA
Las declaraciones del jefe de derechos humanos de la ONU se producen después de que varias figuras del sector tecnológico, entre ellas Dario Amodei, consejero delegado de Anthropic; Sam Altman, director ejecutivo de OpenAI; y el empresario Elon Musk, hayan planteado la necesidad de frenar deliberadamente el desarrollo de los modelos de IA más avanzados ante riesgos como la posible pérdida de control sobre estos sistemas. Lea: “Podría matarnos a todos”: La advertencia que lanzó exigeniero de OpenAI y Anthropic sobre la IA
Según Türk, los Estados y las empresas deben actuar con urgencia y trabajar en espacios multilaterales para establecer reglas sobre el desarrollo y uso de la IA, tomando como base el derecho internacional y la protección de los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, reiteró el alto comisionado.