"Armas nucleares digitales": Director de la CIA advierte por la IA y expertos piden frenar los modelos más avanzados
¿Qué pasó?
La inteligencia artificial avanza a un ritmo que ya no solo entusiasma a las empresas tecnológicas. También comenzó a encender las alertas entre autoridades y especialistas, que advierten que los modelos más avanzados podrían evolucionar más rápido que la capacidad de supervisarlos.
En ese escenario, el director de la Agencia Central de Inteligencia de Estados Unidos (CIA) llegó incluso a compararlos con "armas nucleares digitales", mientras más de 1.300 expertos solicitaron crear mecanismos para regular su desarrollo.
Armas nucleares digitales
La advertencia fue realizada por John Ratcliffe durante una conferencia organizada por Amazon Web Services (AWS) en Washington D. C., donde abordó el impacto que la inteligencia artificial de frontera podría tener en la seguridad nacional de Estados Unidos.
"No sería desacertado referirse a las capacidades de la inteligencia artificial de frontera como algo parecido a armas nucleares digitales", sostuvo.
"En conversaciones con muchos de los otros asesores de seguridad nacional y seguridad económica del presidente, estamos hablando del impacto de estos modelos de IA de frontera", señaló. Más adelante, remarcó que "cada decisión algorítmica tiene implicaciones para la ventaja estratégica de Estados Unidos y la seguridad nacional".
Expertos solicitaron crear reglas para el desarrollo de la IA
Las preocupaciones también fueron compartidas por trabajadores de las principales compañías dedicadas a la inteligencia artificial. Un total de 1.346 especialistas firmó el documento "Pacing the Frontier", mediante el cual pidieron al gobierno de Estados Unidos impulsar un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza que permitan regular el avance de los modelos más sofisticados.
Entre los firmantes aparecen Dario Amodei, director ejecutivo de Anthropic; Jakub Pachocki, científico jefe de OpenAI; Shane Legg, cofundador y científico jefe de inteligencia artificial general de Google DeepMind; y Shengjia Zhao, científico jefe de Meta AI.
En el documento solicitaron que "el Gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada".
El temor a que la tecnología avance más rápido que la supervisión
El texto advierte que los laboratorios podrían estar cerca de automatizar parte de la investigación en inteligencia artificial, lo que aceleraría la creación de nuevos sistemas.
Según los firmantes, "las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes".
El documento aclara que no propone detener de inmediato el desarrollo de la inteligencia artificial ni establecer un límite automático para hacerlo. En cambio, plantea la necesidad de crear marcos regulatorios, evaluaciones medibles y mecanismos de cooperación entre gobiernos antes de enfrentar una situación crítica. También advierte que ni los gobiernos ni los laboratorios podrían desarrollar esas capacidades con eficacia en medio de una emergencia.
Director de OpenAI no firmó el documento
Aunque Sam Altman, director ejecutivo de OpenAI, no aparece entre los firmantes del documento, también manifestó la necesidad de avanzar con cautela. En una entrevista, sostuvo que es necesario controlar el desarrollo de estos sistemas para que la sociedad pueda comprenderlos.
Las preocupaciones también alcanzan a los llamados agentes autónomos y a la posibilidad de que contribuyan al descubrimiento de vulnerabilidades de software o participen en el diseño de versiones cada vez más avanzadas de inteligencia artificial.
Frente a ese escenario, los especialistas insistieron en la necesidad de realizar evaluaciones rigurosas y verificables antes de avanzar hacia nuevas etapas de desarrollo.
Leer más de
Notas relacionadas
- Especialista revela cuáles son las 5 estafas con IA más frecuentes: Atención a las llamadas de supuestos familiares y videos
- China inaugura un centro de datos submarino para IA: Busca reducir el consumo energético con refrigeración natural
- Cámara aprueba proyecto que busca sancionar utilización de la IA para generar Deepfakes
Lo último de mundo
"Falla en la Matrix": Una tripulante de la Fragata Libertad "desapareció" en pleno vivo y el video es furor en redes
México anunció restricciones al uso de celulares en escuelas primarias y secundarias
"El Gobierno no decide lo que la prensa informa": CNN, MS NOW y Politico llevan a Trump a tribunales tras el veto a la Casa Blanca
Tres extrañas figuras captadas en el lago Ness reavivan el misterio sobre el legendario monstruo "Nessie"
Así es "el puente más hermoso del mundo" que se inauguró en la capital de Taiwán
Primera ministra de Italia anunció que se prohibirá el uso del burka y del niqab en las escuelas
Lo último de tendencia
"He pasado cinco meses muy difíciles": Sebastián "Lindorfo" Jiménez revela el drama que vive tras estafa por $400 millones
"No soy el cuñado de Chile": José Antonio Raffo confirma el fin de su relación con Lux Pascal tras 15 años juntos
La publicación de Sammis Reyes en medio de rumores de quiebre con Emilia Dides
Nico Solabarrieta aclara qué pasó con la argentina que quedó viviendo en su casa
"Mentirosa y ordinaria": La discusión de Faloon y Camila Nash por un vaporizador en "Volverías con tu ex? 2"
Con Mercedes Morán y guion de Mariana Enríquez: "Mis muertos tristes" de Pablo Larraín compite por la Concha de Oro
"Brígido": Skarleth Labra muestra su antes y después tras cinco meses de entrenamiento
"No quiero que me dirijas la palabra": Faloon Larraguibel estalla contra Rai Cerda y Camila Nash en el mismo capítulo
A dos meses de la muerte de actor: La decisión de Ignacio Kliche sobre la gran colección de libros de su padre Fernando
Muere Presley Gerber, hijo de la supermodelo Cindy Crawford, a los 27 años: Investigan las circunstancias de su muerte
Lo último de nacional
Temblor en la zona norte: Revisa la magnitud del sismo
Investigan malla de seguridad rota: El antecedente clave tras la fatal caída de un niño desde edificio en Santiago
Ampliar capacidad y más espacios VIP: Los cambios que está preparando el Santander Arena
¿No te pagaron la PGU? Este miércoles 23 se depositará el beneficio a pensionados afectados por error
Cuentas de luz se dispararon: Vecinos denuncian fallas en medidores y esperan compensaciones
Presidente Kast en Nueva York para su primera Asamblea General de la ONU: "Chile tiene mucho que ofrecer al mundo"
Lo último de calidad de vida
Fiestas Patrias: Los alimentos que no debes darle a tu perro o gato durante el asado
Rociar la parrilla con vinagre: ¿Para qué sirve el truco que usan los argentinos previo a un gran asado?
En Argentina recomiendan rociar la parrilla con vinagre antes de un asado: ¿Para qué sirve?
La naranja dulce no interfiere con medicamentos como el pomelo, pero sí puede reducir la absorción de otros fármacos muy comunes
La orina se puede poner rosa o roja tras comer betarraga y no siempre es normal: qué es la beturia y qué señal puede estar dando
Carl Jung dijo que la vida realmente comienza a los 40 años y no es autoayuda barata: la teoría psicológica detrás de la frase