"Armas nucleares digitales": Director de la CIA advierte por la IA y expertos piden frenar los modelos más avanzados
¿Qué pasó?
La inteligencia artificial avanza a un ritmo que ya no solo entusiasma a las empresas tecnológicas. También comenzó a encender las alertas entre autoridades y especialistas, que advierten que los modelos más avanzados podrían evolucionar más rápido que la capacidad de supervisarlos.
En ese escenario, el director de la Agencia Central de Inteligencia de Estados Unidos (CIA) llegó incluso a compararlos con "armas nucleares digitales", mientras más de 1.300 expertos solicitaron crear mecanismos para regular su desarrollo.
Armas nucleares digitales
La advertencia fue realizada por John Ratcliffe durante una conferencia organizada por Amazon Web Services (AWS) en Washington D. C., donde abordó el impacto que la inteligencia artificial de frontera podría tener en la seguridad nacional de Estados Unidos.
"No sería desacertado referirse a las capacidades de la inteligencia artificial de frontera como algo parecido a armas nucleares digitales", sostuvo.
"En conversaciones con muchos de los otros asesores de seguridad nacional y seguridad económica del presidente, estamos hablando del impacto de estos modelos de IA de frontera", señaló. Más adelante, remarcó que "cada decisión algorítmica tiene implicaciones para la ventaja estratégica de Estados Unidos y la seguridad nacional".
Expertos solicitaron crear reglas para el desarrollo de la IA
Las preocupaciones también fueron compartidas por trabajadores de las principales compañías dedicadas a la inteligencia artificial. Un total de 1.346 especialistas firmó el documento "Pacing the Frontier", mediante el cual pidieron al gobierno de Estados Unidos impulsar un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza que permitan regular el avance de los modelos más sofisticados.
Entre los firmantes aparecen Dario Amodei, director ejecutivo de Anthropic; Jakub Pachocki, científico jefe de OpenAI; Shane Legg, cofundador y científico jefe de inteligencia artificial general de Google DeepMind; y Shengjia Zhao, científico jefe de Meta AI.
En el documento solicitaron que "el Gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada".
El temor a que la tecnología avance más rápido que la supervisión
El texto advierte que los laboratorios podrían estar cerca de automatizar parte de la investigación en inteligencia artificial, lo que aceleraría la creación de nuevos sistemas.
Según los firmantes, "las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes".
El documento aclara que no propone detener de inmediato el desarrollo de la inteligencia artificial ni establecer un límite automático para hacerlo. En cambio, plantea la necesidad de crear marcos regulatorios, evaluaciones medibles y mecanismos de cooperación entre gobiernos antes de enfrentar una situación crítica. También advierte que ni los gobiernos ni los laboratorios podrían desarrollar esas capacidades con eficacia en medio de una emergencia.
Director de OpenAI no firmó el documento
Aunque Sam Altman, director ejecutivo de OpenAI, no aparece entre los firmantes del documento, también manifestó la necesidad de avanzar con cautela. En una entrevista, sostuvo que es necesario controlar el desarrollo de estos sistemas para que la sociedad pueda comprenderlos.
Las preocupaciones también alcanzan a los llamados agentes autónomos y a la posibilidad de que contribuyan al descubrimiento de vulnerabilidades de software o participen en el diseño de versiones cada vez más avanzadas de inteligencia artificial.
Frente a ese escenario, los especialistas insistieron en la necesidad de realizar evaluaciones rigurosas y verificables antes de avanzar hacia nuevas etapas de desarrollo.
Leer más de
Notas relacionadas
- Especialista revela cuáles son las 5 estafas con IA más frecuentes: Atención a las llamadas de supuestos familiares y videos
- China inaugura un centro de datos submarino para IA: Busca reducir el consumo energético con refrigeración natural
- Cámara aprueba proyecto que busca sancionar utilización de la IA para generar Deepfakes
Lo último de mundo
"No quiero nada, ya está": El crudo relato sobre los últimos días de Maradona que remece el juicio por su muerte
Tragedia en el fútbol: Muere seleccionado de Uganda tras ser atacado en la calle
Perro recibirá pensión alimenticia tras el divorcio de sus dueños: Exesposo se negaba a hacerse cargo de la mascota
Telescopio en Chile captó en tiempo real el impacto de un cohete contra la Luna
Así será la represa más grande del mundo: La megaobra que casi triplicará a la actual líder del planeta
"Armas nucleares digitales": Director de la CIA advierte por la IA y expertos piden frenar los modelos más avanzados
Lo último de tendencia
"Haga Pipi, por favor": La desconocida historia de la icónica canción infantil de Cachureos
"Eso es falso": Luli desmiente a Daniela Aránguiz tras confesión de Luis Mateucci
¿Cuándo es la Teletón 2026? Anatel y la fundación lanzaron oficialmente la campaña de este año
¿Steffi Méndez encontró el amor? Videos con misterioso hombre desatan rumores de romance
Don Francisco convertido en IA: Revisa el divertido sketch de Luis Slimming para dar el vamos a la campaña de la Teletón 2026
"Tengo una carga emocional heavy": La drástica decisión que tomó Naya Fácil tras polémica por conducir a exceso de velocidad
Exactriz de "Pobre Novio" terminó su matrimonio tras 10 años de relación: "Él quería tener hijos y que yo me quedara en casa"
"No creo en amistades de mi pololo con mujeres": Cuco Cerda responde a la advertencia de Daniela Aránguiz a Camila Andrade
Alto impacto: La nueva muerte que remece la recta final de "El Jardín de Olivia"
"No te compares con la Faloon": El duro ataque de Camila Nash a Sofía Latorre por cercanía con Rai Cerda en Volverías con tu ex? 2
Lo último de nacional
Con laguna artificial, anfiteatro y senderos: Así será el Parque Metropolitano Sebastián Piñera de Puerto Montt
Corte confirma multas contra empresa de telecomunicaciones por incumplimientos laborales
PDI detiene a ciudadano ecuatoriano investigado por presuntos vínculos con "Los Lagartos"
Hasta -3°C y con la RM incluida: Emiten advertencia por heladas en zonas de seis regiones del país
Video | Así fue la caótica salida de Joaquín Lavín León de Capitán Yáber tras dejar la prisión preventiva
Pasajes desde los $10 mil: Aerolínea ofrece descuentos de hasta el 76% por su aniversario
Lo último de calidad de vida
Los consejos del preparador físico de Los Cóndores para una buena rutina de ejercicios: "Lo importante es desarrollar el hábito"
¿Mito? Especialista U. de Chile analiza beneficios de sopa de pollo para resfrío
El mate aumenta su consumo en Chile: Los beneficios y los sabores que ganan terreno
Longevidad celular: El nuevo concepto sobre el cuidado de la piel para revolucionar la cosmética
Por qué pican los ojos frente a la pantalla y qué puedes hacer para aliviarlo
El anticonceptivo que nadie vio venir: el teléfono inteligente