"Armas nucleares digitales": Director de la CIA advierte por la IA y expertos piden frenar los modelos más avanzados
¿Qué pasó?
La inteligencia artificial avanza a un ritmo que ya no solo entusiasma a las empresas tecnológicas. También comenzó a encender las alertas entre autoridades y especialistas, que advierten que los modelos más avanzados podrían evolucionar más rápido que la capacidad de supervisarlos.
En ese escenario, el director de la Agencia Central de Inteligencia de Estados Unidos (CIA) llegó incluso a compararlos con "armas nucleares digitales", mientras más de 1.300 expertos solicitaron crear mecanismos para regular su desarrollo.
Armas nucleares digitales
La advertencia fue realizada por John Ratcliffe durante una conferencia organizada por Amazon Web Services (AWS) en Washington D. C., donde abordó el impacto que la inteligencia artificial de frontera podría tener en la seguridad nacional de Estados Unidos.
"No sería desacertado referirse a las capacidades de la inteligencia artificial de frontera como algo parecido a armas nucleares digitales", sostuvo.
"En conversaciones con muchos de los otros asesores de seguridad nacional y seguridad económica del presidente, estamos hablando del impacto de estos modelos de IA de frontera", señaló. Más adelante, remarcó que "cada decisión algorítmica tiene implicaciones para la ventaja estratégica de Estados Unidos y la seguridad nacional".
Expertos solicitaron crear reglas para el desarrollo de la IA
Las preocupaciones también fueron compartidas por trabajadores de las principales compañías dedicadas a la inteligencia artificial. Un total de 1.346 especialistas firmó el documento "Pacing the Frontier", mediante el cual pidieron al gobierno de Estados Unidos impulsar un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza que permitan regular el avance de los modelos más sofisticados.
Entre los firmantes aparecen Dario Amodei, director ejecutivo de Anthropic; Jakub Pachocki, científico jefe de OpenAI; Shane Legg, cofundador y científico jefe de inteligencia artificial general de Google DeepMind; y Shengjia Zhao, científico jefe de Meta AI.
En el documento solicitaron que "el Gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada".
El temor a que la tecnología avance más rápido que la supervisión
El texto advierte que los laboratorios podrían estar cerca de automatizar parte de la investigación en inteligencia artificial, lo que aceleraría la creación de nuevos sistemas.
Según los firmantes, "las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes".
El documento aclara que no propone detener de inmediato el desarrollo de la inteligencia artificial ni establecer un límite automático para hacerlo. En cambio, plantea la necesidad de crear marcos regulatorios, evaluaciones medibles y mecanismos de cooperación entre gobiernos antes de enfrentar una situación crítica. También advierte que ni los gobiernos ni los laboratorios podrían desarrollar esas capacidades con eficacia en medio de una emergencia.
Director de OpenAI no firmó el documento
Aunque Sam Altman, director ejecutivo de OpenAI, no aparece entre los firmantes del documento, también manifestó la necesidad de avanzar con cautela. En una entrevista, sostuvo que es necesario controlar el desarrollo de estos sistemas para que la sociedad pueda comprenderlos.
Las preocupaciones también alcanzan a los llamados agentes autónomos y a la posibilidad de que contribuyan al descubrimiento de vulnerabilidades de software o participen en el diseño de versiones cada vez más avanzadas de inteligencia artificial.
Frente a ese escenario, los especialistas insistieron en la necesidad de realizar evaluaciones rigurosas y verificables antes de avanzar hacia nuevas etapas de desarrollo.
Leer más de
Notas relacionadas
- Especialista revela cuáles son las 5 estafas con IA más frecuentes: Atención a las llamadas de supuestos familiares y videos
- China inaugura un centro de datos submarino para IA: Busca reducir el consumo energético con refrigeración natural
- Cámara aprueba proyecto que busca sancionar utilización de la IA para generar Deepfakes
Lo último de mundo
Dua Lipa, Tame Impala, SZA y Daddy Yankee lideran próxima edición de Coachella
Papa León XIV advierte a los jóvenes contra la "obsesión por la apariencia" en las redes
Perra se negó a separarse de un bebé y terminó alertando sobre una grave enfermedad
Alerta de la FDA por posible riesgo ocular en tratamientos para la diabetes y la obesidad: Mencionan popular medicamento
Banco Central de Paraguay informa que devolvió parte de sus ahorros a 93% de clientes de Ueno Bank
Donald Trump denuncia fraude electoral en las legislativas de mitad de mandato de EEUU
Lo último de tendencia
"Mi vida está en riesgo": El desesperado llamado de Diego Pánico tras sufrir un tromboembolismo pulmonar
Daniela Aránguiz se sometió a una colecistectomía: ¿En qué consiste la operación?
Acusan a Piare con P de meterse en una relación: Comediante desmintió infidelidad y su nueva pareja dio la cara
Murió Stacy Keach, actor que interpretó al recordado alcaide de "Prison Break" y al detective "Mike Hammer"
"Bella Capelli Daroch": El guiño en el nombre de la hija de Cony Capelli que abrió el debate sobre sus apellidos
Maná lanza histórico concierto en YouTube en la antesala de su presentación en Chile: Así puedes verlo
De la predicción en un restaurante a compararse con Rasputín: Expareja rusa contó extraña historia de Parived
Muere el destacado actor chileno Leonardo Perucci a los 87 años
Festival de Viña 2027: Laura Pausini regresa a la Quinta Vergara y se convierte en la primera artista confirmada
De ganar un reality a conducir un auto de aplicación de transporte: El presente de la expareja de Pamela Díaz
Lo último de nacional
Máximas de hasta 36°C: Declaran Alerta Amarilla para la Región Metropolitana por calor extremo
Cifran en $8.520 millones el robo a banco en Concepción: Ladrones también se llevaron 80 mil dólares y 30 mil euros
Plaza Franklin: Así es el nuevo centro comercial que se inaugurará en pleno Santiago Centro
Greta Fuchslocher recurre contra la Corte de Valparaíso tras quedar fuera del concurso por estar casada con fiscal de Limache
Descuentos de hasta 50%: Tienda de productos para el hogar prepara venta nocturna en tiendas y por Internet
Ministro Quiroz anuncia que programa "Yo Elijo mi PC" se repondrá en el Senado
Lo último de calidad de vida
El entrenamiento físico aumenta la supervivencia al cáncer de colon
Bebidas energéticas: alertan de posibles riesgos cardíacos en adultos jóvenes
¿Puede ser un aliado para deportistas? Las propiedades de la yerba mate para quienes buscan ejercitarse
Fiestas Patrias: Los alimentos que no debes darle a tu perro o gato durante el asado
Rociar la parrilla con vinagre: ¿Para qué sirve el truco que usan los argentinos previo a un gran asado?
En Argentina recomiendan rociar la parrilla con vinagre antes de un asado: ¿Para qué sirve?