"Armas nucleares digitales": Director de la CIA advierte por la IA y expertos piden frenar los modelos más avanzados
¿Qué pasó?
La inteligencia artificial avanza a un ritmo que ya no solo entusiasma a las empresas tecnológicas. También comenzó a encender las alertas entre autoridades y especialistas, que advierten que los modelos más avanzados podrían evolucionar más rápido que la capacidad de supervisarlos.
En ese escenario, el director de la Agencia Central de Inteligencia de Estados Unidos (CIA) llegó incluso a compararlos con "armas nucleares digitales", mientras más de 1.300 expertos solicitaron crear mecanismos para regular su desarrollo.
Armas nucleares digitales
La advertencia fue realizada por John Ratcliffe durante una conferencia organizada por Amazon Web Services (AWS) en Washington D. C., donde abordó el impacto que la inteligencia artificial de frontera podría tener en la seguridad nacional de Estados Unidos.
Ir a la siguiente nota"No sería desacertado referirse a las capacidades de la inteligencia artificial de frontera como algo parecido a armas nucleares digitales", sostuvo.
"En conversaciones con muchos de los otros asesores de seguridad nacional y seguridad económica del presidente, estamos hablando del impacto de estos modelos de IA de frontera", señaló. Más adelante, remarcó que "cada decisión algorítmica tiene implicaciones para la ventaja estratégica de Estados Unidos y la seguridad nacional".
Expertos solicitaron crear reglas para el desarrollo de la IA
Las preocupaciones también fueron compartidas por trabajadores de las principales compañías dedicadas a la inteligencia artificial. Un total de 1.346 especialistas firmó el documento "Pacing the Frontier", mediante el cual pidieron al gobierno de Estados Unidos impulsar un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza que permitan regular el avance de los modelos más sofisticados.
Entre los firmantes aparecen Dario Amodei, director ejecutivo de Anthropic; Jakub Pachocki, científico jefe de OpenAI; Shane Legg, cofundador y científico jefe de inteligencia artificial general de Google DeepMind; y Shengjia Zhao, científico jefe de Meta AI.
En el documento solicitaron que "el Gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada".
El temor a que la tecnología avance más rápido que la supervisión
El texto advierte que los laboratorios podrían estar cerca de automatizar parte de la investigación en inteligencia artificial, lo que aceleraría la creación de nuevos sistemas.
Según los firmantes, "las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes".
El documento aclara que no propone detener de inmediato el desarrollo de la inteligencia artificial ni establecer un límite automático para hacerlo. En cambio, plantea la necesidad de crear marcos regulatorios, evaluaciones medibles y mecanismos de cooperación entre gobiernos antes de enfrentar una situación crítica. También advierte que ni los gobiernos ni los laboratorios podrían desarrollar esas capacidades con eficacia en medio de una emergencia.
Director de OpenAI no firmó el documento
Aunque Sam Altman, director ejecutivo de OpenAI, no aparece entre los firmantes del documento, también manifestó la necesidad de avanzar con cautela. En una entrevista, sostuvo que es necesario controlar el desarrollo de estos sistemas para que la sociedad pueda comprenderlos.
Las preocupaciones también alcanzan a los llamados agentes autónomos y a la posibilidad de que contribuyan al descubrimiento de vulnerabilidades de software o participen en el diseño de versiones cada vez más avanzadas de inteligencia artificial.
Frente a ese escenario, los especialistas insistieron en la necesidad de realizar evaluaciones rigurosas y verificables antes de avanzar hacia nuevas etapas de desarrollo.
Leer más de
Notas relacionadas
- Especialista revela cuáles son las 5 estafas con IA más frecuentes: Atención a las llamadas de supuestos familiares y videos
- China inaugura un centro de datos submarino para IA: Busca reducir el consumo energético con refrigeración natural
- Cámara aprueba proyecto que busca sancionar utilización de la IA para generar Deepfakes
