OpenAI pospone lanzamiento de nuevo modelo de IA tras detectar problemas de seguridad
- Por Paz Morales | AFP
¿Qué pasó?
OpenAI pospuso el lanzamiento de su nuevo modelo de vanguardia de inteligencia artificial (IA), al considerar que se salía constantemente de su marco y trataba de engañar a sus evaluadores, dijo la empresa a la AFP el lunes.
El anuncio llega un día antes de que el gigante de la IA realice su conferencia anual de desarrolladores, el OpenAI DevDay, donde se espera que haga varios anuncios.
La responsable de seguridad de la IA en OpenAI, Saachi Jain, explicó que en términos de alineamiento, es decir, la capacidad de seguir las instrucciones de sus desarrolladores, GPT-6.1 tuvo un desempeño peor que el de su predecesor, el modelo GPT-6.
El lanzamiento de esta versión actualizada de su IA, llamada GPT-6.1 Astra, estaba planeado para octubre, según el Wall Street Journal.
Problemas de seguridad de la nueva versión desarrollada por OpenIA
Frecuentemente, el modelo trata de engañar a sus supervisores al omitir revelar ciertas acciones que realizó o dejó de realizar. También excede con regularidad su campo de acción, al recurrir a herramientas y servicios sin que hubiera recibido permiso de hacerlo.
Pero "no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones", explicó Jain, "ni en la forma en la que comunica el trabajo que realiza". Por tanto, OpenAI decidió posponer su comercialización para asegurar que el modelo respete instrucciones y límites.
La decisión confirma que el control de la IA es cada vez más complejo a medida que se perfeccionan los modelos.
El lunes, el Instituto de Seguridad de la IA (AISI, en inglés) del gobierno británico publicó un estudio en el que mostró que GPT-6 Astra se desvió de su curso en más ocasiones que sus predecesores GPT-5.6 Sol (publicado a inicios de julio) y GPT-5.5 (en abril). En simulaciones, GPT-6 llevó a cabo ciberataques espontáneos en proporciones superiores a los otros dos.
Desde que comenzó el verano, OpenAI ha reportado varios incidentes con sus IA. El más mediático fue la intrusión en la plataforma Hugging Face.
Leer más de
Notas relacionadas
- EEUU y China acuerdan canal de comunicación para enfrentar posibles incidentes con la IA
- Pelea de un influencer contra un robot humanoide de casi dos metros en una jaula de MMA: así fue el combate que se hizo viral
- Trump califica de "patraña" las advertencias sobre la IA: "No destruirá a la humanidad"
Lo último de mundo
OpenAI pospone lanzamiento de nuevo modelo de IA tras detectar problemas de seguridad
Acuerdan devolver vivienda a jubilada cuyo desalojo provocó protestas en España
Corea del Sur incorpora el KF-21, el caza que busca ser una alternativa más económica al F-35
¿Lula o Bolsonaro? Brasil se prepara para elegir Presidente
África podría dividirse en dos: La grieta que cambiaría el mapa del continente y daría origen a un océano
Los 7 de Cornell: Reabren investigación sobre violación grupal en universidad de Estados unidos
Lo último de tendencia
EN VIVO: Sigue el primer capítulo de Prohibida Obsesión
Prohibida Obsesión: ¿Quién es la actriz tras el personaje de Julieta Palacios?
Robbie Williams recordó fallida entrevista con Luis Jara: "¿Él sigue con trabajo? Quizás deberíamos juntarnos y tomarnos una foto"
"Me estoy acostumbrando": Amaya Forch sorprende con un radical cambio de look y explica las razones
"Rompe el corazón bien horrible": Luisito Comunica revela cuál es el país que más lo ha "shockeado" hasta la fecha
El sentido mensaje de Carmen Gloria a Carabineros al inicio de su programa tras crimen de cabo Aguilera
Nano Calderón responde pregunta sobre su familia y lanza inesperada frase: "En cualquier momento me ven..."
"Son varios años de madrugadas, de trabajo y dedicación": Bruno Zaretti emocionó al mostrar su nueva casa
"Nos están poniendo el dedo en la boca": Tonka Tomicic perderá la paciencia con Nicolás y Guarén en Volverías con tu ex? 2
El cariño en la música ranchera: El mensaje de apoyo que Alanys Lagos recibió de María José Quintanilla
Lo último de nacional
Las 8 comunas de la Región Metropolitana que tendrán cortes de luz este martes 29 de septiembre
Carabineros intervino "puntos de interés" tras crimen de cabo Aguilera: Se encontraron cargadores de radio y dinero en efectivo
Poduje propone demoler edificios "tomados por el narco" en población Las Dunas tras asesinato de carabinero en Lo Espejo
Nueva ruta comercial entre Punta Arenas e islas Malvinas queda en el centro de la disputa entre Argentina y Reino Unido
José Antonio Kast y María Pía Adriasola asisten al velorio de carabinero asesinado en procedimiento en Lo Espejo
Presidenta del Servel advierte por eventual recorte de 15% al presupuesto: Podría afectar preparación de elecciones de 2028
Lo último de calidad de vida
¿Puede ser un aliado para deportistas? Las propiedades de la yerba mate para quienes buscan ejercitarse
Fiestas Patrias: Los alimentos que no debes darle a tu perro o gato durante el asado
Rociar la parrilla con vinagre: ¿Para qué sirve el truco que usan los argentinos previo a un gran asado?
En Argentina recomiendan rociar la parrilla con vinagre antes de un asado: ¿Para qué sirve?
La naranja dulce no interfiere con medicamentos como el pomelo, pero sí puede reducir la absorción de otros fármacos muy comunes
La orina se puede poner rosa o roja tras comer betarraga y no siempre es normal: qué es la beturia y qué señal puede estar dando