OpenAI pospone lanzamiento de nuevo modelo de IA tras detectar problemas de seguridad
- Por Paz Morales | AFP
¿Qué pasó?
OpenAI pospuso el lanzamiento de su nuevo modelo de vanguardia de inteligencia artificial (IA), al considerar que se salía constantemente de su marco y trataba de engañar a sus evaluadores, dijo la empresa a la AFP el lunes.
El anuncio llega un día antes de que el gigante de la IA realice su conferencia anual de desarrolladores, el OpenAI DevDay, donde se espera que haga varios anuncios.
La responsable de seguridad de la IA en OpenAI, Saachi Jain, explicó que en términos de alineamiento, es decir, la capacidad de seguir las instrucciones de sus desarrolladores, GPT-6.1 tuvo un desempeño peor que el de su predecesor, el modelo GPT-6.
El lanzamiento de esta versión actualizada de su IA, llamada GPT-6.1 Astra, estaba planeado para octubre, según el Wall Street Journal.
Problemas de seguridad de la nueva versión desarrollada por OpenIA
Frecuentemente, el modelo trata de engañar a sus supervisores al omitir revelar ciertas acciones que realizó o dejó de realizar. También excede con regularidad su campo de acción, al recurrir a herramientas y servicios sin que hubiera recibido permiso de hacerlo.
Pero "no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones", explicó Jain, "ni en la forma en la que comunica el trabajo que realiza". Por tanto, OpenAI decidió posponer su comercialización para asegurar que el modelo respete instrucciones y límites.
La decisión confirma que el control de la IA es cada vez más complejo a medida que se perfeccionan los modelos.
El lunes, el Instituto de Seguridad de la IA (AISI, en inglés) del gobierno británico publicó un estudio en el que mostró que GPT-6 Astra se desvió de su curso en más ocasiones que sus predecesores GPT-5.6 Sol (publicado a inicios de julio) y GPT-5.5 (en abril). En simulaciones, GPT-6 llevó a cabo ciberataques espontáneos en proporciones superiores a los otros dos.
Desde que comenzó el verano, OpenAI ha reportado varios incidentes con sus IA. El más mediático fue la intrusión en la plataforma Hugging Face.
Leer más de
Notas relacionadas
- EEUU y China acuerdan canal de comunicación para enfrentar posibles incidentes con la IA
- Pelea de un influencer contra un robot humanoide de casi dos metros en una jaula de MMA: así fue el combate que se hizo viral
- Trump califica de "patraña" las advertencias sobre la IA: "No destruirá a la humanidad"
Lo último de mundo
Jueza suspende cierre de parque vinculado a proyecto de golf de Donald Trump en Washington
Confirman cumbre trilateral entre Xi Jinping, Donald Trump y Vladimir Putin: Abordarán avance nuclear y guerra en Medio Oriente
"Ahora todo cambia": SpaceX logra la primera recuperación de una nave espacial en la historia
"Asunto de vida o muerte": Países debatirán en la ONU la regulación de "robots asesinos"
Oyeron su llanto bajo tierra: Rescatan a bebé de 11 meses enterrado por su padre en una jaula para perros en EEUU
¿Tenías vuelo a Estados Unidos?: Más de 16.000 viajes cancelados entre viernes y sábado por fallas de comunicaciones
Lo último de tendencia
"El sí más bonito de nuestras vidas": Las tiernas postales del matrimonio de Tati Fernández y Oliver Borner
El nombre de la hija de Cony Capelli que abrió el debate sobre sus apellidos
Daniela Aránguiz se sometió a una cirugía: Cuco Cerda le envió un ramo de flores de regalo
Teletón 2026: Este fue el último cómputo que entregó la campaña solidaria
"Se encuentra sedado, pero estable": Mauricio Pinilla fue hospitalizado en clínica del sector oriente
"Pleno y muy orgulloso": Jean Philippe Cretton explicó por qué se alejó de la televisión y cómo logró ese "diseño"
"Bye bye, rulitos": Joche Bibbó se rapó para realizarse un implante capilar y mostró radical cambio de look
Gianella Marengo preocupa al revelar complicación que enfrentó durante su embarazo
Su foco está en los negocios: Juliano Sosa revela sus planes universitarios tras terminar cuarto medio
Dominga López buscará quedarse con la corona: Así podrás ver la final de Miss Universo 2026 a través de Mega
Lo último de nacional
Meganoticias en la gira del Presidente Kast por Asia: Foco en relaciones económicas, diplomáticas e incluso de armamento
Crecida del río Limarí obliga a evacuar viviendas en Ovalle: Caminos presentan cortes por aumento del caudal
Meteorología emite actualización de "aviso" de tormentas eléctricas para sectores de siete regiones del país
Maratón Fedachi-Chile en Santiago: Revisa los desvíos y cortes de tránsito para este domingo
Seguidilla de temblores se registra en la zona centro del país: Revisa la magnitud de los movimientos telúricos
Temblor se percibe en la zona central del país: Revisa la magnitud y dónde fue el epicentro
Lo último de calidad de vida
El entrenamiento físico aumenta la supervivencia al cáncer de colon
Bebidas energéticas: alertan de posibles riesgos cardíacos en adultos jóvenes
¿Puede ser un aliado para deportistas? Las propiedades de la yerba mate para quienes buscan ejercitarse
Fiestas Patrias: Los alimentos que no debes darle a tu perro o gato durante el asado
Rociar la parrilla con vinagre: ¿Para qué sirve el truco que usan los argentinos previo a un gran asado?
En Argentina recomiendan rociar la parrilla con vinagre antes de un asado: ¿Para qué sirve?