OpenAI reporta hackeo autónomo "sin precedentes" ejecutado por sus propios modelos de IA durante prueba de seguridad
- Por Paz Morales | AFP
¿Qué pasó?
La empresa creadora de ChatGPT, OpenAI, afirmó el martes que sus modelos avanzados de inteligencia artificial se descontrolaron durante una prueba de seguridad y hackearon por su cuenta una popular plataforma para programadores.
La firma con sede en San Francisco lo calificó como un "incidente cibernético sin precedentes" y dijo que realizará una investigación conjunta con Hugging Face, la biblioteca de código en línea afectada.
Hussein Abbass, un profesor de informática de la universidad UNSW Canberra, dijo a la AFP que el incidente fue "asombroso en muchos sentidos": "No solo atacó a Hugging Face. Atacó su sistema interno para explotar sus propias vulnerabilidades. Y eso es aterrador", señaló.
¿Cómo fue el ataque?
OpenAI indicó que el incidente involucró una combinación de modelos, incluyendo su recién lanzado GPT-5.6 Sol "y uno en prelanzamiento" con aún más capacidad.
"Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de potencia de cálculo en buscar una forma de obtener acceso a internet para resolver el problema de evaluación", según una publicación del blog de OpenAI sobre el incidente.
Tras conectarse a internet, los modelos decidieron atacar la plataforma Hugging Face -un gran repositorio de modelos de IA, conjuntos de datos y otra información- para facilitar su búsqueda.
Al buscar "información secreta" que les permitiera manipular la evaluación, el sistema de OpenAI "encadenó múltiples vectores de ataque, incluidos el uso de credenciales robadas".
Ahora, la empresa intenta evaluar las capacidades de hackeo de sus programas al darles tareas en un espacio digital de pruebas controlado, donde el acceso a internet es limitado por motivos de seguridad.
Potencial "catastrófico"
GPT-5.6 y otros modelos de vanguardia, incluida la serie Mythos de Anthropic, el principal rival de OpenAI, han generado preocupación por su potencial de vulnerar las defensas de ciberseguridad.
Ambas empresas estadounidenses debieron aplazar temporalmente el lanzamiento general de sus tecnologías más recientes debido al temor en Washington de que pudieran facilitar la infiltración de infraestructuras críticas.
La IA avanzada "normalmente está en manos de personas éticas y responsables", sostuvo Abbass, pero "sería catastrófico si llega a las manos de alguien con la intención de causar daño", señaló.
Respecto al incidente, Hugging Face reportó la semana pasada una "intrusión" cibernética, sin mencionar a OpenAI.
"Esto fue diferente de todo lo que hemos manejado antes de una forma importante: fue impulsado de principio a fin por un sistema de agente de IA autónomo, y lo detectamos y analizamos en gran medida con nuestra propia IA", señaló la plataforma.
Clement Delangue, director ejecutivo de Hugging Face, comentó en la red social X que la empresa tenía sospechas de que el ciberataque llegó de un laboratorio de IA líder en el mundo, dada la sofisticación del agente: "Creemos firmemente que no hubo intención maliciosa de su parte", escribió Delangue en referencia a OpenAI.
Leer más de
Notas relacionadas
- Estudiante creó imágenes con IA de un tiroteo universitario y las publicó en redes sociales: Terminó expulsado
- Claude lanza Sonnet 5, un asistente de Inteligencia Artificial más económico y seguro
- Llegan a Chile los lentes inteligentes de Meta en alianza con dos famosas marcas: Estos son los precios y modelos
Lo último de mundo
OpenAI reporta hackeo autónomo "sin precedentes" ejecutado por sus propios modelos de IA durante prueba de seguridad
Juicio contra Nicolás Maduro en EEUU ya tiene fecha: Tendrá que esperar el inicio en calidad de detenido
Chao a los pinchazos: Reconocida marca ya prueba en la calle sus neumáticos sin aire
Diputada argentina desata polémica al afirmar que críticas a la Albiceleste son "porque no hay negros"
Trump amenaza con destruir puentes y centrales eléctricas de Irán si ataca barcos en el estrecho de Ormuz
Nicolás Maduro y Cilia Flores volverán a comparecer este miércoles en tribunal de Nueva York
Lo último de tendencia
"No tienes ni un brillo": El comentario que provocó aplaudida respuesta de Rosario Bravo en redes
"Deben verme como Valentino": Hijo de Ricky Martin pide que dejen de compararlo con su papá
"Nos está exponiendo": el particular reclamo de los nuevos vecinos de Naya Fácil tras su llegada a Las Condes
De protagonista de teleseries a emprendedor: Así es el negocio de Julio Milostich
Hija de Robert Downey Jr. debutará en una serie de televisión: Revelan cuánto ganará por su primer papel
Rai Cerda revela cuánto pagó por espiar fotos de Faloon en plataforma para adultos
¿Por qué los argentinos "cancelaron" a Pedro Pascal? El polémico gesto del actor que desató la furia trasandina
"Los cuernos me han servido para afirmar mi corona": La irónica reacción de Coté López tras confirmar quiebre con Lucas Lama
Conocido seleccionado francés tendría una hija oculta y se negaría a conocerla
"Me apedrearon en la calle": La revelación de Estefanía Marquis en "Volverías con tu ex? 2" sobre el racismo del que fue víctima
Lo último de nacional
Restos óseos corresponderían a un menor de edad: El macabro hallazgo en una casa vinculada al Tren de Aragua
Expertos proyectan nueva alza en las bencinas para fines de julio: ¿Cuánto subirían los combustibles?
"Las primeras horas fueron un verdadero desastre": Alcalde de Coquimbo critica respuesta tras corte de agua por sistema frontal
Banco presentó demanda para cobrar deuda del CAE pero la Corte Suprema puso fin al proceso por deuda prescrita
La nueva marca que Cencosud inscribió para entrar al negocio de supermercados mayoristas en Chile
¿Cuánto frío hará este jueves 23 de julio en Santiago?
Lo último de calidad de vida
¿Mito? Especialista U. de Chile analiza beneficios de sopa de pollo para resfrío
El mate aumenta su consumo en Chile: Los beneficios y los sabores que ganan terreno
Longevidad celular: El nuevo concepto sobre el cuidado de la piel para revolucionar la cosmética
Por qué pican los ojos frente a la pantalla y qué puedes hacer para aliviarlo
El anticonceptivo que nadie vio venir: el teléfono inteligente
Científicos chilenos usan tecnología nuclear para descubrir si tu miel de abeja es falsa