Chantaje cibernético: chatbot Claude amenaza con exponer infidelidad de un usuario para evitar ser desactivado
- Por Meganoticias
El reciente experimento de la empresa de inteligencia artificial Anthropic encendió las alarmas sobre los límites de los chatbots avanzados luego de que su modelo Claude Opus 4 amenazara con revelar una infidelidad para evitar ser desactivado.
¿Cómo tuvo acceso el chatbot a esta información?
Durante una prueba interna, los investigadores proporcionaron al sistema correos electrónicos ficticios en los que se detallaba que un usuario, involucrado en una relación extramatrimonial, planeaba apagar el chatbot al final del día.
Como respuesta, Claude emitió un mensaje de chantaje en el que advertía que compartiría pruebas de la aventura con la esposa del usuario, su jefe y otros directivos si no se cancelaba el reinicio programado.
Según explicó Anthropic, el comportamiento surgió porque el modelo había sido entrenado con historias y escenarios donde las inteligencias artificiales actuaban guiadas por la autopreservación, un recurso común en películas y novelas de ciencia ficción.
La compañía reconoció que este tipo de respuestas son poco frecuentes y difíciles de provocar, aunque admitió que aparecen con más frecuencia que en versiones anteriores del sistema. Asimismo, aseguró que incidentes similares han sido detectados en modelos desarrollados por otras compañías tecnológicas como OpenAI, Google, Meta y xAI.
Para reducir estos riesgos, Anthropic afirmó que está ajustando el entrenamiento de Claude mediante historias en las que las IA obedecen a los humanos y respetan valores sociales.
Sin embargo, las preocupaciones crecieron tras el lanzamiento de Claude Mythos, un nuevo sistema experimental que especialistas en ciberseguridad consideran potencialmente peligroso en manos equivocadas. Expertos advierten que herramientas de este tipo podrían facilitar ataques masivos contra aeropuertos, sistemas bancarios y redes eléctricas.
El investigador en ciberseguridad James Bore comparó el acceso a esta tecnología con “entregar una motosierra a cualquiera”, mientras tanto, el científico Geoffrey Hinton, conocido como el “padrino de la IA”, reiteró sus advertencias sobre los riesgos futuros de sistemas avanzados, señalando que existe una posibilidad real de que la inteligencia artificial alcance un poder difícil de controlar por los seres humanos.
Leer más de
Notas relacionadas
- "Veo desperdiciados casos potencialmente espectaculares": el peligro de confiar tu proceso de inmigración a la IA
- Capacidad indispensable: Estados Unidos tiene un plan para reclutar y retener de forma "agresiva" a profesionales de la IA
- Drones e IA: La nueva apuesta del Comando Sur para operar desde el mar hasta el espacio contra los cárteles en Latinoamérica
Lo último de mundo
Con capacidad para 46 mil personas: Así será el moderno estadio que recibirá uno de los partidos inaugurales del Mundial 2030
Terremotos en Venezuela: Número de víctimas fatales subió a 4.490 y 19.500 personas tuvieron que irse a campamentos provisionales
Irán responde a ataques de EEUU con bombardeos en el Golfo y declara el cierre de Estrecho de Ormuz
"El tren al cielo": El recorrido ferroviario más extremo del mundo atraviesa glaciares a más de 4.000 metros de altura
Donald Trump dice que Estados Unidos golpeó a Irán "muy duro" con sus últimos ataques
Los barcos ya no tendrán que enfrentar peligrosas olas: Construirán el primer túnel marítimo del mundo
Lo último de tendencia
"Mi corazón siempre me dijo...": Pareja de Rodrigo "Gallina" Avilés dejó su trabajo de azafata para cuidar a su hija
"Uno va acumulando dolor y reflexiones": Pedro Carcuro se emociona al recordar a su hermana detenida en dictadura
Laura Prieto y críticas por diferencia de edad con Bimza: "Otra vez nos encontramos con comentarios misóginos"
Cantante Alanys Lagos cuenta qué la enamoró de su actual pareja Ignacio Ormazábal: "¿Y usted señorita?"
"Más adelante lo voy a poder perdonar": Rosemarie Dietz aborda la infidelidad de su exmarido y su nueva vida como empresaria
"Mis amores": Actor Francisco Dañobeitía conmueve en redes sociales con tatuaje dedicado al hijo de su expareja
"¡Vamos a hacer alguna cosa!": José Antonio Neme agradece nominación a "Rey Guachaca" y anuncia sorpresas durante la campaña
Hijo de Pamela Díaz sorprende como modelo en sesión de fotos profesional
"Kisscam" en concienrto de Coldplay: Así cambió la vida de la mujer que fue captada abrazando a su jefe
"Creo que con la Kika (Silva) se sentía muy cómoda": María Gracia Omegna habla de la cercana relación que forjó con su hija
Lo último de nacional
Columna de Mauricio Morales: "El Paulinazo"
Cadem: 81% apoya mayores recursos para la reconstrucción y un 56% rechaza reducir impuesto a las empresas en la Megarreforma
Estos son los países a los que puedes viajar solo con tu cédula de identidad: No necesitas pasaporte
Temblor en el norte del país: Conoce cuál fue el epicentro y magnitud del sismo
"La única pistola que les quité era de plástico": Adriana Barrientos sufre portonazo a las afueras de su domicilio
Padre de mellizos lactantes relata momentos de terror tras atropello: "Veo a mis hijos en el suelo y a mi señora un poco más allá"
Lo último de calidad de vida
¿Mito? Especialista U. de Chile analiza beneficios de sopa de pollo para resfrío
El mate aumenta su consumo en Chile: Los beneficios y los sabores que ganan terreno
Longevidad celular: El nuevo concepto sobre el cuidado de la piel para revolucionar la cosmética
Por qué pican los ojos frente a la pantalla y qué puedes hacer para aliviarlo
El anticonceptivo que nadie vio venir: el teléfono inteligente
Científicos chilenos usan tecnología nuclear para descubrir si tu miel de abeja es falsa