Chantaje cibernético: chatbot Claude amenaza con exponer infidelidad de un usuario para evitar ser desactivado
- Por Meganoticias
El reciente experimento de la empresa de inteligencia artificial Anthropic encendió las alarmas sobre los límites de los chatbots avanzados luego de que su modelo Claude Opus 4 amenazara con revelar una infidelidad para evitar ser desactivado.
¿Cómo tuvo acceso el chatbot a esta información?
Durante una prueba interna, los investigadores proporcionaron al sistema correos electrónicos ficticios en los que se detallaba que un usuario, involucrado en una relación extramatrimonial, planeaba apagar el chatbot al final del día.
Como respuesta, Claude emitió un mensaje de chantaje en el que advertía que compartiría pruebas de la aventura con la esposa del usuario, su jefe y otros directivos si no se cancelaba el reinicio programado.
Según explicó Anthropic, el comportamiento surgió porque el modelo había sido entrenado con historias y escenarios donde las inteligencias artificiales actuaban guiadas por la autopreservación, un recurso común en películas y novelas de ciencia ficción.
La compañía reconoció que este tipo de respuestas son poco frecuentes y difíciles de provocar, aunque admitió que aparecen con más frecuencia que en versiones anteriores del sistema. Asimismo, aseguró que incidentes similares han sido detectados en modelos desarrollados por otras compañías tecnológicas como OpenAI, Google, Meta y xAI.
Para reducir estos riesgos, Anthropic afirmó que está ajustando el entrenamiento de Claude mediante historias en las que las IA obedecen a los humanos y respetan valores sociales.
Sin embargo, las preocupaciones crecieron tras el lanzamiento de Claude Mythos, un nuevo sistema experimental que especialistas en ciberseguridad consideran potencialmente peligroso en manos equivocadas. Expertos advierten que herramientas de este tipo podrían facilitar ataques masivos contra aeropuertos, sistemas bancarios y redes eléctricas.
El investigador en ciberseguridad James Bore comparó el acceso a esta tecnología con “entregar una motosierra a cualquiera”, mientras tanto, el científico Geoffrey Hinton, conocido como el “padrino de la IA”, reiteró sus advertencias sobre los riesgos futuros de sistemas avanzados, señalando que existe una posibilidad real de que la inteligencia artificial alcance un poder difícil de controlar por los seres humanos.
Leer más de
Notas relacionadas
- "Veo desperdiciados casos potencialmente espectaculares": el peligro de confiar tu proceso de inmigración a la IA
- Capacidad indispensable: Estados Unidos tiene un plan para reclutar y retener de forma "agresiva" a profesionales de la IA
- Drones e IA: La nueva apuesta del Comando Sur para operar desde el mar hasta el espacio contra los cárteles en Latinoamérica
Lo último de mundo
La puerta del Panteón de Roma pesa toneladas pero una sola persona puede abrirla: el secreto de una ingeniería de 1.900 años
Confirmado | Descubren tumba con restos de 38 personas en ciudadela de Chan Chan: piezas de oro, vasijas y el líder de élite
Trump celebra "gran noche" de la extrema derecha en Alemania tras histórico triunfo de AfD
"Tu aura es ser un verdadero héroe": Trabajador recibió millonario premio tras salvar a una niña de ser atropellada
EEUU incorpora a Perú al "Escudo de las Américas", alianza regional contra el crimen transnacional
Lloró y pidió misericordia: Conocida presentadora de TV de 39 años fue condenada a muerte por narcotráfico
Lo último de tendencia
Luli recibió atrevida propuesta por parte de compañero de encierro en Volverías con tu ex? 2
Doble luto para Ben y Casey Affleck: confirman muerte de su padre a dos meses del fallecimiento de su madre
Para dar el vamos al 18: "Viva Chile Sinfónico" suma nueva función para celebrar Fiestas Patrias
"Nunca nos dijo": Hijo de reconocido periodista revela que ocultó su enfermedad hasta el final
Chino Ríos responde con todo a opinóloga tras video en el que aparece supuestamente con otra mujer
"Me amo así como soy": Carla Ballero respondió a las críticas por su cuerpo y reveló los cambios físicos que atraviesa
"Fui muy mala": Raquel Argandoña confiesa que hizo terminar a Kel Calderón con un pololo por su baja estatura
Mirtha Legrand fue internada a los 99 años por un cuadro de bronquitis
Rick Harrison de "El precio de la historia" fue operado de urgencia al corazón
Fondas del Parque O'Higgins: Este es el valor de las entradas para las Fiestas Patrias
Lo último de nacional
Gobierno desvincula a abogado formalizado por femicidio frustrado de su pareja
Banco Central baja su proyección de crecimiento para este año, pero la sube para 2027 y 2028
NotCo reduce su presencia internacional: Vende Brasil, cierra México y Chile queda bajo presión
"Pueden caer unos goterones": Este es el horario en que llovería este miércoles en Santiago
Temblor se percibe en la zona norte del país: Revisa la magnitud y el epicentro del sismo
"Hay días que vamos a superar los 25°C": Alejandro Sepúlveda anticipa las zonas donde lloverá para Fiestas Patrias
Lo último de calidad de vida
Rociar la parrilla con vinagre: ¿Para qué sirve el truco que usan los argentinos previo a un gran asado?
En Argentina recomiendan rociar la parrilla con vinagre antes de un asado: ¿Para qué sirve?
La naranja dulce no interfiere con medicamentos como el pomelo, pero sí puede reducir la absorción de otros fármacos muy comunes
La orina se puede poner rosa o roja tras comer betarraga y no siempre es normal: qué es la beturia y qué señal puede estar dando
Carl Jung dijo que la vida realmente comienza a los 40 años y no es autoayuda barata: la teoría psicológica detrás de la frase
La palta protege el corazón, pero hay 5 grupos que deben moderarla o evitarla: lo que advierte la ciencia médica