"Podría matarnos a todos para finales de la década": La advertencia de extrabajador de Anthropic sobre el futuro de la IA
- Por Cristian Latorre
¿Qué pasó?
Jacob Coxon, extrabajador de Anthropic, publicó una serie de reflexiones en su cuenta de X tras renunciar a la compañía. El investigador aseguró que durante los últimos tres años trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic, y cuestionó el rumbo que están tomando ambas empresas.
Anthropic es una empresa estadounidense de inteligencia artificial, conocida por desarrollar Claude, una familia de modelos de IA generativa que compite con herramientas como ChatGPT. La compañía está enfocada en la investigación y desarrollo de sistemas de inteligencia artificial avanzados, con especial énfasis en la seguridad y el desarrollo responsable de esta tecnología.
"Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", advirtió.
El oscuro panorama de los desarrolladores de IA
Coxon advirtió que los avances en inteligencia artificial podrían llevar pronto a sistemas con capacidades sobrehumanas y con un impacto significativo en distintos ámbitos.
"No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando", advirtió.
El extrabajador sostuvo además que existe preocupación dentro de la propia industria sobre la posibilidad de que una IA avanzada pueda representar un riesgo extremo para la humanidad.
"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro", aseguró.
La carrera por desarrollar IA
Coxon también explicó por qué, pese a estos riesgos, los laboratorios continúan avanzando. Según su análisis, mientras en OpenAI muchos no habrían interiorizado completamente las consecuencias, en Anthropic existiría una mayor conciencia del riesgo, pero también la sensación de estar atrapados en una carrera por llegar primero.
"Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo", sostuvo.
En ese contexto, cuestionó que decisiones de este nivel puedan quedar en manos de empresas privadas.
"Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles", señaló.
Pese a sus críticas, Coxon dijo ser optimista respecto de la posibilidad de alcanzar acuerdos entre los laboratorios de IA. Sin embargo, advirtió que evitar una carrera global podría requerir medidas como una prohibición temporal para mejorar las capacidades de los modelos.
"Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos de ritmo entre laboratorios de EE.UU. sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos", aclaró.
Finalmente, hizo un llamado a los investigadores de inteligencia artificial a cuestionar si deben continuar avanzando simplemente porque consideran que el desarrollo de estas tecnologías es inevitable.
"Si eres un investigador de laboratorio, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque de todos modos está sucediendo —o aprovechar este momento para pedir condiciones diferentes?", cerró.
Leer más de
Notas relacionadas
Lo último de mundo
Meganoticias en Brasil antes de las elecciones: Lula y Flávio Bolsonaro disputan voto a voto la presidencia
Nuevas protestas sociales recorren Francia entre tensiones y fuertes medidas de seguridad
Analista internacional advierte al gobierno por estrategia de Trump en Escudo de las Américas: "EEUU no pide, exige e impone"
En busca de captar a los indecisos: Lula y Bolsonaro moderan el tono en último debate antes del balotaje del domingo en Brasil
"Así se doma a un bandido": Presidente de Colombia comparte video encarando a narcotraficante
Los primeros habitantes de Hawái llegaron en canoa desde Rapa Nui cuando Europa estaba en la Edad Media
Lo último de tendencia
Periodista español y su camarógrafa "desaparecieron" tras ser impactados por una ola en vivo: Tuvieron que cortar la transmisión
Álvaro Ballero mostró el tatuaje que se hizo junto a su nueva pareja: "Representa la constelación..."
Gianella Marengo muestra su embarazo con una osada fotografía que enamoró a sus fanáticos
Ruth Gamarra revela la millonaria deuda que debe pagar tras ser operada dos veces en menos de diez días
Grupo La Noche: ¿Por qué le dicen "Alexítico" al actual gran rival de Leo Rey?
Cony Capelli revela que recompuso la relación con el padre de su bebé: "Espero que podamos formar una familia bonita"
"Nunca supimos que íbamos a tenerlo": Marcianeke recuerda pérdida de bebé con Anaís Vilches y confiesa que quieren ser padres
Habrá "batalla de famosos" y Cónclave del Humor: Revisa la programación de Teletón 2026
"No sé qué hacer": Esto debería pagar Naya Fácil tras sufrir serios daños por las lluvias en su lujoso penthouse de Las Condes
"Di muchas oportunidades, creí en el cambio": Kenita Larraín tras la separación de su exesposo en medio de denuncia por VIF
Lo último de nacional
De 70.000 a $248.000: Congreso aprueba aumento de la remuneración para alumnos de Carabineros
Incluida la Metropolitana: Meteorología emite aviso por problables tormentas eléctricas para sectores de cuatro regiones del país
"Primavera tormentosa": Meteorológa de Mega anticipa lluvias y posibles tormentas eléctricas para la zona central
Investigan derrame de hidrocarburos en playa de Papudo: Bidón contenía cerca de 20 litros de aceite usado
Temblor se registra en la zona norte: Conoce la magnitud y epicentro del sismo
Joven desaparecido en Maipú: Fiscal del caso confirma que sujeto detenido "ha confesado un delito de homicidio"
Lo último de calidad de vida
¿Puede ser un aliado para deportistas? Las propiedades de la yerba mate para quienes buscan ejercitarse
Fiestas Patrias: Los alimentos que no debes darle a tu perro o gato durante el asado
Rociar la parrilla con vinagre: ¿Para qué sirve el truco que usan los argentinos previo a un gran asado?
En Argentina recomiendan rociar la parrilla con vinagre antes de un asado: ¿Para qué sirve?
La naranja dulce no interfiere con medicamentos como el pomelo, pero sí puede reducir la absorción de otros fármacos muy comunes
La orina se puede poner rosa o roja tras comer betarraga y no siempre es normal: qué es la beturia y qué señal puede estar dando