"Podría matarnos a todos para finales de la década": La advertencia de extrabajador de Anthropic sobre el futuro de la IA
- Por Cristian Latorre
¿Qué pasó?
Jacob Coxon, extrabajador de Anthropic, publicó una serie de reflexiones en su cuenta de X tras renunciar a la compañía. El investigador aseguró que durante los últimos tres años trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic, y cuestionó el rumbo que están tomando ambas empresas.
Anthropic es una empresa estadounidense de inteligencia artificial, conocida por desarrollar Claude, una familia de modelos de IA generativa que compite con herramientas como ChatGPT. La compañía está enfocada en la investigación y desarrollo de sistemas de inteligencia artificial avanzados, con especial énfasis en la seguridad y el desarrollo responsable de esta tecnología.
"Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", advirtió.
Ir a la siguiente notaEl oscuro panorama de los desarrolladores de IA
Coxon advirtió que los avances en inteligencia artificial podrían llevar pronto a sistemas con capacidades sobrehumanas y con un impacto significativo en distintos ámbitos.
"No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando", advirtió.
El extrabajador sostuvo además que existe preocupación dentro de la propia industria sobre la posibilidad de que una IA avanzada pueda representar un riesgo extremo para la humanidad.
"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro", aseguró.
La carrera por desarrollar IA
Coxon también explicó por qué, pese a estos riesgos, los laboratorios continúan avanzando. Según su análisis, mientras en OpenAI muchos no habrían interiorizado completamente las consecuencias, en Anthropic existiría una mayor conciencia del riesgo, pero también la sensación de estar atrapados en una carrera por llegar primero.
"Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo", sostuvo.
En ese contexto, cuestionó que decisiones de este nivel puedan quedar en manos de empresas privadas.
"Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles", señaló.
Pese a sus críticas, Coxon dijo ser optimista respecto de la posibilidad de alcanzar acuerdos entre los laboratorios de IA. Sin embargo, advirtió que evitar una carrera global podría requerir medidas como una prohibición temporal para mejorar las capacidades de los modelos.
"Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos de ritmo entre laboratorios de EE.UU. sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos", aclaró.
Finalmente, hizo un llamado a los investigadores de inteligencia artificial a cuestionar si deben continuar avanzando simplemente porque consideran que el desarrollo de estas tecnologías es inevitable.
"Si eres un investigador de laboratorio, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque de todos modos está sucediendo —o aprovechar este momento para pedir condiciones diferentes?", cerró.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Leer más de
