"Podría matarnos a todos para finales de la década": La advertencia de extrabajador de Anthropic sobre el futuro de la IA
- Por Cristian Latorre
¿Qué pasó?
Jacob Coxon, extrabajador de Anthropic, publicó una serie de reflexiones en su cuenta de X tras renunciar a la compañía. El investigador aseguró que durante los últimos tres años trabajó en investigación de preentrenamiento tanto en OpenAI como en Anthropic, y cuestionó el rumbo que están tomando ambas empresas.
Anthropic es una empresa estadounidense de inteligencia artificial, conocida por desarrollar Claude, una familia de modelos de IA generativa que compite con herramientas como ChatGPT. La compañía está enfocada en la investigación y desarrollo de sistemas de inteligencia artificial avanzados, con especial énfasis en la seguridad y el desarrollo responsable de esta tecnología.
"Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", advirtió.
El oscuro panorama de los desarrolladores de IA
Coxon advirtió que los avances en inteligencia artificial podrían llevar pronto a sistemas con capacidades sobrehumanas y con un impacto significativo en distintos ámbitos.
"No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando", advirtió.
El extrabajador sostuvo además que existe preocupación dentro de la propia industria sobre la posibilidad de que una IA avanzada pueda representar un riesgo extremo para la humanidad.
"Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing. Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro", aseguró.
La carrera por desarrollar IA
Coxon también explicó por qué, pese a estos riesgos, los laboratorios continúan avanzando. Según su análisis, mientras en OpenAI muchos no habrían interiorizado completamente las consecuencias, en Anthropic existiría una mayor conciencia del riesgo, pero también la sensación de estar atrapados en una carrera por llegar primero.
"Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?. En OpenAI, muchos no han interiorizado profundamente las apuestas civilizatorias. En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo", sostuvo.
En ese contexto, cuestionó que decisiones de este nivel puedan quedar en manos de empresas privadas.
"Aceptar esta carrera e ingresar al endgame es una apuesta que no debería lanzarse desde el Slack de una empresa privada. Intentar hacer un speedrun del alineamiento debería requerir una confianza extraordinaria en que no hay trayectorias mejores disponibles", señaló.
Pese a sus críticas, Coxon dijo ser optimista respecto de la posibilidad de alcanzar acuerdos entre los laboratorios de IA. Sin embargo, advirtió que evitar una carrera global podría requerir medidas como una prohibición temporal para mejorar las capacidades de los modelos.
"Estoy optimista sobre el potencial para la coordinación. Disparos de advertencia como el ataque a Hugging Face han hecho que los acuerdos de ritmo entre laboratorios de EE.UU. sean más viables. No siento que estemos en camino de prevenir una carrera global, lo que podría requerir acciones costosas como una prohibición temporal de mejorar las capacidades de los modelos", aclaró.
Finalmente, hizo un llamado a los investigadores de inteligencia artificial a cuestionar si deben continuar avanzando simplemente porque consideran que el desarrollo de estas tecnologías es inevitable.
"Si eres un investigador de laboratorio, te insto a que consideres cómo se sentirán realmente los próximos años. ¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque de todos modos está sucediendo —o aprovechar este momento para pedir condiciones diferentes?", cerró.
Leer más de
Notas relacionadas
Lo último de mundo
Influencer hizo una crítica gastronómica y cuatro años después fue atacado: Había dicho que la comida era "bazofia"
"Podría matarnos a todos para finales de la década": La advertencia de extrabajador de Anthropic sobre el futuro de la IA
La puerta del Panteón de Roma pesa toneladas pero una sola persona puede abrirla: el secreto de una ingeniería de 1.900 años
Confirmado | Descubren tumba con restos de 38 personas en ciudadela de Chan Chan: piezas de oro, vasijas y el líder de élite
Trump celebra "gran noche" de la extrema derecha en Alemania tras histórico triunfo de AfD
"Tu aura es ser un verdadero héroe": Trabajador recibió millonario premio tras salvar a una niña de ser atropellada
Lo último de tendencia
Fondas en Puente Alto: Revisa el precio de las entradas y la programación para Fiestas Patrias
"Me da vergüenza decir cómo lo conocí": Belén Soto revela cómo fue el primer contacto con su pareja y por qué lo ocultaron
"Ya estoy harta": La contundente respuesta de Christell Rodríguez tras pregunta sobre sus padres
Luli recibió atrevida propuesta por parte de compañero de encierro en Volverías con tu ex? 2
Doble luto para Ben y Casey Affleck: confirman muerte de su padre a dos meses del fallecimiento de su madre
Para dar el vamos al 18: "Viva Chile Sinfónico" suma nueva función para celebrar Fiestas Patrias
"Nunca nos dijo": Hijo de reconocido periodista revela que ocultó su enfermedad hasta el final
Chino Ríos responde con todo a opinóloga tras video en el que aparece supuestamente con otra mujer
"Me amo así como soy": Carla Ballero respondió a las críticas por su cuerpo y reveló los cambios físicos que atraviesa
"Fui muy mala": Raquel Argandoña confiesa que hizo terminar a Kel Calderón con un pololo por su baja estatura
Lo último de nacional
Clausuran casino clandestino en el centro de Los Ángeles: Incautan 55 máquinas de juego y $5 millones en efectivo
Expresidente Frei sobre el origen del estallido social: "No creo que esto fue natural... algún día se va a conocer esa verdad"
Senador Macaya por dichos del embajador de EEUU sobre el estallido social: "No queremos teorías, queremos hechos"
"Falso detective": Primo de Franco Parisi cae en causa por secuestros extorsivos que involucra a tres PDI y exfiscal Fodich
"Tenemos gente malintencionada en los grupos, no hay confianza": la reaparición del expresidente del PDG investigado por Fiscalía
Compró un auto nuevo de $22 millones y falló a los tres meses: Automotora deberá pagarle millonaria indemnización
Lo último de calidad de vida
Rociar la parrilla con vinagre: ¿Para qué sirve el truco que usan los argentinos previo a un gran asado?
En Argentina recomiendan rociar la parrilla con vinagre antes de un asado: ¿Para qué sirve?
La naranja dulce no interfiere con medicamentos como el pomelo, pero sí puede reducir la absorción de otros fármacos muy comunes
La orina se puede poner rosa o roja tras comer betarraga y no siempre es normal: qué es la beturia y qué señal puede estar dando
Carl Jung dijo que la vida realmente comienza a los 40 años y no es autoayuda barata: la teoría psicológica detrás de la frase
La palta protege el corazón, pero hay 5 grupos que deben moderarla o evitarla: lo que advierte la ciencia médica