\u00bfQuer\u00e9s recibir alertas de \u00faltimo momento?<\/p>\n
Jacob Coxon renunci\u00f3 a Anthropic y advirti\u00f3 que la superinteligencia podr\u00eda extinguir a la humanidad, en un mensaje publicado el martes 8 de septiembre en la red social X. El investigador, de 27 a\u00f1os, cuestion\u00f3 tanto a esa compa\u00f1\u00eda como a OpenAI por avanzar en el desarrollo de sistemas cada vez m\u00e1s poderosos sin contar, seg\u00fan afirm\u00f3, con garant\u00edas de seguridad suficientes.<\/p>\n
Coxon trabaj\u00f3 durante tres a\u00f1os en el \u00e1rea de preentrenamiento, etapa en la que los modelos aprenden a partir de enormes vol\u00famenes de informaci\u00f3n. Primero integr\u00f3 el equipo t\u00e9cnico de OpenAI y luego, en julio de 2026, se incorpor\u00f3 a Anthropic, empresa reconocida por poner el foco en la seguridad de la inteligencia artificial.<\/p>\n
Su publicaci\u00f3n alcanz\u00f3 m\u00e1s de 44 millones de visualizaciones en nueve horas. \u201cNinguna de las dos empresas act\u00faa con responsabilidad\u201d, escribi\u00f3. Luego asegur\u00f3 que ambas compa\u00f1\u00edas \u201ccorren derecho hacia una superinteligencia capaz de mejorarse a s\u00ed misma y apuestan con nuestras vidas\u201d.<\/p>\n
La repercusi\u00f3n aument\u00f3 despu\u00e9s de la respuesta p\u00fablica de Evan Hubinger, responsable de un equipo de seguridad y alineaci\u00f3n en Anthropic, quien continuaba trabajando dentro de la compa\u00f1\u00eda.<\/p>\n
\u201cJacob tiene raz\u00f3n. De verdad creemos que la IA podr\u00eda matar a todos los humanos. Yo calculo m\u00e1s de 10% en la pr\u00f3xima d\u00e9cada\u201d, afirm\u00f3 Hubinger. El especialista present\u00f3 esa estimaci\u00f3n como una apreciaci\u00f3n personal sobre el riesgo de que futuros sistemas avanzados escapen al control humano.<\/p>\n
Tambi\u00e9n reconoci\u00f3 que Anthropic \u201ctodav\u00eda no tiene un plan para resolver la alineaci\u00f3n de una superinteligencia\u201d y admiti\u00f3 que no estaba claro que pudiera encontrarlo. En inteligencia artificial, la alineaci\u00f3n hace referencia a los m\u00e9todos utilizados para lograr que un sistema act\u00fae de acuerdo con objetivos y valores humanos.<\/p>\n
Coxon, de nacionalidad brit\u00e1nica y con formaci\u00f3n en matem\u00e1tica, trabaj\u00f3 en OpenAI desde 2023 hasta julio de 2026. Seg\u00fan Business Insider, particip\u00f3 en tareas vinculadas con GPT-4o antes de trasladarse a Anthropic por la reputaci\u00f3n de la empresa en materia de seguridad.<\/p>\n
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.<\/p>\n
Su permanencia en la nueva compa\u00f1\u00eda dur\u00f3 aproximadamente dos meses. Tras presentar la renuncia, explic\u00f3 a The Wall Street Journal que la aceleraci\u00f3n en el desarrollo de los modelos podr\u00eda conducir a escenarios dif\u00edciles de controlar.<\/p>\n
\u201cEstamos en camino a muchos de los escenarios m\u00e1s agresivos, donde a fines del a\u00f1o que viene las cosas ya podr\u00edan estar fuera de control\u201d, sostuvo. Adem\u00e1s, revel\u00f3 que algunos de sus colegas utilizaban expresiones como crunchtime \u2014\u201chora l\u00edmite\u201d\u2014 y endgame \u2014\u201cfase final\u201d\u2014 para describir la evoluci\u00f3n de las capacidades de la IA.<\/p>\n
En su publicaci\u00f3n, Coxon diferenci\u00f3 la manera en que OpenAI y Anthropic analizaban los peligros asociados con la inteligencia artificial avanzada. Seg\u00fan su interpretaci\u00f3n, en la primera compa\u00f1\u00eda parte del personal no habr\u00eda comprendido plenamente la magnitud del desaf\u00edo.<\/p>\n
\u201cMuchos no internalizaron lo que est\u00e1 en juego para la civilizaci\u00f3n\u201d, afirm\u00f3 sobre su experiencia en OpenAI. En cambio, se\u00f1al\u00f3 que dentro de Anthropic exist\u00eda una mayor conciencia sobre los riesgos, aunque la empresa permanec\u00eda involucrada en una competencia por desarrollar primero los sistemas m\u00e1s avanzados.<\/p>\n
El investigador sostuvo que Anthropic consideraba necesario continuar porque, si se retiraba de la carrera, otras compa\u00f1\u00edas podr\u00edan avanzar con menores controles. Para Coxon, esa l\u00f3gica implicaba una competencia peligrosa, incluso cuando no estuviera impulsada \u00fanicamente por intereses econ\u00f3micos.<\/p>\n
\u201cEntrar en esa fase final es una apuesta soberbia que no deber\u00eda lanzarse desde el Slack de una empresa privada\u201d, sentenci\u00f3. De esta manera, cuestion\u00f3 que decisiones con posibles consecuencias globales quedaran concentradas dentro de un reducido grupo de compa\u00f1\u00edas tecnol\u00f3gicas.<\/p>\n