Según Jacob Coxon, «muchos ejecutivos e investigadores moderarán su lenguaje en la prensa para sonar sensatos», pero escucha a esas personas «expresar miedo en privado». «Ninguna otra actividad humana representa este nivel de peligro», dice
El debate ético y moral respecto a la Inteligencia Artificial y las lagunas aún existentes sobre su uso continúa abierto. Pero a los problemas recientes relacionados con el copyright y la propiedad intelectual, el temor a la sustitución de puestos de trabajo, los deepfakes y la manipulación o los ciberataques, se suma que la IA empieza a actuar de formas que sus creadores no habían previsto y se cuestiona si se está sacrificando la seguridad por la carrera entre gigantes tecnológicos para liderar el mercado.
Sobre este aspecto se ha pronunciado uno de los ingenieros de la californiana Anthropic, Jacob Coxon, que ha dimitido asegurando que teme una IA «fuera de control» y considerando que la compañía está «jugando» con «las vidas» de los seres humanos. Según el investigador, las personas que están construyendo la IA «creen que podrá matarnos a todos al final de esta década».
Te puede interesar
Los españoles quieren formación en IA en el trabajo, el 73% valora positivamente que su empresa la facilite
La irrupción de los agentes de IA obliga a las empresas a resolver dos retos clave: gobernanza y escalabilidad
El especialista en investigación de preentrenamiento de modelos de IA que ha formado parte de Anthropic y OpenAI durante los últimos tres años ha comunicado a través de la red social X su decisión de dejar la compañía estadounidense fundada por exmiembros de la creadora de ChatGPT.
Coxon ha comenzado su misiva afirmando que «ninguna de las dos compañías está actuando de manera responsable». «Están corriendo directamente hacia una superinteligencia ‘self-improving’ (auto-mejorante, en español) y jugando con nuestras vidas«, dice, en alusión a la capacidad de un sistema para mejorar su propio rendimiento, eficiencia o conocimientos de forma autónoma a partir de su propia experiencia, datos o retroalimentación.
«Pronto serán sistemas sobrehumanos»
Coxon, ingeniero de software de 27 años sin responsabilidad ejecutiva pero al que identifican como uno de los desarrolladores de GPT-4o y GPT-4.5, asevera que no hay que «subestimar el poder de esta tecnología». «Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales», ha escrito para añadir que la sociedad ha presenciado «el progreso en cada uno de estos dominios, y el progreso no está desacelerando«.
Sin embargo, una de las declaraciones más alarmantes es la que señala que «las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década». «Esto no es un truco de marketing. Muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado«, espeta para defender que «ninguna otra actividad humana representa este nivel de peligro».
Según el ingeniero, las tecnológicas «están atrapados en una carrera por llegar primero» y «aceptar esta carrera e ingresar al ‘endgame’ (final del juego) es una apuesta hubrista que no debería lanzarse desde una empresa privada». El férreo comunicado concluye instando a los compañeros de profesión a que «consideren cómo se sentirán los próximos años». «¿Quieres iniciar una ejecución de RL superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque ‘de todos modos está sucediendo’ o aprovechar este momento para pedir condiciones diferentes?», cuestiona.
«Está ocurriendo más rápido de lo que pensábamos»
Las reacciones al anuncio de dimisión de Coxon no han tardado en producirse y, entre los comunicados figura el del jefe de ciencia de alineación de Anthropic, Evan Hubinger, que ha asegurado que «Jacob tiene razón» en su afirmación de que creen «con sinceridad que la IA podría matar a todos los humanos».
«Personalmente, pienso que [la probabilidad] es menor del 10% dentro de la próxima década«, ha admitido para afirmar que aunque considera que Anthropic lo está haciendo «lo mejor que puede», aún no tienen «un plan para resolver el alineamiento para la superinteligencia» y no cuenta con «un camino claro para lograrlo».
Pese a que cree que el riesgo de los modelos actuales es «bajo», Hubinger ha mostrado «preocupación» por la superinteligencia que surge del mencionado auto-mejoramiento. «Como hemos dicho que está ocurriendo más rápido de lo que pensábamos», ha concluido en su mensaje.
La última advertencia del CEO de Anthropic
Hace solo dos meses, el CEO de Anthropic Darío Amodei, también creador de Claude, publicó un ensayo en el que advertía de que la IA podría erradicar enfermedades y concentrar un poder casi inimaginable. «La IA podría comprimir 100 años de progreso científico en menos de una década«, afirmaba entonces.
Su extenso ensayo personal zarandeó los círculos tecnológicos y científicos a nivel global, ya que mostraba cómo la inteligencia artificial se acerca a entregar a la humanidad un poder que, según sus propias palabras, resulta «casi inimaginable».
Desde hace meses, Anthropic está siendo objetivo del Gobierno de Estados Unidos por los avances de la Inteligencia Artificial, al considerar algunos de ellos peligrosos. En concreto, su modelo ‘Mythos’ fue puesto en cuarentena al detectarse vulnerabilidades en sistemas, servidores y software de todo el mundo que lo convirtieron en un arma de destrucción masiva. Antes de liberar el código, los desarrolladores de la compañía lo enviaron a bancos, gigantes tecnológicos y aseguradoras para que corrigieran todos los errores.
El ensayo del CEO de la compañía advertía de que lo que viene no tiene precedente histórico comparable y que la sociedad no está preparada para gestionarlo. En el mismo, distinguía entre el poder que la IA puede generar y la sabiduría institucional necesaria para controlarlo, pero con un aviso claro: la segunda va muy por detrás de la primera.
