Jacob Coxon es un investigador en inteligencia artificial que trabajó en OpenAI y Anthropic y que recientemente abandonó esta última compañía con fuertes cuestionamientos sobre la velocidad y las condiciones en las que avanza el desarrollo de la IA.
Junto con su dimisión de Anthropic Coxon causó un gran revuelo en Silicon Valley y el resto del mundo al anunciar una grave advertencia: que la carrera por la inteligencia artificial (IA) probablemente esté poniendo en peligro a la humanidad. Coxon escribió que muchas de las personas que desarrollan IA comparten su opinión y creen que se está acabando el tiempo para garantizar que los sistemas de IA se desarrollen de forma segura.
Inmediatamente se sumaron las voces de otros investigadores que comparten la opinión de Coxon. Evan Hubinger, responsable de alineación de la IA en Anthropic, predijo en una publicación en X que hay más de un 10% de probabilidades de que la IA pueda acabar con toda la humanidad en la próxima década. Esa publicación fue compartida por investigadores actuales y antiguos de OpenAI y Anthropic, algunos de los cuales afirmaron que se trataba de un sentimiento común en el sector.
“El consenso es que el próximo año o los dos siguientes serán decisivos para la humanidad”, aseguró Coxon. En realidad, desde su perspectiva, este es el momento en el que Anthropic y sus competidores decidirán el destino de la humanidad, pero aclaró que los modelos actuales no pueden causar una extinción, que el riesgo empieza cuando la IA se mejore sola.
En ese contexto, el CEO de Anthropic, Dario Amodei, publicó un ensayo titulado «Debemos caminar por la frontera», en el que sostuvo que la industria debe reducir la velocidad de la carrera por los modelos de frontera para permitir que los mecanismos de seguridad puedan acompañar el aumento de sus capacidades.
Anthropic acompañó la advertencia con una primera decisión concreta: permitirá que evaluadores externos tengan acceso permanente a sus sistemas, en condiciones similares a las de sus empleados, para verificar el cumplimiento de las medidas de seguridad, reportar incidentes y evaluar el alineamiento de los modelos durante su entrenamiento.
La propuesta recibió el respaldo de Sam Altman, CEO de OpenAI y uno de los principales competidores de Amodei en el desarrollo de los modelos más avanzados.
«Estoy de acuerdo con Dario en que necesitamos moderar el avance de la frontera», afirmó Altman, quien además reveló que la cuestión fue uno de los principales temas de las discusiones mantenidas dentro de OpenAI durante las últimas semanas.
Altman también anunció que OpenAI seguirá el camino planteado por Anthropic y dará a evaluadores independientes un nivel de acceso similar al de sus empleados para controlar sus sistemas. «Es una gran idea y nosotros haremos lo mismo», sostuvo.
A la coincidencia entre los responsables de Anthropic y OpenAI se sumó Elon Musk, propietario de SpaceX y fundador de XAI, otra de las compañías que participa de la competencia global por desarrollar modelos más avanzados. «Dario tiene razón», escribió el empresario.
Las consecuencias de una IA sin control pueden ser mucho más graves de las que ya se preveían. Hasta ahora se pensaba que su desarrollo podía derivar en un tendal de trabajadores sin trabajo sobreviviendo con una renta universal en el mejor de los casos. Y en otros casos profundizando el sometimiento de naciones enteras y a sus trabajadores a la subsistencia del sálvese quien pueda. Es decir, en una concentración mucho mayor del capital y del poder mundial.
Ahora lo que podría ocurrir con la inteligencia artificial es lo mismo que con la inteligencia humana normal, pero fuera de su control. El lanzamiento de un virus que provoque una gran mortandad mundial, como ya tuvimos con el Covid. O una guerra mundial nuclear. Ambas catástrofes son muy posibles por la acción humana directa dado el enfrentamiento planteado entre EE-UU y China por el dominio del mercado mundial. Lo que temen los gobiernos y grandes burgueses es que alguna de esas decisiones se tome sin su intervención y sin su cálculo de las consecuencias.
Estamos ante una situación similar a la que se planteó con el descubrimiento de la energía nuclear, pero de una magnitud incalculable. Esa es una comparación que ya se está utilizando, pero que puede tener varios significados.
La energía nuclear puede ser utilizada para el progreso de la humanidad o para su completa destrucción, depende de quienes la controlen. Entonces los que se arrogan el papel de “buenos” quieren ganar la carrera de la IA para vencer a los supuestos “malos”. Pero la realidad es que se trata de una disputa por la hegemonía mundial.
Según CNN, «Desoyendo los llamados de científicos especializados en IA y de ejecutivos de Anthropic, OpenAI y Google a ralentizar el desarrollo, el presidente de Estados Unidos, Donald Trump, dijo que lo más importante era mantener la ventaja estadounidense frente a China en la cada vez más intensa carrera entre superpotencias por la IA.»
“Lideramos a China en IA… y, francamente, quiero que siga siendo así, porque quien gana en IA, gana”, dijo Trump.
¿Y para que quiere Trump “liderar” el desarrollo en IA? Es cada vez mayor la incorporación de la IA a la planificación militar del Pentágono y a la ejecución de operaciones de guerra concretas en varios países.
Volviendo a la comparación con la energía nuclear, hay que recordar que EE-UU usó la bomba en Japón para imponer su superioridad militar y su hegemonía mundial y solo después, cuando otros países dominaron esa tecnología se concretaron los tratados para su control. En palabras de Trump quien gana en IA gana…la guerra mundial.
EE-UU ha planteado la cuestión de la superioridad en IA como un problema existencial: <El secretario del Tesoro de EE-UU, Scott Bessent, lanzó una dura advertencia sobre la competencia tecnológica con China y aseguró que, si Pekín logra ganar la carrera por el desarrollo de la Inteligencia Artificial, el país norteamericano podría perder buena parte de las ventajas económicas, militares y estratégicas que hoy le permiten mantener su posición de liderazgo global.
«No habrá un pasado mañana si China se adelanta en inteligencia artificial», afirmó Bessent, quien sostuvo que en ese escenario «nada más importará». Según explicó, el dominio de esta tecnología podría volver irrelevantes algunas de las principales fortalezas estratégicas de Washington, incluso su enorme capacidad militar.> (Ambito Financiero)
China por su parte adelantó su posición negativa a frenar el desarrollo de la IA a través del editorial del Global Times (un periódico controlado por el estado chino) desestimando la opinión de Dario Amodei:
“A primera vista, parece una ‘declaración racional’ centrada en la seguridad mundial de la IA. Sin embargo, una lectura atenta revela su agenda oculta: el artículo está repleto de disposiciones de contención dirigidas contra China y es, en esencia, un ‘manual de la Guerra Fría’ para el sector de la IA”.
Aunque hay muchas especulaciones alrededor de las declaraciones catastrofistas acerca de la posible autodestrucción de la humanidad, no estamos en condiciones de descartarlas. Lo que es seguro es que si no se la despoja de su carácter capitalista, es decir, enmarcada en empresas privadas relacionadas con el Estado y el capital imperialista, avanzará de cualquier manera sin medir los riesgos con tal de ganar la carrera de la competencia mundial en aras de controlar el mundo y concentrar las riquezas en cada vez menos manos; si los que van a controlar la IA son los estados imperialistas que luchan por imponer su propia hegemonía sobre los huesos del resto de los países, nada bueno puede esperarse.
En cambio, la IA podría ser la llave de un enorme salto hacia adelante, pero dado el grado de concentración y vinculación con el Estado, no hay otra forma parcial o reformista de controlar tanto la IA como el armamento nuclear que no sea la instauración de Estados Obreros y Socialistas a escala mundial. La alternativa sigue siendo ¡Socialismo o Barbarie!!
15/9/26