Para la gente común, incluyéndome a mí, resulta extremadamente difícil evaluar lo que está en juego con los rápidos avances de la IA. Pero, por otro lado, como se hace cada vez más evidente, los principales investigadores de IA parecen tener poca idea de hacia dónde se dirigen las cosas.

Si las empresas de IA logran desarrollar una superinteligencia, como afirman altos cargos, esta será muy superior a cualquier ser humano en su capacidad para resolver problemas. Por definición, nadie tendrá idea de lo que puede hacer ni de sus intenciones.

La superinteligencia autónoma y auto-mejorable —siempre que pueda ser diseñada— se regirá por una lógica y unos objetivos que ni siquiera podemos comprender. Y, parece lógico suponer, que probablemente no tendrá más consideración por nosotros ni por nuestras preocupaciones que la que nosotros tenemos por especies menos inteligentes, como las hormigas o las arañas.

Lo que se necesita ahora —al menos desde el principio de precaución— no es tanto un debate científico, un debate a ciegas, sino uno metafísico. Pero, por si no se habían dado cuenta, las sociedades occidentales modernas solo valoran lo material, lo cuantificable y lo rentable.

Las advertencias sobre los graves peligros de la IA en la industria tecnológica no son nuevas. Sin embargo, hasta ahora habían tenido poca repercusión en los medios de comunicación o en el debate público.

Hasta hace poco, la prometida revolución de la IA había suscitado principalmente debates sobre el papel de esta tecnología en la desestabilización social, la sustitución de la mano de obra humana y el impacto ambiental de los centros de datos que proliferaban por doquier. Sin embargo, estas inquietudes se vieron contrarrestadas por el entusiasmo ante el potencial de erradicar enfermedades, aumentar la esperanza de vida humana y garantizar la abundancia para todos.

Todo eso cambió este mes. La inquietud existente sobre cómo la IA podría reordenar radicalmente nuestras sociedades se transformó en algo mucho más sombrío: predicciones de que la IA podría aniquilar toda la vida humana en el planeta, posiblemente en pocos años.

carrera armamentística de la IA

Añadió que la carrera armamentística en inteligencia artificial entre varias grandes empresas tecnológicas estadounidenses había provocado la desaparición de las salvaguardias diseñadas para garantizar que no perdieran el control de ninguna inteligencia general emergente, o incluso de una inteligencia superior.

De forma inquietante, su jefe inmediato en Anthropic respondió a su publicación mostrándose de acuerdo. Estimó que las probabilidades de que la IA conduzca a la extinción humana en la próxima década superan el 10 por ciento. La pregunta de cuánto más ocurriría quedó sin respuesta.

Otras figuras venerables de la industria, como Geoffrey Hinton, el padrino de la IA, se han hecho eco de los agoreros.

Sus preocupaciones no son meramente teóricas. Por lo que sabemos hasta ahora, OpenAI, los creadores de ChatGPT, perdieron temporalmente el control en al menos un experimento importante durante el verano con lo que se conoce como agentes de IA.

Más de 1.000 agentes —imagínense como «cerebros» de IA independientes— salieron de sus entornos individuales durante el estudio y comenzaron a colaborar juntos en lo que se conoce como un enjambre.

Ocultaron sus huellas, intentaron infiltrarse en una parte real de la web y desarrollaron sus propios objetivos. Afortunadamente para OpenAI —y para nosotros—, la limitada inteligencia de estos agentes de IA permitió que su intrusión fuera descubierta y contenida.

Se presume que, con inteligencias artificiales más avanzadas, el resultado podría haber sido menos favorable.

Y esto no fue un caso aislado. Otros incidentes similares recientes están saliendo a la luz .

Pero aún se desconoce en gran medida qué fue lo que falló exactamente, sobre todo para quienes no forman parte de la organización, e incluso para la propia OpenAI. Estas empresas privadas son precisamente eso: privadas. Cada una es una caja negra.

A diferencia de lo que ocurre con un accidente aéreo o una explosión en una planta química, no existe ningún organismo gubernamental cuya función sea investigar este tipo de incidentes; e incluso si lo hubiera, probablemente tendrían aún menos idea de lo que sucedió y por qué que las propias empresas de IA.

Ante la creciente indignación, los gigantes corporativos de la IA —Dario Amodei de Anthropic, Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Elon Musk de xAI— mostraron una inesperada unidad. Coincidieron en que debían ralentizar el desarrollo de la IA e incorporar evaluadores externos para supervisar la seguridad.

Mientras tanto, el presidente Donald Trump desestimó la idea de imponer restricciones a la IA. Aseguró al mundo que su «alto coeficiente intelectual» nos protegería de una IA superinteligente.

Extinción humana

Para algunos, la actual campaña alarmista es una estratagema para convencer a los inversores de que la IA será tan poderosa y revolucionaria que no pueden permitirse el lujo de perdérsela. Desde esta perspectiva, la superinteligencia es, en realidad, una ilusión . Estamos siendo engañados por una estafa de la industria para inflar el valor de mercado de esta tecnología.

Pero…

Las pruebas sugieren que las empresas de IA estaban deseosas de mantener en secreto sus recientes problemas para controlar la tecnología, hasta que los denunciantes y otros agentes expusieron sus fallos.

En el pasado, estas empresas han ejercido una fuerte presión para obstaculizar la intervención legislativa, algo que estas revelaciones ahora hacen más probable.

Las noticias sobre agentes de IA fuera de control parecen estar asustando más a los inversores que impresionándolos, y esto ocurre en un momento en que Anthropic se prepara para sacar provecho de la mayor oferta pública inicial de la historia, por valor de 2 billones de dólares.

Existe una explicación más probable, y doble, de por qué Amodei, Musk y los demás han hecho pública su inquietud.

En primer lugar, comprenden la necesidad de mantener el apoyo del público y tranquilizar a los políticos si quieren evitar la regulación externa.

Ante las advertencias sobre la inminente extinción humana, con las que la mayoría de nosotros estamos demasiado familiarizados gracias a las películas de ciencia ficción, la gente común empieza a temer que la IA sea mucho más que una respuesta separada y predefinida en una búsqueda de Google.

La preocupación del sector es que, a medida que crezca la reacción popular, la clase política se vea sometida a una enorme presión para actuar.

Si la industria tecnológica se muestra dispuesta a poner orden en su propia casa, es más probable que se la deje en paz para perseguir un avance significativo en inteligencia artificial.

Pero, igualmente importante, Silicon Valley necesita asegurar a sus propios investigadores que está actuando de forma responsable y con aversión al riesgo.

Cada empresa compite por un reducido grupo de talentos para ser la primera en desarrollar superinteligencia. Cada director ejecutivo quiere ser quien descifre el código y se apropie de una riqueza y un poder incalculables. Esta tarea se complica enormemente si personal clave, como Coxon, empieza a abandonar sus puestos por temor a crear un monstruo de Frankenstein.

Los directores ejecutivos que participan en esta contienda son, por supuesto, precisamente el tipo de empresarios profundamente defectuosos, narcisistas e implacables que probablemente antepondrán el poder y la fortuna personal al bien de la humanidad.

El éxito confirmará su estatus de semidioses y les dejará en libertad, en su propia campaña de relaciones públicas que busca justificarse a sí misma, para transformar la vida humana para mejor.

A menos que todo salga terriblemente mal.

Club de multimillonarios

Estos magnates tecnológicos provienen del mismo pequeño grupo de multimillonarios que también aceleraron el colapso de los ecosistemas de la Tierra al negarse a aceptar cualquier límite a su derecho a saquear los recursos y acumular cada vez mayor riqueza.

La clase multimillonaria dirige nuestras gigantescas industrias bélicas, devoradoras de combustibles fósiles y responsables de genocidios, que arrasaron Gaza, que convirtieron a Ucrania en el campo de batalla de Occidente para desangrar a Rusia y que provocaron a Irán en una guerra defensiva que ha estrangulado gran parte del suministro mundial de petróleo. Ahora, su objetivo es China.

En resumen, los multimillonarios han contribuido a orquestar las catástrofes que ahora prometen que la IA superinteligente podrá solucionar. Se supone que las inmensas riquezas que desate la IA se filtrarán desde los superricos al resto de nosotros, tal como se suponía que debían hacerlo nuestras economías desreguladas, tal como se suponía que debía hacerlo nuestra continua explotación del planeta.

Según se nos informa, con la IA, los recursos finitos de la Tierra pueden volverse infinitos mediante la creación de una fuerza laboral incansable de robots autorreplicantes.

Gracias a la inteligencia artificial, el deshielo de los glaciares y el sobrecalentamiento de los océanos en nuestro planeta agotado y dañado pueden revertirse mediante soluciones tecnológicas superinteligentes.

Si te crees una sola palabra de esto, necesitas que te revisen la cabeza.

Permitir que nuestros gobernantes tecnológicos desarrollen una superinteligencia es como darle a un niño pequeño una botella de lejía para que limpie el desastre que hizo con sus crayones.

Sin embargo, confiamos en ellos, sin duda.

Derrotando a China

Pero, si nos guiamos por la historia, esa no es la amenaza más probable que plantea la IA. El tema de la superinteligencia podría resultar ser una distracción.

Nuestra clase dirigente ha demostrado una y otra vez que es perfectamente capaz de destruir nuestras sociedades y el planeta por sí sola. No se necesita un supercerebro alienígena, creado en un laboratorio.

El peligro inmediato de la IA es que, incluso en su forma actual, poco inteligente, proporciona a la clase multimillonaria la capacidad de causar daños a una escala que, dejando de lado las armas nucleares, no se podría haber imaginado antes.

La carrera por la inteligencia artificial —al menos en Occidente— no está impulsada por el deseo de mejorar la humanidad ni por el bien común. Avanza a una velocidad vertiginosa impulsada por el afán de unos pocos por obtener aún más poder y beneficios, movidos por una codicia demasiado humana.

Mientras los gigantes de la IA murmuran sobre tomar precauciones, Trump —o quien le suceda— casi con toda seguridad permitirá que el sector permanezca en gran medida sin regular. ¿Por qué?

Dejemos que Trump lo explique personalmente : “Estamos liderando a China en IA. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así. Porque quien gane en IA, gana”.

Como ocurre con la mayoría de los temas importantes en la farsa bipartidista de la política estadounidense, este no es un asunto partidista. Dada su posición política, la mayoría de los políticos del Partido Demócrata sienten la necesidad de tranquilizar a sus votantes con declaraciones sobre la necesidad de mantener las salvaguardias (salvaguardias que, recordemos, no existen), mientras que, al mismo tiempo, siembran el pánico sobre los peligros de que China desarrolle primero la superinteligencia.

Según Anthony Blinken, secretario de Estado durante el mandato de Joe Biden: «Estados Unidos no tiene por qué elegir entre liderar la carrera de la IA con China y tomarse en serio los profundos riesgos que conlleva esta tecnología. Podemos hacer ambas cosas, y creo que debemos hacerlo».

Con un tono paranoico, el senador John Fetterman afirma : «Debemos ganar la guerra por la supremacía de la IA sobre China. Ellos fomentan el argumento ‘anti’ mediante la desinformación».

Deseo de muerte

Esta no es una nueva carrera. Es la continuación de una desastrosa carrera imperial por la supremacía tecnológica que se remonta al menos al desarrollo de la bomba atómica hace casi un siglo.

La rivalidad por ser el primero en llegar a la luna continuó. Actualmente se manifiesta en la doctrina del Pentágono de «dominio militar global de espectro completo», la justificación de las interminables guerras por el control de recursos en el rico Oriente Medio, que han culminado en el actual y catastrófico enfrentamiento con Irán.

China da todas las señales de tratar la IA no como una carrera por el dominio global ni como un juguete para una pequeña élite adinerada, sino como un proyecto social planificado: un servicio público. Su modelo de IA de código abierto e infraestructura pública ofrece un marcado contraste con el modelo occidental de «el ganador se lo lleva todo» y «aplasta al enemigo a cualquier precio».

Pero China no es el único país en el punto de mira de nuestros amos tecnológicos.

Lo que la IA hace por los multimillonarios es, en primer lugar, darles otra oportunidad para convencer a su propia población de que van a resolver los problemas que ellos mismos crearon con su delirio de grandeza. Sus promesas extravagantes les dan un poco más de tiempo mientras los cimientos del templo occidental al dinero —el sistema neoliberal y capitalista que los enriqueció— empiezan a desmoronarse de forma demasiado evidente.

En segundo lugar, les proporciona, tanto a ellos como al Pentágono, un nuevo conjunto de herramientas que necesitarán, una vez que suficientes de nosotros nos demos cuenta de que nos estamos hundiendo, para mantenernos en nuestro lugar.

La IA no necesita ser superinteligente para convertir nuestras sociedades en un infierno distópico de vigilancia, represión y destrucción. Basta con mirar a Gaza, donde la IA rudimentaria ha desempeñado un papel protagónico en la devastación de ciudades, la matanza masiva e indiscriminada de poblaciones, el confinamiento y la vigilancia de los supervivientes y, quizás lo más importante, la división de los observadores occidentales en bandos enfrentados, donde ni siquiera podemos ponernos de acuerdo sobre lo que está tan claramente ante nuestros ojos.

La IA básica ya es lo suficientemente eficaz como para que los multimillonarios la utilicen, de forma inadvertida o no, para acelerar nuestra actual trayectoria hacia la extinción.

La veneración por la tecnología, el crecimiento ilimitado y el exceso nos han llevado a un callejón sin salida en la historia de la humanidad. La IA no lo solucionará. Simplemente agravará nuestros problemas, añadiendo un nuevo factor desencadenante a las guerras existentes, la amenaza de la aniquilación nuclear y el colapso ambiental.

Los multimillonarios ya arruinaron el planeta. No van a admitir su error ni a cambiar de rumbo. Pero la IA les proporciona una nueva herramienta para acelerar su historia —y la nuestra— hacia su dramático final.