Cory Doctorow

Esa pregunta implica que comprendes lo más importante sobre la IA: que cada cinco o diez años le ponemos el nombre de «IA» a algo diferente, y lo hemos estado haciendo desde mediados de la década de 1950. Podríamos decir que la IA es la etiqueta que aplicamos a cualquier cosa que haga algo que actualmente creemos que es dominio exclusivo de una mente consciente. Deja de ser IA cuando nos damos cuenta de que lo hace sin ser una mente consciente, y entonces le ponemos la etiqueta a otra cosa.

Pero este nuevo tipo específico de IA es realmente útil e interesante desde la perspectiva de la lucha de clases. Es útil comprender qué hace esta IA de manera diferente a las IA que la precedieron. Antes de esta versión de IA, teníamos lo que llamábamos IA simbólica. Su funcionamiento consistía en construir un modelo de software del objeto en el que se quería aplicar el aprendizaje automático. Si se quería usar el aprendizaje automático para aprender a jugar al ajedrez, primero se construía un modelo de software del tablero, las piezas y las reglas del ajedrez. Luego se utilizaba el aprendizaje automático —una técnica estadística que implica analizar partidas anteriores, realizar iteraciones y solicitar comentarios humanos— para intentar mejorar la partida de ajedrez que la IA podía jugar.

Lo que hace la versión actual de la IA, esta versión sin teoría, es reemplazar estos modelos del mundo por un enfoque de fuerza bruta. Por eso la llamamos sin teoría. Tomamos todo lo que podemos observar en el mundo, lo introducimos en todas las computadoras que podemos encontrar y les pedimos que busquen relaciones estadísticas entre las cosas para intentar comprender si A causa B. Y si bien todos sabemos que la correlación no implica causalidad, las causas y los efectos están correlacionados.

El problema de la correlación y la causalidad radica en que podríamos pensar que A causa B, pero en realidad son A y A’ las que causan B. Sin embargo, A y A’ ocurren simultáneamente el 99,9999% de las veces, por lo que no podemos distinguirlas. La solución con la IA consiste en seguir añadiendo datos de entrenamiento hasta que haya suficientes ejemplos, incluso con un evento que ocurre solo una vez entre un millón, para poder observar que son A y A’ las que causan B y no solo A. Y simplemente seguimos aumentando la capacidad de procesamiento.

Lo extraño es que hacemos esto con cosas que sí sabemos cómo funcionan. Sabemos jugar al ajedrez, pero les pedimos a los LLM que jueguen por nosotros. El problema es que, al carecer de teoría, no saben qué es un tablero de ajedrez. Si le pides a un LLM que juegue, a veces colocará una pieza en una casilla donde ya hay otra, porque no sabe que está jugando al ajedrez. Simplemente extrae conjeturas estadísticas de una matriz multidimensional que intenta representar la relación de cada movimiento de ajedrez con todos los demás movimientos del conjunto de entrenamiento. Eso es lo que está sucediendo aquí.

También lo utilizamos para intentar desentrañar relaciones estadísticas entre elementos cuya causalidad desconocemos. Hay muchas más cosas en el mundo que no comprendemos que las que sí, pero podemos observar lo que parece ser una relación causal.

Si te enfermas esta noche y vas al médico, es posible que te receten un medicamento cuyo mecanismo de acción aún no se comprende del todo. Pero sabemos que funciona, así que se lo administramos a quienes están enfermos. No siempre esperamos a comprenderlo por completo antes de usarlo, aunque sí lo estudiamos.

Pero aquí está la clave: al construir un sistema donde podamos intercambiar la fuerza bruta por el conocimiento —es decir, el dinero por la teoría— eliminamos el último obstáculo para que el capital financiero se convierta en fuente de poder. Tanto la experiencia como el dinero están distribuidos de forma desigual, pero el dinero se acumula en manos de personas con poca experiencia, mientras que la experiencia se acumula en manos de personas con poco dinero.

Entre los expertos existe una fuente de poder duradera. Si no quieres trabajar para Arthur Sackler, él no puede obligarte. Y si eres la única persona que entiende algún área compleja de la farmacología, Arthur Sackler no puede investigar en ese campo. Pero Arthur Sackler es muy, muy rico. Cuando intercambias conocimientos por dinero, no necesitas convencer al único farmacólogo que entiende un área específica para que trabaje para ti. Simplemente puedes solucionar el problema con dinero.

Por eso, la industria de la IA recaudó un billón de dólares este año sobre unos ingresos de 50.000 millones de dólares: porque el sector financiero está enamorado de la idea de una tecnología en la que el dinero pueda sustituir a la experiencia.

Cory Doctorow

Esa dinámica es intrínseca a este tipo de IA, en el sentido de que es extremadamente costosa y solo empieza a generar ganancias si se logra reemplazar una gran cantidad de mano de obra bien remunerada. Y este es otro ámbito donde debemos ser muy cuidadosos y discernir entre lo superficial y lo sustancial. Empobrecer a artistas comerciales, actores pornográficos y taxistas no es la manera de recuperar la inversión en el entrenamiento de la IA. Estas empresas no lo hacen para enriquecerse, sino para demostrar el increíble poder de la IA.

Ningún idioma del mundo contiene la frase «tan rico como un taxista». Reemplazar a los conductores de Uber, quienes proporcionan los autos, el seguro, la depreciación, el combustible y el costo de limpiar el vómito del asiento trasero, con costosos robots de tu propiedad no es rentable, a menos que tu objetivo sea decir: «Si podemos reemplazar a los taxistas, imagina lo que podemos hacer con los contadores, abogados, médicos, maestros, radiólogos, enfermeros. Y especialmente con las personas que trabajan en campos donde estás legalmente obligado a mandar a la mierda a tu jefe si te ordena cometer un delito, como la medicina, las finanzas, la educación, etc.»

Eso es lo que los entusiasma tanto. Llegamos aquí porque vieron una oportunidad —tanto en la narrativa en torno a la IA como en la sorprendente uniformidad estadística de la realidad que la IA reveló— para infundir miedo en los trabajadores y, en algunos casos, reemplazarlos con software. Si se pueden hacer ambas cosas, el software no tiene por qué ser capaz de realizar el trabajo del obrero, ya que se puede adquirir suficiente poder de mercado para producir bienes de menor calidad que el público, aun así, está obligado a consumir. Ese es el objetivo de todo monopolista: subir los precios y bajar la calidad, algo que solo se puede lograr con poder de mercado.

Por eso la competencia importa más de lo que muchos izquierdistas creen. Disciplina a las empresas porque tienen que preocuparse por la competencia. Y la presencia de competidores dificulta que las empresas resuelvan el problema de la acción colectiva necesaria para influir en un regulador y captar a la fuerza laboral.

Creo que algunos izquierdistas creen que la prima salarial de las grandes empresas, efímera y extremadamente contingente, en la que las grandes compañías con mucha cuota de mercado pagaban más a sus trabajadores con las ganancias excedentes que generaban, era algo natural, y que necesitamos volver a tener empresas realmente grandes con suficientes ganancias para compartir con nosotros. Eso no es cierto. Fue un momento muy contingente en el que las secuelas del New Deal coincidieron con los primeros días del monopolio: el auge del monopolio posterior al New Deal.

Aún quedaba suficiente fuerza laboral como para obligar a los monopolistas a desprenderse de parte de su botín ilícito. Pero esa nunca iba a ser una situación duradera, porque acelerarían su poder de mercado, lo que inevitablemente mermaría la fuerza laboral. Para eso sirve la competencia: no como un fin en sí misma, sino como un medio para quebrar la solidaridad de clase de la clase dominante.

Cory Doctorow

Es una burbuja. No pongo en duda que sea una burbuja. Intento encontrar sus raíces ideológicas y materiales. Y como buen materialista, creo que la ideología es consecuencia de las condiciones materiales.

A los multimillonarios no les gusta que los frustren. Podemos considerar el multimillonismo como un estado patológico de enfado por la frustración. A todos nos dicen que nos equivocamos de vez en cuando, y a veces eso es malo porque no es mentira. Pero muchas veces, en realidad, estábamos equivocados, y es bueno que alguien nos lo diga. Por eso las parejas casadas viven más: porque hay alguien que puede decir: «No, tienes que ir al médico. No, tienes que ir y tienes que dejar de comer eso». Que te digan que te equivocas es bueno, pero los multimillonarios están en un estado patológico de no querer que les digan que se equivocan.

También creo que existe otra explicación importante sobre la burbuja. Las acciones de crecimiento tienen valoraciones mucho más altas que las acciones de empresas consolidadas, no por superstición ni por un compromiso con el crecimiento, sino porque una acción representa un derecho a ganancias futuras. Las empresas en crecimiento generan mayores ganancias futuras que las empresas estables. Las acciones con alta valoración también son muy líquidas, por lo que pueden utilizarse como sustituto del efectivo. Si se desea crecer contratando personal o adquiriendo otras empresas, se pueden utilizar acciones para ello si las acciones de la empresa son muy líquidas, es decir, si la empresa está creciendo.

Las acciones son muy atractivas desde la perspectiva de una empresa porque se pueden generar de forma endógena simplemente introduciendo ceros en una hoja de cálculo, mientras que el dinero no se obtiene de forma endógena sin ser arrestado. Hay que conseguirlo de bancos, inversores, acreedores o clientes. Por lo tanto, las empresas no quieren llegar al punto en que los mercados las consideren maduras, porque pierden esa ventaja especial y, además, gran parte de su valoración. Si una empresa deja de ser una empresa en crecimiento, su valoración debería tener un múltiplo de beneficios acorde con el de una empresa madura, que es aproximadamente el 10 % de la relación precio-beneficio de una empresa en crecimiento. Esto significa que su valor se reduce en un 90 % el día que el mercado decide que ya no crece.

Y sé que decimos: «Oh, el crecimiento sin fin es la ideología de un tumor», pero no es ideológico no querer ser un 90 por ciento más pobre. Eso es un fenómeno puramente material. Por un lado, tienes la necesidad narrativa de contar una historia sobre cómo una empresa que ha saturado indiscutiblemente su mercado —Google tiene una cuota de mercado de búsqueda del 90 por ciento; ha saturado el mercado— va a crecer hacia algún sector adyacente. Podría ser uno que todos podemos señalar y en el que podemos estar de acuerdo en que existe, como: «Oh, estamos haciendo Google Plus, así que estamos a punto de convertirnos en Facebook». O podría ser uno fantasioso que tienes que convencer a la gente de que existe, como Web3, la criptomoneda, el metaverso, o lo que sea. Pero por otro lado, como no existe, puedes hacer afirmaciones extremadamente fantasiosas sobre su valoración final. Eres el experto en ello porque acabas de inventarlo.

Así pues, Morgan Stanley afirma: “Mark Zuckerberg tiene razón. El metaverso es una apuesta de 8 billones de dólares”.

Cory Doctorow

Los NFT, sí, que nacieron muertos. La IA llega como la versión más reciente de esto. La pregunta no es «¿Hay una burbuja de IA?». Hay una burbuja de IA por la misma razón que hubo una burbuja de criptomonedas. La pregunta es «¿Por qué la burbuja de IA es mucho más grande?».

Por un lado, es mucho más grande porque la informática es más real. No debemos subestimar lo sorprendente que es descubrir el grado de regularidad estadística en el universo con esta IA sin teoría. El hecho de que se pueda tener algo que se asemeje mucho a una conversación con una persona pensante simplemente adivinando palabras es realmente notable. Pero no nos dice nada sobre la consciencia, o al menos, no creo que eso sea lo que nos dice. Lo que creo que nos dice es que hay más regularidad estadística de la que nuestros cerebros adivinarían sin un instrumento, de la misma manera que nuestros cerebros se equivocan en todo tipo de cosas.

Tu cerebro calcula cuánto tiempo llevas esperando en la fila: «Llevo aquí una hora». Luego miras el reloj y solo han pasado diez minutos. Constantemente subestimamos la regularidad de las cosas, y la única forma de descubrirlo es mediante este sistema que procesa gran cantidad de datos y luego hace conjeturas. Es genial; es interesante. Creo que los departamentos de filosofía podrán sacar provecho de esto durante los próximos cincuenta años. Pero no valía un billón de dólares. Por eso, en parte, la burbuja es mucho más grande: la informática es real y descubrió un hecho interesante sobre el universo de una manera que ninguna otra cosa lo hizo.

Las cadenas de bloques también existen; simplemente no son tan interesantes. El número de aplicaciones para ese tipo de bases de datos lentas es prácticamente nulo. Se limitan al blanqueo de dinero, las apuestas ilegales y el ransomware. Eso es todo. No tienen mucho valor, mientras que la inteligencia artificial es mucho más interesante.

Pero el otro aspecto es el ideológico al que aludí al principio: a los multimillonarios les entusiasma la idea de intercambiar dinero por conocimiento. Creo que esto se debe a que ser multimillonario también implica ser solipsista. No se puede ganar mil millones de dólares y perjudicar a la gente de la forma en que es necesario para lograrlo si se piensa que los demás sufren de la misma manera. Aspirar a un mundo en el que el 99,999 % de la población mundial no reciba ninguna consideración moral es aspirar al solipsismo. La IA es una tecnología muy solipsista. Es una tecnología que, en cierto modo, implica que todos los demás son meros robots. Si todos los demás pueden ser reemplazados por robots, entonces, en cierto sentido, todos los demás son robots.

Cory Doctorow

El problema es que creo que ninguna de esas dos opciones va a funcionar. Vender inteligencia como servicio requiere que las empresas de IA sigan operando. Están gastando un billón de dólares para ganar 50 mil millones. Su rentabilidad por unidad es pésima.

Así que, hagamos un pequeño paréntesis para analizar lo desastrosa que es la IA empresarial. Gastan mucho dinero para ganar poco. Eso no es inusual. Se invierte mucho dinero en construir un ferrocarril y luego se recupera la inversión operando los vagones. Pero esta analogía tiene muchos problemas. En el caso de la IA, la economía unitaria —el coste de operar los vagones— es pésima. Pierden dinero con cada vagón. Cada cliente que adquieren los empobrece. Y cada vez que ese cliente vuelve a usar su producto, los empobrece aún más.

Cada versión de IA, cada nueva mejora en IA, genera más pérdidas que la anterior. Y el sistema de depreciación es pésimo. Te dicen que necesitan actualizar el hardware cada cinco años, pero en realidad lo actualizan cada dos o tres años, lo cual es una locura, porque eso es fraude contable. Si tienes activos registrados que internamente tratas como si no valieran nada, pero le dices al mercado y a tus inversores que aún conservan el 40 % de su valor, entonces llamar a eso fraude contable es una barbaridad. Es terrible.

Y es importante porque ni siquiera cinco años con ingresos anuales de 50 mil millones de dólares serían suficientes para recuperar una inversión de un billón de dólares. Pero su rentabilidad unitaria no mejora. Siguen afirmando que sí. Siguen diciendo: «Bueno, el costo de inferencia» —que es el gasto operativo— «está bajando». No es cierto.

Cory Doctorow

Entonces, tienes entrenamiento e inferencia. El entrenamiento consiste en procesar todos los datos y encontrar sus relaciones estadísticas. La inferencia es como cuando un idiota le pide a Grok: «Hazme a Sonic el Erizo, pero con tetas gigantes». No paran de decir que la inferencia se está abaratando, pero no es cierto. Y cuando miras los balances, descubres que están haciendo todo lo posible por ocultarlo.

Ed Zitron es un observador muy atento y meticuloso de la IA. Alguien le filtró una copia del balance de OpenAI, y no se me ocurre nadie mejor a quien filtrarla, porque él es la persona indicada para analizarlo con la mayor minuciosidad posible, con un nivel de detalle absolutamente obsesivo. Informa que la partida de inferencia representa una pequeña cantidad de dinero. Pero también informa que si uno sigue revisando el balance, llega al presupuesto de marketing y descubre que OpenAI afirma gastar más en marketing que Coca-Cola.

Coca-Cola tiene tres agencias de marketing globales con oficinas en todas las ciudades importantes y vallas publicitarias en cada esquina. Si quieres saber si Coca-Cola realmente invierte en marketing, puedes comprobarlo contando las vallas publicitarias en las esquinas y las narices en las oficinas. Pero no hay pruebas de que OpenAI invierta esa cantidad en marketing. La tesis de Ed, que creo que es totalmente cierta, es que simplemente llaman gasto de marketing a la inferencia que ofrecen. Pero eso no significa que no sea un gasto de inferencia. Es como decir: «Ah, no es una calva. Es un panel solar para una máquina sexual». Sigue siendo una calva.

Estas empresas no tienen forma de reestructurar su balance. E incluso si la tuvieran —y aquí es donde entra en juego la mercantilización—, los costes de cambio son realmente muy bajos. Cuando Anthropic empezó a superar a OpenAI, todos acudieron a ChatGPT y dijeron: «Empaquetad todos mis datos en un formato fácil de entender para Claude». Y entonces, eliminaron sus cuentas de OpenAI, abrieron cuentas de Claude y empezaron a pagar allí.

Es como si terminaras de construir el Ferrocarril del Pacífico Canadiense, te dieras la vuelta y alguien acabara de instalar otro conjunto de vías junto a las tuyas, y sus trenes fueran un 20% más rápidos, mientras que tú aún no has hecho circular ni un solo vagón por tus vías. Así que tienes que empezar a construir tu propio conjunto de vías de nuevo.

Aquí es donde entran en juego los modelos de código abierto y con pesos abiertos. Los chinos están utilizando hardware de gama baja y modelos abiertos para realizar un proceso llamado destilación. Este proceso consiste en consultar metódicamente a Claude y ChatGPT, y luego usar las respuestas para entrenar un modelo propio sin realizar el entrenamiento original. Esto es imparable.

La idea de que puedan cobrar renta perpetua por la inferencia requiere, por ejemplo, que inventen un gran escándalo sobre cómo su programa de adivinación de palabras está a punto de convertirse en un dios y matarnos a todos porque su bot hacker escapó de su contención. Luego, consiguen que el gobierno federal de EE. UU., por un lado, legalice que todos se pongan de acuerdo para dejar de hacer I+D —lo que de otro modo sería una flagrante violación de las leyes antimonopolio— y, por otro, que prohíba todos los modelos chinos. Como era de esperar, lo han hecho. Pero no va a funcionar.

Cory Doctorow

En primer lugar, el valor de tus datos para las rondas de entrenamiento se reduce a cero. Lo único que estamos haciendo es crear una versión absurda de los mercados en la que las personas adineradas pueden permitirse el lujo de mantener sus datos fuera del modelo, mientras que las personas pobres aceptan una miseria —mucho menos de lo que les perjudicaría tener sus datos en el modelo— y luego esos datos se utilizan de maneras que les perjudican.

El problema con los derechos de autor es que no son un derecho laboral. A los artistas se les dice que es su principal mecanismo para defender sus derechos laborales, pero en realidad es un derecho de propiedad. Lo llaman propiedad intelectual. Piénsalo: los derechos de propiedad son totalmente transferibles. Si negocias en un mercado con cinco editoriales, cuatro estudios, tres sellos discográficos, dos empresas de aplicaciones y una empresa que publica libros electrónicos y audiolibros, tener más derechos simplemente significa que tienes más que negociar por el mismo precio.

Los derechos de autor se han expandido durante cincuenta años. Los pagos por derechos de autor no. Los derechos de autor exigidos por contrato estándar por este monopsonio altamente concentrado al que vendemos nuestro trabajo creativo representan el 100% de todos los derechos que hemos recibido. Y cada vez que obtenemos un nuevo derecho, el acuerdo estándar se amplía.

Los guionistas de Hollywood no estaban en huelga contra Anthropic ni OpenAI. Estaban en huelga contra los jefes de los estudios, que quieren reemplazar a los guionistas de Hollywood con IA y que, además, están demandando a las empresas de IA por derechos de autor. Si ganan ese derecho, podemos despedirnos de las actividades socialmente productivas que realizamos y que se asemejan al entrenamiento de IA. Si ya no se puede rastrear la web, no se podrá documentar cómo era CBS antes de que Bari Weiss asumiera el cargo.

Si no se pueden publicar afirmaciones fácticas, tampoco se pueden publicar afirmaciones fácticas recopiladas de grandes conjuntos de datos, como lo mal que se comporta CBS ahora que Bari Weiss la dirige, qué insultos raciales utilizan, cuántos artículos escriben personas de color, o cualquier otra cosa que se quiera mencionar. Todo eso se desmorona si creamos un derecho exclusivo a hacer copias temporales de obras con fines de análisis, analizarlas y luego publicar los resultados. Actualmente, los derechos de autor no restringen esas actividades para impedir el entrenamiento de la IA; habría que restringirlas mediante derechos de autor.

Entonces, los jefes en los mercados laborales creativos extremadamente concentrados simplemente adquirirían esos derechos como una condición de empleo innegociable. Los usarían para entrenar chatbots y luego te despedirían y te reemplazarían con esos chatbots de mierda que alucinan porque solo están haciendo extrapolaciones estadísticas.

Tendríamos entonces peores resultados, salarios más bajos y un entorno político aún más difícil para exigir responsabilidades a los ricos y poderosos. Si reforzamos los derechos laborales, el derecho a la privacidad, los derechos humanos y los derechos del consumidor —los derechos fundamentales— y relegamos los derechos de propiedad al lugar que les corresponde —aquellas cosas tan insignificantes que podemos ponerles precio—, entonces sí tendremos una oportunidad contra la IA.