Zuckerberg y la disputa por el poder en la era de la inteligencia artificial
Mark Zuckerberg acaba de intervenir de lleno en el debate sobre el futuro de la inteligencia artificial con un extenso manifiesto en el que advierte que uno de los principales riesgos de esta tecnología no reside únicamente en que las máquinas alcancen capacidades superiores a las humanas, sino en que el poder derivado de ellas quede concentrado en una empresa, un pequeño grupo de corporaciones o un gobierno. El fundador de Meta plantea como alternativa el desarrollo de una “superinteligencia personal” accesible para la mayor cantidad posible de individuos y anticipa una nueva etapa de apertura de algunos modelos de inteligencia artificial de la compañía, aunque bajo controles de seguridad definidos por su directorio. La propuesta incluye además un fondo de 1.000 millones de dólares destinado a las comunidades estadounidenses donde se instalarán centros de datos, en un intento por responder a las crecientes críticas por el enorme consumo energético y de recursos que exige la expansión de la infraestructura de IA.
Sin embargo, detrás del discurso democratizador aparece una contradicción central. Zuckerberg cuestiona la concentración del poder tecnológico mientras Meta se encuentra entre las empresas que compiten por acumular capital, datos, infraestructura, capacidad de procesamiento y talento científico para dominar la nueva economía de la inteligencia artificial. La cuestión, por lo tanto, no es solamente quién tendrá acceso a la IA, sino quién controlará los medios materiales necesarios para producirla. Desde una perspectiva de clase, puede formularse una paradoja: Zuckerberg propone democratizar el acceso al producto tecnológico sin democratizar los medios de producción tecnológicos que permiten generarlo. La distribución gratuita o de bajo costo de una herramienta no elimina la concentración de la propiedad sobre los centros de datos, los chips, las plataformas digitales ni la infraestructura energética que sostiene el sistema.
Esta contradicción resulta todavía más significativa cuando se observa el impacto potencial de la IA sobre el trabajo. Zuckerberg pone el acento en una inteligencia artificial capaz de potenciar las capacidades individuales, estimular la creatividad, facilitar el aprendizaje y permitir que las personas desarrollen nuevos proyectos. El trabajador aparece así como individuo autónomo, creador y potencial emprendedor. Pero queda en segundo plano la pregunta decisiva: ¿quién se apropiará del incremento de productividad generado por la automatización y la inteligencia artificial? Si una tecnología permite producir el doble en el mismo tiempo, el resultado puede ser una reducción de la jornada laboral y una mejora general del bienestar, pero también puede traducirse en despidos, precarización, intensificación del trabajo y una apropiación mayor del excedente por parte del capital. La tecnología no determina por sí misma cuál de esos caminos prevalecerá: son las relaciones sociales de producción y la correlación de fuerzas entre capital y trabajo las que definirán su resultado.
El manifiesto de Zuckerberg debe interpretarse, por eso, como una intervención dentro de una disputa estratégica por la forma que tendrá el capitalismo de la inteligencia artificial. El conflicto no se reduce a una oposición entre IA “abierta” y “cerrada”. Se enfrentan distintos modelos de acumulación: uno basado en la concentración de modelos, datos, infraestructura y capacidad de cómputo en unas pocas gigantes tecnológicas; otro que promueve modelos abiertos para expandir el ecosistema de desarrolladores y empresas; y una estrategia como la de Meta, que puede combinar la apertura tecnológica con el fortalecimiento de su posición como plataforma global. El open source, en este contexto, puede contribuir efectivamente a limitar determinadas formas de monopolización, pero también puede convertirse en una herramienta competitiva para disputar mercados y desplazar a rivales.
Lo más relevante políticamente es que Zuckerberg reconoce, aunque desde una perspectiva empresarial, que la inteligencia artificial está dejando de ser simplemente una cuestión tecnológica para convertirse en una cuestión de poder. Quien controle los modelos más avanzados, los chips, los centros de datos, las redes y los grandes volúmenes de datos dispondrá de una capacidad creciente para intervenir sobre la economía, el trabajo, la comunicación y las propias estructuras estatales. Por eso, advertir contra la concentración de la IA es insuficiente si la respuesta consiste simplemente en reemplazar un monopolio por varios oligopolios tecnológicos. La verdadera discusión democrática es quién controla los medios materiales de esta nueva revolución tecnológica y quién decide cómo se distribuyen los enormes incrementos de productividad que puede generar.
En última instancia, el manifiesto de Zuckerberg expresa una contradicción característica del capitalismo contemporáneo: una tecnología potencialmente capaz de reducir drásticamente el tiempo de trabajo socialmente necesario puede terminar produciendo, bajo relaciones de propiedad concentradas, desempleo, precarización y una extraordinaria concentración de riqueza. La batalla por la inteligencia artificial será, por lo tanto, también una batalla por la apropiación de sus beneficios. Más que una declaración filantrópica sobre el futuro de la humanidad, el manifiesto de Zuckerberg puede leerse como un programa político-empresarial para disputar quién conducirá y bajo qué reglas el capitalismo de la inteligencia artificial.
Zuckerberg: El mayor riesgo de la IA es una entidad con demasiado control.
Ina Fried
El lunes por la mañana , Mark Zuckerberg, CEO de Meta, publicó una defensa a ultranza de la IA : un manifiesto de 6.500 palabras en el que argumenta que las preocupaciones más comunes son exageradas y no tienen en cuenta todos los beneficios que puede aportar.
En su visión de la IA , el mayor riesgo reside en que un gobierno o entidad tenga demasiado poder sobre la tecnología.
Por qué es importante: La declaración de Zuckerberg, con su visión utópica de una IA altamente personalizada que impulsa el logro individual, se produce en un momento en que los responsables políticos debaten cuánto control deberían tener sobre modelos cada vez más poderosos.
Lo que dicen: «Una de las maneras de lograr tanto el empoderamiento individual como los controles y equilibrios es asegurarse de que la tecnología esté al alcance de todos», dijo Zuckerberg a Mike Allen de Axios en una entrevista previa a la publicación del manifiesto.
«Sin duda, es una visión diferente a la que se escucha actualmente en muchas otras personas del sector tecnológico.»
Escribió que quiere asegurarse de que Estados Unidos y los países democráticos lideren, y en última instancia, garantizar que «la humanidad mantenga el control sobre la superinteligencia para que nos sirva en lugar de ponernos en peligro».
En resumen: incluso mientras el mundo se enfrenta a una IA que está saliendo de los entornos controlados, intercambiando opiniones en foros de mensajes y creando nuevos virus , Zuckerberg la presenta como una analogía de otras innovaciones tecnológicas disruptivas.
«La humanidad ha presenciado muchos avances transformadores», escribe en el manifiesto. «Cada vez existe el temor de que algunas personas se queden atrás. Pero cada vez la humanidad ha salido adelante con más personas que comparten mayor prosperidad, salud y libertad».
«Creemos que esto también será cierto con la IA, y que la abundancia del futuro podrá ser compartida por todos», afirma. «También creemos que los valores que nos han traído hasta aquí —como la libertad, la investigación abierta, la libre empresa y la igualdad de oportunidades— son también los valores adecuados para construir un futuro positivo».
Nivel de amenaza: Zuckerberg contrasta esta visión con otra en la que solo algunas personas, algunas empresas o algunos países tienen acceso a la IA más potente, sugiriendo que eso representaría un resultado mucho más peligroso.
«Personalmente, me preocupa más la centralización que cualquiera de los riesgos específicos de los que hablan otros», declaró a Axios.
El manifiesto argumenta que una excesiva intervención de Estados Unidos podría dar ventaja a otros regímenes —presumiblemente a China—, especialmente cuando las ventajas tecnológicas se pueden medir en semanas.
«Cualquier política que ralentice la publicación de modelos estadounidenses, aunque sea por un mes, podría suponer un riesgo significativo para el liderazgo estadounidense, al tiempo que permitiría que los modelos extranjeros se adelantaran», escribió.
En resumen : el plan de Zuckerberg para Meta es que «todos tengan acceso gratuito o asequible a estas herramientas», y que las versiones de pago utilicen un «mecanismo de subasta dinámica» para obtener la capacidad de procesamiento que necesitan al precio más bajo posible. «Esto garantizará que los beneficios de la superinteligencia se distribuyan ampliamente».
También afirmó que los futuros agentes de IA de Meta contarán con protecciones de privacidad mucho mayores que las que ofrece actualmente Meta AI.
«Creemos que las personas deberían tener un modo totalmente privado para sus agentes personales, donde ni siquiera Meta ni ningún otro proveedor de servicios pueda ver o conceder acceso a su información.»
Las políticas actuales de Meta AI permiten a la empresa utilizar prácticamente todas las interacciones que se tienen con el servicio para entrenar sus sistemas de IA, aunque recientemente ha añadido un modo incógnito.
Entre líneas: Zuckerberg también dijo que Meta reanudará la publicación de algunos modelos de IA de código abierto, ahora que Meta Superintelligence Labs está en pleno funcionamiento, como informó Axios en abril.
Meta afirma que abrirá el plazo de entrega para un nuevo modelo, el Muse Glimmer, considerado «uno de los modelos de mayor rendimiento de su tamaño», y que en las próximas semanas abrirá el plazo de entrega para una versión del modelo básico Muse Spark 1.2.
Estos son los modelos de código abierto estadounidenses más grandes.
Zuckerberg añadió que el consejo independiente de Meta tendrá la potestad de aprobar los criterios de seguridad para la publicación de modelos y de revisar si las publicaciones cumplen con dichos estándares.
Además, prometió un «pacto comunitario» en torno al desarrollo del centro de datos de Meta, que incluiría empleos locales, inversiones en escuelas y servicios públicos, y compromisos sobre los precios de la energía y el uso del agua.
Gasto local: Con la esperanza de mitigar el rechazo hacia los centros de datos, Zuckerberg también anunció que Meta lanzará el Fondo «El futuro es para todos» para «apoyar directamente a cada comunidad en la que trabajamos». El fondo, que cuenta con un capital inicial de mil millones de dólares para las comunidades estadounidenses donde Meta posee y opera centros de datos, beneficiará a maestros, personal de emergencias y a la infraestructura de energía y agua.
El programa de capacitación de Meta para trabajadores de oficios especializados, con empleos garantizados en los centros de datos de la compañía —America’s Workforce Academy, del que Axios informó en junio—, graduó a su primera promoción la semana pasada.
En resumen: el manifiesto representa el esfuerzo más claro de Zuckerberg hasta la fecha para pronunciarse sobre el futuro de la IA, tanto en lo que respecta a las políticas como a la tecnología.
