Zuckerberg publicó un extenso artículo en el que describe la hoja de ruta de Meta para la inteligencia artificial, cuyo objetivo es crear una superinteligencia personal

Escrito por: Xiao Jing, Tencent Technology

El 10 de agosto, hora local de Estados Unidos, Mark Zuckerberg publicó un extenso artículo titulado "El futuro nos pertenece a todos: el camino hacia un futuro positivo de la inteligencia artificial".

En apariencia, se trata de una declaración de principios sobre superinteligencia, seguridad, código abierto e infraestructura, pero detrás de este extenso documento subyace un tema más crucial: el objetivo futuro de Meta es crear una "superinteligencia personal".

Zuckerberg estableció una premisa muy clara para este concepto: la superinteligencia no puede ser controlada en última instancia por unas pocas empresas, gobiernos o laboratorios; debe ponerse al alcance de la mayoría de la gente.

En los últimos dos años, los debates en la industria de la inteligencia artificial sobre la superinteligencia se han centrado principalmente en hasta qué punto los modelos pueden alcanzar sus capacidades y cómo evitar que un sistema con capacidades muy superiores a las humanas se descontrole. Zuckerberg argumenta que, incluso si la superinteligencia en sí misma es segura, si dicho poder termina en manos de un número muy reducido de instituciones, podría generar nuevos desequilibrios de poder.

Por lo tanto, su solución propuesta es muy "meta-".

Él cree que los principios fundamentales para el desarrollo futuro de la inteligencia artificial deberían centrarse en tres aspectos: considerar el empoderamiento individual como la fuente de prosperidad, considerar la innovación como el propósito principal de la superinteligencia y garantizar la seguridad mediante controles y equilibrios.

En su visión, todos contarán con un agente superinteligente a largo plazo. Este conocerá su estilo de trabajo, estado de salud, situación familiar y objetivos a largo plazo, y podrá investigar, escribir código, diseñar productos, planificar tareas e incluso ayudarle a realizar tareas que antes requerían la intervención de una empresa.

Esto también explica por qué Zuckerberg incluyó varios temas aparentemente inconexos en el mismo artículo: modelos de código abierto, empleo impulsado por IA, gobernanza de la seguridad, construcción de centros de datos e incluso las capacidades energéticas y de infraestructura de Estados Unidos.

Todo esto apunta a la misma pregunta: si la superinteligencia personal se convierte realmente en la próxima generación de plataformas informáticas, ¿quién la controlará, quién asumirá los costes computacionales que conlleva y quién decidirá qué puede hacer?

La respuesta de Zuckerberg refleja claramente la filosofía de producto de Meta durante las últimas dos décadas.

Facebook empoderó a cada usuario con la capacidad de crear y distribuir contenido, mientras que Instagram y WhatsApp ampliaron aún más esa conexión. En la era de la inteligencia artificial, Meta aspira a replicar un modelo descentralizado similar, transformando las capacidades intelectuales de las grandes instituciones en herramientas esenciales para la gente común.

Incluso en lo que respecta a la seguridad de la inteligencia artificial, las opiniones de Zuckerberg no coinciden del todo con el debate predominante en Silicon Valley.

Considera que uno de los riesgos reales a tener en cuenta en el futuro es la excesiva concentración de capacidades de superinteligencia. Siguiendo esta lógica, para Meta, los modelos abiertos ya no son solo una opción tecnológica para competir con OpenAI y Anthropic.

Gradualmente, se ha convertido en parte de la visión de Zuckerberg sobre cómo funcionaría una sociedad superinteligente. En un plano más práctico, Meta también busca nuevas oportunidades de negocio para explorar este concepto.

Si la inteligencia artificial evoluciona desde los chatbots hasta los agentes inteligentes personales capaces de acompañar a los usuarios a largo plazo, entonces el punto de entrada verdaderamente importante podría dejar de ser las páginas web o las aplicaciones móviles para convertirse en un sistema de IA que pueda comprender continuamente a los usuarios y actuar en cualquier momento. Meta cuenta con relaciones sociales, contenido, productos de comunicación y gafas inteligentes; estos recursos ahora tienen la oportunidad de integrarse en torno a una "superinteligencia personal".

El artículo de Zuckerberg pretende plantear una pregunta más importante que "¿Puede Meta crear el modelo más potente?".

01 De “Controlar la superinteligencia” a “Distribuir la superinteligencia”

En su artículo, Zuckerberg plantea una pregunta fundamental: ¿Quién poseerá superinteligencia en el futuro? Si la superinteligencia se concentra en manos de unas pocas empresas, gobiernos o laboratorios, ¿creará esto nuevos desequilibrios de poder en la sociedad?

En los últimos años, un tema clave de debate en el campo de la seguridad de la inteligencia artificial ha sido cómo garantizar que los futuros sistemas superinteligentes se mantengan alineados con los valores humanos: el llamado "problema de la coherencia". Muchos investigadores temen que si las capacidades de la inteligencia artificial superan con creces las de los humanos y sus objetivos son incompatibles con los intereses humanos, esto podría generar riesgos incontrolables. 

Imagen: Zuckerberg describiendo la visión de Meta AI

Sin embargo, Zuckerberg argumenta que confiar únicamente en medios tecnológicos para crear una "superinteligencia que sirva perfectamente a los intereses de todos" es un error lógico.

La razón radica en que no existe un sistema de valores unificado en la sociedad humana. Diferentes individuos, culturas y grupos tienen distintas definiciones de lo que constituye una buena vida. La superinteligencia, diseñada y controlada por unas pocas instituciones, inevitablemente favorecerá a ciertos grupos en sus decisiones sobre valores y no puede representar los intereses de todos.

Por lo tanto, propuso un enfoque alternativo: en lugar de intentar crear una superinteligencia centralizada y absolutamente correcta, es mejor permitir que más personas posean su propia superinteligencia, formando un nuevo equilibrio de poder a través de la competencia entre individuos, empresas e instituciones.

Zuckerberg utiliza el ejemplo de los "abogados superinteligentes" para ilustrar este punto.

Si tan solo una persona en el mundo poseyera habilidades jurídicas superinteligentes, obtendría una ventaja asimétrica significativa en el sistema legal. Sin embargo, si todos tuvieran capacidades similares, la distribución de los recursos legales sería más equitativa y la brecha de información entre el público en general y las grandes instituciones se reduciría.

Del mismo modo, si solo una organización posee capacidades de ciberseguridad superinteligentes, puede convertirse en el mayor riesgo para la seguridad; pero si los defensores también cuentan con potentes herramientas de IA, el nivel general de seguridad de los sistemas digitales puede mejorar.

Dentro del marco de Zuckerberg, la seguridad de la inteligencia artificial no puede basarse únicamente en limitar sus capacidades; más importante aún, se trata de evitar que la superinteligencia genere una concentración de poder sin control.

02 La forma de producto más importante de la inteligencia artificial en el futuro

Basándose en este concepto, Meta promueve el enfoque de la "superinteligencia personal".

Zuckerberg cree que la forma más importante de aplicación de la inteligencia artificial en el futuro evolucionará desde los chatbots de preguntas y respuestas hasta los agentes inteligentes personales que puedan comprender a los usuarios a largo plazo y ayudarles a alcanzar sus objetivos.

Este agente inteligente se convertirá en un asistente inteligente en la vida diaria de los usuarios, capaz de comprender sus preferencias personales, objetivos y necesidades a largo plazo, y de ayudarles continuamente a optimizar su salud, trabajo, gestión familiar, planificación financiera, aprendizaje y crecimiento.

A diferencia de la mayoría de las herramientas de IA actuales, el valor fundamental de los futuros agentes de IA personales se ampliará, pasando de proporcionar información a realizar acciones en nombre de los usuarios. Por ejemplo, podrán ayudar a los usuarios a organizar información, inspirarlos, planificar tareas, ofrecer sugerencias sobre su estilo de vida basadas en sus datos de salud e incluso colaborar en la organización de actividades familiares.

Zuckerberg subraya la importancia de la privacidad. Para que la superinteligencia personal se integre plenamente en la vida de las personas, debe obtener la autorización del usuario para acceder a grandes cantidades de información privada. Meta propone que los futuros agentes de inteligencia personal ofrecerán un «modo completamente privado», en el que ni siquiera Meta podrá ver la información del usuario ni autorizar a otros a acceder a ella.

Esto también representa un nuevo tipo de relación entre humanos y máquinas que Meta está tratando de establecer: la inteligencia artificial pasará de ser una herramienta propiedad de las empresas a una capacidad propiedad de los individuos.

En los debates sobre empleo y automatización, la postura de Zuckerberg difiere drásticamente de la opinión generalizada. Sostiene que la contribución más importante de la superinteligencia no reside simplemente en reemplazar puestos de trabajo humanos, sino en ayudar a la humanidad a crear cosas nuevas que antes eran imposibles.

Históricamente, cada gran revolución tecnológica ha suscitado preocupación por el desempleo. Desde la Revolución Industrial hasta la era de internet, ha existido un temor constante a que las máquinas sustituyan un gran número de puestos de trabajo. Sin embargo, en última instancia, la tecnología no solo ha aumentado la productividad, sino que también ha creado nuevas industrias y profesiones. Zuckerberg cree que la era de la inteligencia artificial seguirá un patrón similar.

El cambio verdaderamente importante en el futuro no será que las máquinas asuman tareas más repetitivas, sino que la gente común adquiera las habilidades que antes solo estaban al alcance de las grandes corporaciones y organizaciones profesionales.

Las personas pueden aprovechar la inteligencia artificial para diseñar productos, desarrollar software, realizar estudios de mercado e incluso emprender negocios sin necesidad de grandes equipos. Esto transformará la organización de las empresas.

Las empresas del futuro podrían ser más pequeñas, pero la productividad individual será mayor. Muchas ideas que antes eran imposibles debido a los altos costos o las barreras tecnológicas se volverán factibles con el uso generalizado de herramientas de inteligencia artificial. Zuckerberg cree que la superinteligencia debería convertirse, en última instancia, en la infraestructura para la innovación, y no solo las máquinas automatizadas.

03 Transacciones del ecosistema de código abierto: La estrategia de competencia de Meta en inteligencia artificial

Además de su excepcional sabiduría personal, el código abierto es también un tema clave en los artículos de Zuckerberg.

Meta siempre ha apoyado el modelo de código abierto, lo que la distingue claramente de algunos competidores que priorizan el modelo cerrado. Zuckerberg cree que el código abierto no solo impulsa la innovación, sino que también mejora la seguridad.

Imagen: Wang Tao, director de Meta AI, anunció que la compañía lanzará próximamente una versión de código abierto de Muse Spark 1.2.

Su razonamiento es que, cuanto más investigadores, desarrolladores y empresas tengan acceso al modelo, más personas podrán descubrir vulnerabilidades, mejorar sistemas e impulsar una rápida evolución tecnológica. Por el contrario, si la superinteligencia es controlada por unas pocas instituciones durante mucho tiempo, la sociedad carecerá de los mecanismos de control necesarios.

Zuckerberg cree que, si bien Estados Unidos actualmente tiene ventaja en áreas como el diseño de chips en la competencia global, enfrenta desafíos en energía, centros de datos y velocidad de infraestructura. La competencia futura en inteligencia artificial no solo girará en torno a los algoritmos, sino también a la energía y la capacidad de procesamiento.

Hizo hincapié en que Estados Unidos necesita acelerar el desarrollo de infraestructuras sin dejar de mantener sus ventajas en los ecosistemas abiertos.

En cuanto al uso de datos en el entrenamiento y perfeccionamiento de modelos, Zuckerberg considera que Estados Unidos no debería debilitar su competitividad mediante restricciones excesivas. Argumenta que el desarrollo de la inteligencia artificial se basa fundamentalmente en la acumulación de conocimiento humano, y que el aprendizaje mutuo entre modelos es una vía crucial para el progreso tecnológico. Si Estados Unidos restringe excesivamente su ecosistema de código abierto, podría, sin querer, crear oportunidades para otros países.

En materia de seguridad, Zuckerberg no niega los riesgos potenciales que plantea la inteligencia artificial. Se centró en temas como la ciberseguridad, los riesgos biométricos y la expansión del poder gubernamental.

Su argumento principal es que, ante los riesgos de la inteligencia artificial, la sociedad debería reforzar sus propias defensas en lugar de limitar simplemente las capacidades tecnológicas.

Por ejemplo, en el ámbito de la ciberseguridad, si los atacantes solo disponen de herramientas avanzadas de inteligencia artificial, el riesgo aumentará. Sin embargo, si las empresas, los gobiernos y los particulares aprovechan la inteligencia artificial para mejorar sus capacidades de defensa, el nivel general de seguridad del sistema también mejorará.

En lo que respecta a los riesgos biológicos y químicos, Zuckerberg cree que las políticas deberían centrarse en restringir la producción y la propagación de sustancias peligrosas, en lugar de obstaculizar el desarrollo del conocimiento científico.

A medida que la inteligencia artificial acelera el desarrollo de fármacos y la investigación en ciencias de la vida, los sistemas regulatorios también deben actualizarse en consecuencia; de lo contrario, los procesos de aprobación tradicionales pueden convertirse en un obstáculo para la innovación.

04. La "Cuenta de la Comunidad" en el Centro de Datos

La carrera por la inteligencia artificial está entrando en la era de la infraestructura.

Los extensos centros de datos, el suministro de energía y los recursos informáticos constituyen la base para el desarrollo de las supercomputadoras. Sin embargo, al mismo tiempo, la sociedad estadounidense está cada vez más preocupada por el consumo de energía, la presión sobre los recursos hídricos y el impacto ambiental de la construcción de grandes centros de datos.

Zuckerberg hizo hincapié en que los beneficios del desarrollo de la infraestructura de IA deben compartirse con la comunidad. Meta propuso el concepto de un "contrato comunitario", con la esperanza de que las ubicaciones de los centros de datos recibieran más oportunidades de empleo, inversión educativa y apoyo de servicios públicos.

Él cree que los centros de datos no deben considerarse simplemente como instalaciones que consumen recursos, sino más bien como activos a largo plazo que impulsan el desarrollo económico regional, al igual que lo hicieron en el pasado las infraestructuras ferroviarias, eléctricas y de internet.

Imagen: Proyecto de centro de datos de Meta en el condado de Richland, Luisiana, EE. UU.

Esta es también una respuesta importante de Meta a las dudas externas sobre su inversión a gran escala en inteligencia artificial.

La competencia en el campo de la inteligencia artificial en el futuro requerirá enormes inversiones de capital, y la posibilidad de que estas inversiones logren la aceptación social será un problema que las empresas tecnológicas deberán resolver.

En cuanto a la gobernanza corporativa, Zuckerberg considera que el desarrollo de la superinteligencia no puede depender del criterio de un solo líder. Reconoce que no es ideal que el director ejecutivo sea quien tome la decisión final sobre el despliegue de la superinteligencia. Por lo tanto, Meta está estableciendo un nuevo mecanismo de gobernanza que permite que un consejo de administración independiente participe en la definición de los estándares de seguridad para las versiones de los modelos y en la revisión de las versiones más importantes.

De hecho, este acuerdo responde a la preocupación que existe desde hace tiempo por la concentración de las capacidades de inteligencia artificial en manos de las grandes empresas tecnológicas.

Al mismo tiempo, Zuckerberg también habló de los riesgos extremos que podrían surgir si la inteligencia artificial adquiriera la capacidad de mejorarse a sí misma de forma autónoma.

Si los sistemas de inteligencia artificial pueden mejorar continuamente sus capacidades, los recursos informáticos podrían convertirse en el factor decisivo. En teoría, los sistemas con capacidad de autooptimización continua pueden ampliar rápidamente la brecha con respecto a otros sistemas.

Por lo tanto, cree que, aunque en el futuro sea necesario invertir en cierta capacidad de procesamiento para lograr la auto-mejora recursiva de la inteligencia artificial, la mayoría de las capacidades inteligentes deberían seguir estando controladas por humanos para alcanzar objetivos humanos.

05 Conclusión: En busca del mercado de entrada de las plataformas informáticas de próxima generación

A juzgar por las acciones de Meta durante el último año, este extenso artículo parece tratar sobre cuestiones de seguridad de la inteligencia artificial, pero lo que realmente le preocupa es claramente el futuro de Meta.

La superinteligencia personal, los modelos abiertos, las gafas inteligentes y las inversiones en computación a gran escala —estas iniciativas aparentemente dispares— se han entrelazado en una única narrativa: la próxima fase de la competencia en IA pasará de quién posee el modelo más potente a quién puede controlar el punto de contacto más duradero y frecuente entre los humanos y la IA.

Esta es una guerra con la que Meta está muy familiarizado.

Durante las últimas dos décadas, desde Facebook hasta Instagram y WhatsApp, el principal activo de Meta siempre ha sido la puerta de entrada a los usuarios. Sin embargo, en la era de internet móvil, se ha visto limitada por sistemas operativos como Apple y Google. La inteligencia artificial le ofrece a Zuckerberg la oportunidad de redefinir las plataformas informáticas: si todos tienen un agente inteligente que pueda comprenderlos continuamente, acceder a diversos servicios y actuar en su nombre, entonces ese agente inteligente podría convertirse en el nuevo sistema operativo.

El significado de las gafas inteligentes también ha cambiado. Ya no son solo un nuevo tipo de hardware, sino que pueden convertirse en terminales para que la inteligencia artificial personal adquiera información del mundo real e interactúe continuamente con los usuarios; el modelo abierto no es solo una estrategia de la industria tecnológica, sino que también busca ampliar al máximo la cobertura del conjunto de tecnologías Meta.

Sin embargo, existe una contradicción que merece un análisis más profundo.

Zuckerberg espera disipar las preocupaciones sobre la centralización de las capacidades de inteligencia artificial proponiendo que "la superinteligencia pertenece a todos". Sin embargo, los límites reales de las capacidades individuales de IA aún dependen de los modelos, la capacidad de procesamiento, los terminales, los canales de distribución y, sobre todo, de los datos personales. La superinteligencia puede ser accesible para todos, pero la infraestructura que la sustenta requiere importantes economías de escala.

En otras palabras, cuanto mayor sea la capacidad de personalización de la inteligencia artificial, mayor será la concentración de su plataforma subyacente.

Por lo tanto, el éxito final del enfoque de Meta no solo depende de su capacidad para crear un modelo suficientemente potente, sino también, y quizás más importante, de si puede, por primera vez, eludir a Apple y Google para establecer su propia puerta de enlace informática controlada; y, cuando la inteligencia artificial comience a comprender a los usuarios mejor que cualquier aplicación, quién será el verdadero propietario de esta inteligencia artificial y quién será el verdadero propietario de los datos y las relaciones resultantes.