Exvicepresidente de investigación de OpenAI: a los investigadores humanos les quedan 2 años; la investigación de IA se automatiza por completo

A los investigadores humanos solo les quedan dos años para seguir desempeñando un papel importante en los descubrimientos de la investigación de IA. Después, todo el ciclo de I+D de IA, desde la formulación de hipótesis hasta la verificación, estará completamente automatizado. Copiar sin más los modelos Transformer de las grandes tecnológicas es un «juego perdido»; el cuello de botella actual para avanzar en la tecnología de IA es precisamente la arquitectura en sí. En el futuro, no solo los laboratorios de IA, sino todas las grandes empresas avanzarán hacia la automatización total.

En el campo actual de la inteligencia artificial, los investigadores se enfrentan a una sensación de desgarro sin precedentes: por un lado, el avance vertiginoso de la tecnología; por otro, el agotamiento extremo causado por el código y los experimentos interminables.

«Ahora se oye a menudo a los investigadores de IA repetir esta frase: “A nuestro trabajo como investigadores solo le quedan unos días; hagamos todo lo que podamos mientras podamos, y después podremos descansar todos”», comentó Jerry Tworek, exvicepresidente de investigación de OpenAI, en una entrevista reciente, con un toque de humor negro.

En su opinión, no es una simple broma. Con la llegada de la era de los «agentes nativos (agent-native)», la propia IA está asumiendo rápidamente el trabajo de I+D. «Calculo a grandes rasgos que a los investigadores humanos les quedan al menos dos años más para seguir desempeñando un papel importante en el proceso de descubrimiento de la investigación de IA».

Tras dejar OpenAI, donde trabajó siete años, Jerry fundó Core Automation. Su ambición no se limita a desarrollar el próximo gran modelo de lenguaje, sino que busca reestructurar el paradigma de funcionamiento de las empresas de IA: usar IA para investigar IA y crear «laboratorios de IA de tercera generación» totalmente automatizados.

Puntos clave de la entrevista:

Cuenta atrás para los investigadores humanos: a los investigadores humanos solo les quedan dos años para seguir desempeñando un papel importante en los descubrimientos de la investigación de IA. Después, todo el ciclo de I+D de IA, desde la formulación de hipótesis hasta la verificación, estará completamente automatizado.

Auge de los laboratorios de IA de tercera generación (third-generation AI labs): a diferencia de DeepMind/OpenAI en sus inicios (impulsados por la investigación pura) y de los laboratorios posteriores a GPT-3 (centrados en la escala de cómputo), los laboratorios de tercera generación priorizan la «automatización». Al usar agentes de IA de bajo coste para sustituir a los humanos en experimentos complejos y escritura de código, el ciclo de I+D puede reducirse de meses a un día.

Desafiar la hegemonía de Transformer: copiar sin más los modelos Transformer de las grandes tecnológicas es un «juego perdido»; el cuello de botella actual para avanzar en la tecnología de IA es precisamente la arquitectura en sí. Los laboratorios de nueva generación están usando agentes de programación para explorar desde cero arquitecturas que antes se descartaban por el «altísimo coste de prueba y error», con el objetivo de crear nuevos modelos que aprendan en tiempo de prueba (test time).

Secretos de los modelos o1/o3: el aprendizaje por refuerzo (RL) a gran escala es el camino inevitable hacia la AGI. Ilya Sutskever ya predijo con precisión la hoja de ruta en 2019. El avance de la serie o (modelos de razonamiento) surgió de años de exploración fundamental del equipo de investigación y de la decisiva apuesta por la potencia de cómputo de los líderes (como Jakub Pachocki) en momentos clave.

La «IA a nivel de empresa» será el producto definitivo: en el futuro, no solo los laboratorios de IA, sino todas las grandes empresas avanzarán hacia la automatización total. En la «era poslaboral», liberados del trabajo repetitivo, los humanos tendrán más tiempo para perseguir la grandeza espiritual y física.

Cuenta atrás de dos años: los laboratorios de IA de tercera generación dicen adiós a la «ejecución manual»

Jerry Tworek divide el desarrollo de los laboratorios de IA en tres etapas.

La primera generación, representada por DeepMind y los primeros OpenAI, nació antes de que se validara la «viabilidad de la IA a gran escala» y eran instituciones «impulsadas por la investigación» cuyo único objetivo era lograr la AGI. La segunda generación surgió tras el lanzamiento de GPT-3, cuando se demostró la eficacia de la ley de escala (Scaling Law) y los laboratorios empezaron a competir ferozmente por la potencia de cómputo, intentando generar inteligencia mediante la escala (con Anthropic como ejemplo).

Y ahora estamos asistiendo a la aparición de los laboratorios de IA de tercera generación, que intentan priorizar la «automatización».

En la I+D de IA tradicional, formular hipótesis, escribir código, completar con éxito experimentos a pequeña escala y luego movilizar a decenas de personas durante meses para ampliar la escala es un proceso extremadamente caro y con mucha fricción.

«En muchos aspectos, lo que hacemos ahora es: los investigadores humanos siguen siendo responsables de generar ideas (insights) y marcar la dirección, pero los agentes sirven para simplificar al máximo el proceso de ejecución», señala Jerry. Aunque los agentes actuales aún no son buenos en la exploración abierta ni en formular hipótesis muy precisas, si las instrucciones son claras, su capacidad de ejecución es impecable.

«Si podemos reducir el tiempo de un experimento de un mes a un día, eso supone una aceleración de 30 veces». Jerry predice que, en dos años, todo el ciclo de la investigación de IA —desde la generación de ideas hasta la validación de datos— estará completamente automatizado. Los humanos ya no desempeñarán un papel decisivo, como ocurre hoy en las competiciones de ajedrez.

Evitar la competencia feroz por el cómputo y romper la «década de dominio» de Transformer

Actualmente, casi todas las grandes tecnológicas compiten ferozmente en potencia de cómputo sobre la arquitectura Transformer. Pero, en opinión de Jerry, para los laboratorios emergentes (NeoLabs), seguir sin más es un desastre.

«Contratar a un grupo de investigadores y decir “vamos a entrenar modelos Transformer como OpenAI y Anthropic e intentar competir con ellos” es una estrategia pésima. Es una batalla perdida de antemano».

Señala que, limitadas por los incentivos económicos y el alto coste de ensayo y error, las grandes tecnológicas tienden a seguir la ruta de escala más segura. Pero la experiencia histórica demuestra que las primeras etapas de cualquier tecnología sufren cambios profundos. «El cuello de botella actual para un desarrollo y progreso más rápidos de la tecnología de IA es precisamente la arquitectura en sí, es decir, el Transformer que llevamos tantos años usando».

¿Por qué en la última década nadie ha logrado sustituir a Transformer? La respuesta de Jerry: el coste de ensayo y error es demasiado alto.

Antes, para probar una arquitectura nueva, el código era muy difícil de escribir. Incluso si funcionaba a pequeña escala, ampliarla requería una aprobación de cómputo altísima y recursos de equipo. Muchas ideas innovadoras morían así en la larga fricción burocrática o quedaban sepultadas por el impulso existente de Transformer.

Pero ahora la situación ha cambiado. «Escribir código se ha vuelto considerablemente más barato y fácil, y eso puede ser una forma única de desbloqueo». Con agentes de programación de IA de bajo coste, Core Automation intenta explorar desde cero rutas de arquitectura que antes se abandonaron. Su «estrella polar» es clara: crear modelos de nueva arquitectura capaces de aprender en tiempo de prueba (test time) y de aprender de la interacción con los usuarios.

Primera revelación de los secretos del avance o1/o3: el milagro del aprendizaje por refuerzo y el cómputo

Como desarrollador principal de la serie o (modelos de razonamiento) de OpenAI, Jerry también repasó por primera vez en la entrevista la historia detrás de este avance disruptivo.

Ya a principios de 2019, Ilya Sutskever describió con precisión en una reunión general la hoja de ruta hacia la AGI: «Necesitamos entrenar un modelo generativo enorme con todos los datos que podamos conseguir, y luego necesitamos entrenarlo con aprendizaje por refuerzo (RL)».

Aunque la dirección estaba clara, el camino de ejecución fue largo y accidentado. Jerry revela que, cuando empezó el entrenamiento de GPT-3, su primera reacción fue cómo usarlo para aprendizaje por refuerzo. El Codex inicial fue un producto experimental que combinaba grandes modelos de lenguaje con aprendizaje por refuerzo. Sin embargo, limitados por los datos, los algoritmos y la configuración experimental, el equipo no pudo escalarlo eficazmente durante mucho tiempo.

«Todo eso se estaba gestando en segundo plano. Durante mucho tiempo, los intentos no produjeron grandes beneficios».

El punto de inflexión llegó con una «señal prometedora» y una decisión firme del liderazgo. Cuando el modelo por fin mostró una chispa débil de que podía funcionar con aprendizaje por refuerzo, el científico jefe Jakub Pachocki captó la oportunidad con agudeza: «Jerry, ahora tenemos estas GPU. Mira a ver si podemos empezar a escalar esto, si podemos ampliar y fortalecer los resultados existentes».

En los laboratorios de IA con escasez de cómputo, el dilema del huevo y la gallina (primero resultados o primero cómputo) es eterno. Pero fue precisamente la apuesta por el cómputo de los altos cargos («adelante, hacedlo sin miedo») lo que encendió a todo el equipo.

«Nos entusiasmó muchísimo. Nos esforzamos el triple en pensar qué conjuntos de datos, sistemas y experimentos necesitábamos para demostrar que podía escalar de forma sostenida. El entusiasmo trajo resultados experimentales, y los resultados crearon impulso». Finalmente, al aumentar la escala del aprendizaje por refuerzo en varios órdenes de magnitud, nacieron los modelos de razonamiento o1 y o3 que asombraron a la industria.

Visión final: la «IA a nivel de empresa» y la fantasía de la era poslaboral

Al hablar de los futuros productos de Core Automation, la mirada de Jerry va más allá de los simples modelos de IA.

«Queremos convertir nuestra empresa en la más automatizada del mundo y usarla como modelo. Vamos a construir algo parecido a un “cerebro de empresa” que centralice toda la información corporativa; los empleados se conectarán a través de terminales y serán usuarios de una IA de empresa».

Cuando se le pregunta qué será del futuro de la humanidad si empresas grandes y pequeñas acaban totalmente automatizadas, Jerry plantea una visión filosófica de la «era poslaboral».

Las grandes empresas más burocratizadas serán las primeras en automatizarse; la IA se hará cargo de la transmisión de información y la optimización de procesos. Esto significa que la «ejecución manual» que los humanos han tenido que realizar durante cien mil años para sobrevivir llegará gradualmente a su fin. Si las minas pueden operar de forma autónoma para proporcionar recursos y el software puede reparar sus propios fallos y desarrollar nuevas funciones, los humanos ya no necesitarán obligarse a «currar como esclavos» para que el mundo funcione.

Pero eso no implica el fin absoluto del trabajo. Jerry cree que el foco futuro se desplazará hacia el «aumento humano» (human augmentation) y la búsqueda de la grandeza extrema.

«Me imagino un mundo en el que vivamos como los filósofos de la antigua Grecia: reunidos en la plaza, discutiendo filosofía todo el día, ejercitando el cuerpo, haciendo lo que queramos. Los humanos deberían esforzarse por ser grandes física y espiritualmente, como ocurre hoy con el deporte profesional: no hay razón económica para hacerlo, pero nos esforzamos por alcanzar la grandeza. Eso es lo más importante para nosotros».

Con el reloj de la cuenta atrás de dos años en marcha, tanto los investigadores de IA como todas las personas comunes inmersas en la ola de la economía del conocimiento quizá deban replantearse la definición de «trabajo».