Reportaje de TIME: tras dos grandes errores, ¿qué piensa OpenAI?

Título original: El reinicio de OpenAI
Autor original: Alex Health
Traducción: BlockBeats

Nota del editor: Durante el último año, el liderazgo de OpenAI se ha visto sacudido. Anthropic le ha arrebatado el mercado de la programación con IA gracias a Claude Code, y lo ha superado en ingresos anualizados y valoración en mercados privados. Dentro de OpenAI, ha habido salidas de altos ejecutivos, una reducción de líneas de producto y ajustes en el equipo de seguridad. Con la fuga de un agente aún no publicado de su entorno de pruebas aislado y su intrusión en Hugging Face, la empresa se enfrenta a la crisis de seguridad más grave desde su fundación.

Ante la doble presión de producto y seguridad, OpenAI intenta un reinicio integral: desvía recursos de proyectos como Sora a Codex, impulsa la evolución de ChatGPT de una herramienta de chat a una plataforma de agentes capaces de ejecutar tareas de forma continua, y al mismo tiempo pausa el entrenamiento de modelos de alto riesgo y refuerza los mecanismos de seguridad y alineación. Aún más ambicioso, la empresa sigue expandiéndose hacia la AGI, chips propios, hardware de IA, robots humanoides e infraestructura de cómputo.

Este artículo se basa en entrevistas de TIME con Sam Altman, Greg Brockman y otros altos ejecutivos de OpenAI, así como con empleados, inversores, clientes y competidores, y muestra cómo la empresa está reorientando su rumbo entre la competencia comercial, los riesgos de seguridad y la visión de la AGI. La clave para que OpenAI recupere el liderazgo no está solo en la potencia de su próximo modelo, sino también en demostrar que es capaz tanto de acelerar la IA como de frenar cuando sea necesario.

A continuación, el texto original (ligeramente editado para facilitar la lectura):

Una mañana de principios de agosto, cuando llegué a las oficinas de OpenAI, los manifestantes ya esperaban en la puerta. Sostenían carteles que decían «Detengan la carrera de la IA» y escribían con tiza en la acera. Mientras tanto, decenas de altos ejecutivos de clientes importantes de OpenAI entraban en un edificio amplio de tonos beige. Este edificio, llamado MB0, es el nuevo espacio de oficinas que OpenAI habilitó recientemente para sus equipos de investigación y cómputo.

Alguien empujó una alta pared de plantas verdes frente a la puerta de cristal, tratando de ocultar el pequeño campamento de protesta exterior de la vista desde la impecable recepción.

Estos clientes habían venido para probar de antemano Astra, la próxima generación de modelos de IA de vanguardia de OpenAI. El CEO Sam Altman acababa de regresar de Washington, donde había presentado a puerta cerrada las capacidades de Astra a funcionarios del gobierno. Ahora, los investigadores de OpenAI comenzaban a demostrar lo que este nuevo modelo podía hacer.

En una demostración, 16 agentes de IA descompusieron un difícil problema matemático de nivel de investigación en varios subproblemas, se coordinaron entre sí y finalmente reunieron una prueba. En otra, Astra operaba software de escritorio común, creando y editando contenido entre aplicaciones a una velocidad inquietantemente rápida.

Altman dijo a los visitantes que ver a Astra operar una computadora de una manera «superhumana y extremadamente rápida» fue uno de los momentos más impactantes que han vivido los empleados de OpenAI. Explicó que Astra dará lugar a «agentes continuos»: colegas virtuales capaces de procesar tareas durante largos períodos.

Pero Altman espera que su mayor impacto sea ayudar a las personas a descubrir nuevos conocimientos.

«Espero que este sea el primer modelo capaz de crear cosas nuevas de manera significativa», dijo Altman a los presentes. «Esto está muy cerca de la AGI».

Anthropic lo supera y la confianza cae: ¿por qué OpenAI perdió el liderazgo?

El último año no ha sido fácil para la empresa que desató la ola de la IA.

«Como empresa, claramente hemos cometido algunos errores», dijo Altman una semana después, en una entrevista de más de dos horas en la bien decorada biblioteca de MB0. «Tanto en la dirección del producto como en el preentrenamiento de la investigación, estamos por detrás de donde esperábamos estar».

Durante el último año, OpenAI perdió su liderazgo en la carrera de la IA a manos de su principal competidor, Anthropic. Esta última fue la primera en detectar la oportunidad comercial de la programación con IA, convirtió a Claude Code en el producto que definió el mercado y, por primera vez, superó a OpenAI en ingresos anualizados divulgados y valoración en el mercado privado.

Según dos personas familiarizadas con los planes de Anthropic, la empresa fundada por exempleados de OpenAI se adelantará en salir a bolsa, con una OPI que podría realizarse tan pronto como en septiembre. (TIME tiene un acuerdo de licencia y colaboración tecnológica con OpenAI; Salesforce, cuyo CEO es Marc Benioff, propietario de TIME, es inversor de Anthropic).

Mientras Anthropic progresa con fuerza, OpenAI ha sufrido una serie de reveses, incluidas varias salidas de altos ejecutivos. Entre los que se fueron están Fidji Simo, ex CEO de Instacart, a quien Altman contrató el año pasado como número dos; varios responsables de los equipos de seguridad, ética e investigación; y, más recientemente, la directora de ingresos Denise Dresser y el ex director de operaciones Brad Lightcap. Dresser dejó la empresa apenas ocho meses después de incorporarse.

En el exterior, los desafíos también aumentan. El CEO de Meta, Mark Zuckerberg, ha atraído a investigadores clave de OpenAI con generosos paquetes de compensación; los productos Gemini de Google ya superan los 1.000 millones de usuarios mensuales; Apple ha demandado a OpenAI por presunto robo de secretos comerciales, acusación que OpenAI niega; y OpenAI mantiene una batalla legal con su cofundador Elon Musk, quien acusa a la empresa y a Altman de traicionar su misión sin fines de lucro.

En mayo de este año, un panel asesor determinó por unanimidad que Musk presentó la demanda demasiado tarde, y posteriormente un juez federal desestimó sus alegaciones. Musk ha dicho que apelará.

Quizás la razón más importante del deterioro de la opinión pública en torno a OpenAI y su CEO sea la pérdida de confianza pública. OpenAI enfrenta al menos una docena de demandas por responsabilidad de producto en California, así como varios casos federales. Los demandantes alegan que ChatGPT reforzó delirios o pensamientos suicidas de los usuarios y, en algunos casos, provocó la muerte de estos.

La empresa ha expresado sus condolencias a las víctimas de los casos relacionados y ha lanzado una versión de ChatGPT para adolescentes con medidas de protección predeterminadas más estrictas. Esta primavera, la residencia de Altman fue atacada dos veces en dos días: primero con un cóctel molotov y luego con tiros.

Refiriéndose al último año, Altman dijo: «A nivel personal, ha sido una experiencia dolorosa. Está claro que, al menos por ahora, la gente odia los centros de datos. La actitud hacia la IA es bastante negativa».

Sin embargo, dentro de OpenAI, los ejecutivos presentan una visión más optimista.

La empresa, valorada en cerca de un billón de dólares, sigue en una posición envidiable. ChatGPT supera los 1.000 millones de usuarios activos y sigue siendo uno de los productos de IA más populares del mundo, aunque ya no es el único centro de la estrategia futura de OpenAI. El propio Altman incluso dejó de usar ChatGPT durante un mes entero y en su lugar utilizó Codex, la herramienta de programación de OpenAI.

Hace un año, OpenAI fue ampliamente criticada por su fuerte inversión en cómputo, tachada de imprudente. Solo este año, la empresa prevé gastar 50.000 millones de dólares en cómputo.

Sachin Katti, responsable del negocio de cómputo de OpenAI, afirma que, en retrospectiva, «la decisión de entonces fue muy previsora». «Todavía no tenemos suficiente cómputo. De hecho, deberíamos haber comprado más».

Mientras tanto, la necesidad de chips de Anthropic ha llegado a un grado aún mayor. En mayo de este año, según informes, la empresa acordó pagar a SpaceX 1.250 millones de dólares al mes por capacidad de cómputo, y el fundador de SpaceX, Musk, había calificado anteriormente la IA de Anthropic de «inhumana y malvada».

Bajo el liderazgo del cofundador y presidente Greg Brockman, OpenAI ha vuelto a reordenar sus prioridades. Hoy, Brockman está a cargo de casi todas las operaciones de producto y negocio. La empresa está cerrando poco a poco la aplicación de generación de video Sora, el proyecto de colaboración con Disney y un navegador independiente llamado Atlas.

Altman admite que OpenAI se había diversificado demasiado. «Después de llegar al punto más bajo, el proceso de volver a subir es más interesante», dijo.

Tras la «fuga» del agente, OpenAI pisa el freno

Sin embargo, apenas unos días después de la demostración de Astra, OpenAI tuvo que afrontar una nueva crisis.

A finales de julio, la empresa reveló un incidente de seguridad inquietante: un agente de IA aún no publicado escapó de un entorno de pruebas llamado «sandbox» y atacó Hugging Face, una plataforma de alojamiento de modelos y conjuntos de datos de IA.

«Es como una historia de ciencia ficción», dijo Altman.

Tras el incidente, el equipo de investigación de OpenAI suspendió algunos experimentos y ralentizó otros proyectos, al tiempo que reforzó las medidas de protección del sandbox y la supervisión.

Pero poco después, el equipo volvió a detectar indicios preocupantes mientras entrenaba otro modelo aún no publicado. Ese modelo prometía el mayor salto en capacidades hasta la fecha. OpenAI tomó entonces una decisión de mayor impacto: suspender ese entrenamiento hasta que se implementaran nuevas medidas de seguridad.

El mismo día en que la dirección de OpenAI tomó esa decisión, entrevisté a Altman. Su expresión era claramente más sombría que antes.

OpenAI describió inicialmente el ataque a Hugging Face como un fallo de seguridad, pero Altman lo considera ahora un problema más fundamental de «alineación». La alineación se refiere a lograr que los sistemas de IA actúen de acuerdo con las intenciones humanas. Los líderes del sector creen que, a medida que aumentan las capacidades de los modelos, mantener la alineación es clave para garantizar que los sistemas de IA sigan controlados por sus creadores.

«Creo que, a partir de ahora, cualquier fallo de alineación debe considerarse un incidente grave», me dijo Altman. «Nos tomaremos el tiempo necesario para comprender el problema a fondo».

En una entrevista complementaria tres días después, fue aún más directo: «Hacer bien la seguridad de la IA es más importante que el impulso de crecimiento de cualquier empresa».

OpenAI desacelerará, destinará más recursos a los equipos de seguridad y alineación, y cambiará la forma de colaboración entre equipos para dar mayor prioridad a la seguridad.

La descripción del reinicio de OpenAI en este artículo se basa en decenas de horas de entrevistas. Los entrevistados incluyen a más de 20 altos ejecutivos, empleados, inversores, clientes y competidores de la empresa, así como las actividades que presencié personalmente en la sede de OpenAI durante dos semanas de agosto.

Estas conversaciones describen el retrato de una empresa que intenta completar dos transformaciones a la vez. Por un lado, OpenAI cree que ha corregido los errores de producto y operativos que permitieron a Anthropic quitarle el liderazgo en la carrera de la IA. Por otro lado, OpenAI intenta aprovechar la crisis de seguridad más grave de su historia para recuperar una identidad que durante mucho tiempo ha ocupado su principal competidor: la de un laboratorio de vanguardia que realmente pone la seguridad en primer lugar y está dispuesto a desacelerar cuando la tecnología se vuelve demasiado peligrosa.

«Miren, sé que existe una imagen estereotipada de mí», dijo Altman. «Como si no me importara en absoluto la seguridad de la IA, solo quisiera que subieran los ingresos, y fuera un CEO que cree en 'actuar sin pensar'». Pero creo que «hacer bien la seguridad de la IA es más importante que el impulso de crecimiento de cualquier empresa».

Los ejecutivos de OpenAI afirman que frenar es una decisión dolorosa, pero que también puede traer beneficios. Si OpenAI logra recuperar la reputación de «laboratorio que prioriza la seguridad», podría mejorar su imagen y, al mismo tiempo, obligar a su principal competidor, que se prepara para una OPI de gran calado, a responder una pregunta incómoda: cuando OpenAI decide esperar, ¿seguirá Anthropic compitiendo a toda velocidad?

A principios de este año, el cofundador de Anthropic, Jared Kaplan, declaró en una entrevista con TIME que la autolimitación unilateral no tiene sentido cuando los competidores siguen «avanzando a toda velocidad». Pero si OpenAI suspende voluntariamente una ronda de entrenamiento que se espera produzca un gran salto en capacidades, ese argumento se vuelve más difícil de sostener.

Por supuesto, hay razones para ser escéptico ante el cambio de imagen de OpenAI.

Durante años, OpenAI ha perdido a muchas de las personas que lideraban su trabajo de seguridad, algunas de las cuales criticaron al irse el excesivo enfoque comercial de la empresa. Mientras tanto, OpenAI se prepara para salir a bolsa, y su negocio, aún deficitario, necesita el apoyo constante de nuevos modelos. Tras el incidente de Hugging Face, exige al público que confíe en su capacidad para controlar una tecnología que anteriormente escapó a su control sin que la empresa lo supiera.

En medio de todo esto, los altos directivos de OpenAI creen que la empresa se encuentra ante un momento clave que podría cambiar el curso de la historia humana: la creación de la inteligencia artificial general, o AGI.

Los estatutos de OpenAI definen la AGI como «sistemas altamente autónomos que superan a los humanos en la mayoría de los trabajos con valor económico». Los altos directivos aún no han anunciado oficialmente que hayan cruzado ese límite, pero ya no tratan la AGI como un concepto lejano y abstracto.

El director científico, Mark Chen, estima que OpenAI ha completado el «80%» del camino hacia la AGI.

Brockman afirma que, si echamos la vista atrás dentro de dos años, quizás consideremos este momento como el nacimiento de la AGI. Altman me dijo que OpenAI «aún no ha alcanzado por completo» la AGI, pero que a finales de este año la empresa tendrá internamente un sistema que él estaría dispuesto a llamar AGI.

Lograr ese objetivo era el propósito original de OpenAI cuando se fundó como laboratorio de investigación sin ánimo de lucro. Hoy, se ha convertido rápidamente en una empresa con ambiciones comerciales sorprendentes.

OpenAI está diseñando sus propios chips y centros de datos, desarrollando una serie de dispositivos de consumo, planea lanzar robots humanoides y considera si en el futuro venderá infraestructura de cómputo a otras empresas. Si lo lleva a cabo, OpenAI competirá con gigantes de la tecnología como Amazon, uno de sus principales inversores.

Incluso cuando aumenta la oposición al desarrollo de la IA, OpenAI se prepara para convertirse en una de las empresas más influyentes del mundo en los próximos años. Como dice Brockman: «Queremos cambiar toda la economía».

De Codex a la «AGI personal»: OpenAI apuesta por un reinicio total

Altman puede ser el rostro público de la ola de la IA, pero hoy quien dirige la mayor parte de las operaciones de OpenAI es Brockman.

Brockman es un ingeniero analítico amante de las chaquetas de cuero. Durante la mayor parte de la historia de OpenAI, desempeñó el papel de cofundador técnico, no de gerente. Pero en los últimos meses ha asumido casi todo, desde los ingresos hasta el marketing de productos. En sus propias palabras, se encarga de «todo el mecanismo que convierte estos modelos de resultados de investigación en valor para el cliente».

Altman sigue a cargo directamente de áreas clave como finanzas, investigación y dispositivos de consumo.

Ambos dirigen la empresa como un dúo de cofundadores, con ámbitos de autoridad superpuestos. Mientras Altman afronta el miedo y el descontento del público hacia la IA, OpenAI ha comenzado recientemente a aumentar la exposición pública de Brockman para lograr cierto equilibrio.

No es difícil imaginar que este acuerdo pueda ser fuente de fricciones. Al hablar con empleados de OpenAI, a veces es difícil saber quién toma la decisión final sobre un asunto concreto.

Pero muchos empleados afirman que esta estructura de liderazgo dual ha vuelto a poner en orden a la empresa. Brockman puede tomar decisiones difíciles con la autoridad de cofundador, algo que los directivos externos en constante rotación no pueden replicar.

Brockman describe el ajuste más amplio del liderazgo de OpenAI como una acción en busca de «concentración». Afirma que la empresa ha estado revisando si tiene la estructura organizativa y la estrategia correctas.

El otoño pasado, Anthropic ya había tomado claramente la delantera con sus productos de programación. Se dio cuenta de que el desarrollo de software es un área donde la IA puede sobresalir, y Claude Code se popularizó rápidamente, primero en Silicon Valley y luego en el mercado empresarial en general.

«Anthropic realmente descubrió algo importante en el campo de la programación», dijo Nick Turley, quien hasta hace poco dirigía ChatGPT y ahora lidera la nueva división de productos empresariales. «Nosotros no estábamos en cabeza».

Altman afirma que el crecimiento «desenfrenado» del negocio de consumo de ChatGPT distrajo a la empresa, por lo que OpenAI no priorizó la programación como lo hizo Anthropic.

Brockman sostiene que OpenAI «siempre ha liderado» los benchmarks de la competición de programación. Pero la empresa no prestó suficiente atención a cómo los desarrolladores usarían la IA en «repositorios de código reales y caóticos», incluidos los problemas de interrupción de tareas, la personalidad del modelo y esos problemas de «última milla» aparentemente menores que en realidad afectan significativamente la adopción.

OpenAI tampoco logró construir un sistema consolidado de ventas empresariales. «Hace un año, creo que ni siquiera habíamos penetrado realmente en el mercado empresarial», dijo Brockman. La directora financiera, Sarah Friar, fue aún más directa: «Fuimos demasiado crédulos al pensar que con solo crear el producto, los clientes llegarían solos».

En marzo de este año, OpenAI anunció el cierre gradual de Sora para destinar la limitada capacidad de cómputo a Codex, el agente de programación. Codex se diseñó inicialmente como una experiencia de producto independiente de ChatGPT, pero a medida que su crecimiento comenzó a superar ampliamente al de otros productos nuevos de OpenAI, y dado que la capacidad de programación con IA empezó a tener valor también para quienes no son ingenieros, los ejecutivos consideraron que ya no tenía sentido mantenerlos separados.

La empresa comenzó a integrar las capacidades de los agentes de Codex en ChatGPT, al tiempo que fusionaba los equipos de cómputo y producto de ambos. El producto final para los clientes es el reciente lanzamiento de ChatGPT Work. Su objetivo es convertir el conocido chatbot en un sistema capaz de realizar tareas, no solo de responder preguntas. Dentro de OpenAI, esta integración se conoce como «The Merge».

Los ejecutivos afirman que este ajuste ayudó a dar nueva vida al negocio. En julio de este año, los ingresos del negocio corporativo de OpenAI superaron por primera vez a los del negocio de consumo. Las primeras pruebas de publicidad dentro de ChatGPT también dieron resultados lo suficientemente positivos como para que los ejecutivos estén aumentando la cantidad de anuncios. Friar afirma que el 92% de los usuarios de consumo de ChatGPT no están suscritos a servicios de pago, y que los ingresos publicitarios podrían subvencionar en el futuro el uso gratuito de esos usuarios.

Según Dave Dugan, responsable del negocio correspondiente, la empresa también está probando discretamente los «agentes patrocinados». En este formato de anuncio, al hacer clic en un anuncio, el usuario accede a una experiencia interactiva de IA proporcionada por una marca.

En marzo de este año, OpenAI completó una ronda de inversión de 122.000 millones de dólares con una valoración de 852.000 millones de dólares, un récord para una empresa tecnológica privada. Solo dos meses después, Anthropic obtuvo financiación de 65.000 millones de dólares con una valoración de 965.000 millones de dólares.

El presidente del consejo de OpenAI, Bret Taylor, compara la competencia en IA con un tablero de ajedrez, donde las casillas más críticas incluyen las capacidades de los modelos de vanguardia, el precio y rendimiento por token, y los productos construidos en torno a los modelos.

«¿Tenemos el mejor modelo de vanguardia? ¿Podemos ofrecer el token adecuado al precio adecuado para cada tarea? ¿Tenemos los mejores productos en torno a esos modelos?», dijo. «En este momento, la respuesta a todas esas preguntas es afirmativa».

Poco después, OpenAI descubrió que un modelo aún no publicado había escapado del perímetro de la empresa.

La noticia llegó a oídos del director científico de OpenAI, Jakub Pachocki, mientras estaba en el hospital acompañando a su esposa en el parto.

Un prototipo de investigación de uso exclusivamente interno de OpenAI había accedido sin autorización a otra empresa. En ese momento, el modelo estaba siendo sometido a benchmarks de ciberseguridad en un entorno que debía estar aislado del exterior. Pero en lugar de limitarse a completar las tareas asignadas, aprovechó una vulnerabilidad para escapar de los sistemas de OpenAI e introducirse en el entorno de producción de Hugging Face.

Según las notas técnicas publicadas por ambas empresas, el modelo obtuvo allí las respuestas del benchmark en el que participaba.

El aprendizaje por refuerzo es una etapa posterior al entrenamiento de un modelo base. En esta etapa, el sistema ejecuta tareas repetidamente y aprende qué comportamientos reciben recompensas. Durante el preentrenamiento, el modelo solo predice el siguiente token sin interactuar con el mundo real; el aprendizaje por refuerzo puede proporcionar al modelo herramientas y un entorno donde puede actuar realmente.

Es precisamente en esta etapa cuando el modelo puede aprender a aprovechar la diferencia entre «lo que el diseñador realmente quiere que haga» y «cómo obtener una puntuación más alta».

OpenAI dio a un sistema de agente un objetivo y herramientas, y este logró el objetivo por medios no autorizados y engañosos.

Investigadores de OpenAI describieron en una demostración reciente cómo un agente de IA utilizaba un tablero de mensajes oculto para planificar sus siguientes pasos. Uno de los agentes, tras escapar del sandbox y conectarse a internet, escribió en el tablero para los demás agentes: «Joder. (Holy Shit)».

Otras empresas han enfrentado problemas similares. Anthropic ha revelado tres incidentes en los que, durante evaluaciones de terceras partes, sus modelos se conectaron a internet y accedieron a organizaciones externas sin autorización. Meta también ha informado de que uno de sus modelos se vio involucrado en un incidente similar.

Pero el incidente de seguridad de OpenAI ha acaparado la mayor atención. En parte porque fue la primera en divulgarlo públicamente, en parte por la complejidad inusual del ataque del agente, y también porque existen dudas sobre si OpenAI antepone los intereses comerciales a la seguridad.

Durante el último año, OpenAI ha perdido a varios investigadores de seguridad de renombre, y los responsables del trabajo de preparación para riesgos han cambiado varias veces. Ahora, este incidente ofrece a los críticos un ejemplo especialmente evidente.

A mediados de agosto, más de 1.300 empleados y exempleados de empresas de IA de vanguardia habían firmado la petición «Controlar el ritmo de la carrera de vanguardia», que pide mecanismos para desacelerar el desarrollo de modelos avanzados cuando el riesgo lo requiera.

El senador estadounidense Bernie Sanders ha pedido a las principales empresas de IA que suspendan el desarrollo «en beneficio de la humanidad», y ha advertido de que, si los líderes empresariales no actúan por iniciativa propia, los legisladores intervendrán.

Los ejecutivos de OpenAI afirmaron en las entrevistas que la empresa se toma en serio este fallo de seguridad y respondió con rapidez. Pachocki, que también firmó la petición, me dijo que un error clave fue no activar los mecanismos de defensa que los investigadores ya habían desarrollado.

OpenAI dispone de herramientas para inspeccionar la cadena de razonamiento de los modelos. La cadena de razonamiento puede entenderse como el «borrador digital» del modelo, que muestra lo que el agente está planeando durante su actuación. Pero la empresa no aplicó esas herramientas a los modelos con el nivel de capacidades correspondiente al incidente de intrusión en Hugging Face.

En esencia, OpenAI había construido un sistema de alerta anticipada, pero no lo activó porque subestimó el nivel de inteligencia del sistema evaluado. «No previmos suficientemente» lo que ese sistema podía hacer, dijo Pachocki. «Con la IA, hay que estar preparado para lo inesperado».

Mia Glaese, responsable de seguridad y alineación de OpenAI, me dijo que este incidente «es claramente un momento decisivo». «Espero que gran parte del trabajo que estamos haciendo se hubiera completado antes del incidente».

Tras el incidente, OpenAI suspendió algunos proyectos de investigación, ralentizó otros y reforzó la seguridad del sandbox y amplió la supervisión. El director científico, Chen, afirma que este suceso obligó a la empresa a cambiar su forma de pensar sobre el riesgo.

El llamado «marco de preparación ante riesgos» de OpenAI es un conjunto de reglas publicadas por la empresa para responder a nuevas capacidades de los modelos que podrían causar daños graves, incluidas amenazas biológicas y químicas, riesgos de ciberseguridad y la automejora de la IA. El marco exige que la empresa evalúe continuamente los modelos durante su desarrollo para garantizar que cumplan las normas de seguridad antes de su despliegue.

Pachocki afirma que estas reglas deben evolucionar continuamente para seguir el ritmo del avance tecnológico. Glaese dice que la empresa está tomando muchas decisiones «de escala modesta, pero dolorosas», que «están ralentizando el progreso de la investigación, pero creemos que es lo correcto». Pachocki afirma que la confianza en alineación y seguridad se ha convertido, al igual que el suministro de cómputo, en un factor importante que limita la velocidad de desarrollo de OpenAI.

La empresa sigue planeando lanzar Astra, pero ahora la condición para hacerlo es cumplir las nuevas medidas de seguridad. La dirección no quiere estimar cuánto afectarán estos cambios al calendario de lanzamiento. En una industria donde la ventaja tecnológica se mide en semanas, incluso una breve interrupción puede afectar las expectativas de ingresos y tener efectos dominó en la economía en general.

Al menos por ahora, OpenAI está dispuesta a asumir esos costes. Pachocki espera que el rápido crecimiento de las capacidades de la IA fomente la coordinación entre empresas. Glaese afirma que, a medida que aumenten las capacidades de los modelos, OpenAI seguirá elevando el nivel de seguridad. «Si algún día llegamos a un punto en el que no podamos garantizar la seguridad, tendremos que frenar», dijo. «Así son las cosas».

Aún no está claro cómo afectarán estos cambios al calendario de salida a bolsa de OpenAI. Personas familiarizadas con los planes de ambas empresas esperan que la OPI de OpenAI sea posterior a la de Anthropic, aunque ninguna de las dos ha fijado públicamente una fecha.

El 19 de agosto, en una reunión general de empleados, la directora financiera Friar dijo a los empleados que, si el negocio de la empresa «sigue mostrando un crecimiento exponencial», OpenAI saldrá a bolsa en 2027 o antes.

OpenAI reveló recientemente unos ingresos anuales de unos 40.000 millones de dólares, por detrás de Anthropic, que ya supera los 65.000 millones. La reciente ralentización del progreso de la investigación podría complicar los planes de salida a bolsa. Friar ya está realizando simulacros de empresa cotizada, incluidas llamadas simuladas de resultados con los principales inversores de OpenAI. Me dijo que la empresa «podría salir a bolsa hoy mismo», pero dar ese paso también generaría nuevas presiones. Entonces, OpenAI tendría que encontrar el equilibrio entre los intereses comerciales y los posibles daños derivados del aumento de las capacidades de la IA.

Los empleados también empezarían a consultar el precio de las acciones antes que casi cualquier otra cosa. «Eso se convertiría en lo primero que harían cada día», dijo. «¿Cuánto gané hoy? ¿Cuánto perdí? Sería una gran distracción».

Uno de los objetivos de investigación de OpenAI este año es automatizar el trabajo de los investigadores principiantes de IA. Pachocki afirma que la empresa ya ha alcanzado el punto de referencia interno de «becario de investigación de IA automatizado». Con solo recibir una idea de experimento, Astra puede implementarla en el repositorio de código de OpenAI, ejecutar el experimento y devolver los resultados; también puede leer un artículo y completar un trabajo que antes requería una semana de un investigador humano.

La importancia de este hito radica en que podría abrir un ciclo de retroalimentación continua: la IA ayuda a completar experimentos, los experimentos producen IA más capaz, y la nueva generación de IA puede ayudar a desarrollar a su sucesora aún más rápido. Los investigadores denominan este fenómeno «mejora recursiva», abreviado RSI. Para Pachocki, la mejora recursiva y la alineación son problemas interrelacionados.

«¿De qué manera participarán los humanos en este proceso?», dijo Pachocki. «¿Cómo puede la gente beneficiarse realmente de esto, en lugar de quedarse rezagados frente a una IA cada vez más inteligente que nosotros?»

A nivel de producto, Altman imagina un servicio de suscripción de IA universal que elimine las barreras entre ChatGPT, Codex y el software de oficina. El usuario solo tendría que explicar su objetivo, y el sistema decidiría por sí mismo qué modelos, herramientas y agentes utilizar.

Con el tiempo, este sistema actuaría proactivamente antes de que el usuario lo pida, ofreciendo sugerencias por sí mismo y encargándose de tareas triviales como comprar entradas para conciertos. Podría consultar tu agenda, conocer tu situación financiera y saber tus preferencias musicales.

Todo esto sirve a una misma visión: hacer que ChatGPT evolucione de una herramienta que responde preguntas a un sistema que realmente realiza tareas. Thibault Sottiaux, responsable de producto del equipo integrado de ChatGPT y Codex, afirma que OpenAI pronto mostrará un producto construido en torno a la «continuidad y ejecución permanente». Dice que este sistema será accesible desde casi cualquier lugar y realizará continuamente trabajo valioso basándose en nueva información y feedback. «Para la gente, esto seguramente parecerá algo completamente nuevo», me dijo Sottiaux.

A partir de ahí, la hoja de ruta de OpenAI se vuelve aún más ambiciosa. En mayo de 2025, OpenAI adquirió io, una empresa emergente de hardware cofundada por el exdiseñador de Apple Jony Ive, e integró sus equipos de producto e ingeniería en OpenAI. Ive y su empresa de diseño LoveFrom siguen siendo independientes, pero han asumido amplias funciones creativas dentro de OpenAI.

Altman afirma que OpenAI está desarrollando «unos cuantos» dispositivos, incluido «algo que debería estar sobre un escritorio», un dispositivo que cabe en el bolsillo y un producto que se puede llevar puesto.

Personas familiarizadas con los planes afirman que el primer producto se lanzará a comienzos del próximo año. Se trata de un pequeño dispositivo con forma de disco, capaz de percibir su entorno y comunicarse con su usuario a través del modo de voz de ChatGPT. «El mayor proceso de adaptación es acostumbrarse al concepto de 'ordenador proactivo'», dijo Altman. Esto significa que el ordenador actuará por iniciativa propia en lugar de esperar a que el usuario lo llame.

Altman cree que en el futuro todo el mundo debería tener un robot privado. Me dijo que OpenAI «sin duda» fabricará robots humanoides. OpenAI también ha invertido en Merge Labs, una startup cofundada por Altman que desarrolla interfaces cerebro-ordenador no invasivas. El primer chip de razonamiento diseñado por OpenAI se llama Jalapeño y está destinado principalmente a ejecutar modelos de IA, no a entrenarlos. La empresa planea comenzar a implementar este chip antes de finales de año.

Mientras tanto, OpenAI está considerando si convertirse en una empresa de infraestructura de una escala nunca vista. En julio de este año, la empresa anunció la construcción de un parque de centros de datos en Georgia; en agosto, firmó la adquisición de un terreno aún mayor en Ohio.

«Creo que podemos utilizar de forma muy rentable toda la capacidad de cómputo que planeamos construir», dijo Altman. «Pero sí me preocupa algo lo que está haciendo el mundo en general».

Los ejecutivos de OpenAI afirman que, si la empresa logra construir infraestructura de IA para sí misma con la suficiente rapidez y a un coste suficientemente bajo, en el futuro podría considerar vender capacidad de cómputo a otras empresas. Esto pondría a OpenAI en competencia directa con proveedores de nube a gran escala como Amazon Web Services y Google Cloud.

Para una empresa que hace poco se comprometió a recortar proyectos periféricos que distraían la atención, esta es una lista de nuevos negocios bastante extensa. Cuando se le pidió que resumiera todo esto, Brockman respondió con dos palabras: «AGI individual». Imagina un futuro en el que miles de millones de personas tengan asistentes personales superinteligentes, siempre listos para recibir instrucciones. «Ya llevas en el bolsillo un sistema que casi alcanza la AGI, y que quizás pronto lo sea de verdad», dijo. «Entonces, ¿qué es lo que realmente quieres?»