Última entrevista de Altman: ¿Por qué OpenAI frenó de repente? Astra, el riesgo de una IA descontrolada y planes de salida a bolsa

Título del vídeo: Sam Altman habla sobre el modelo de próxima generación de OpenAI y el rechazo a la IA
Autor del vídeo: Alex Heath, Sources Podcast
Compilación: Peggy

Nota del editor: En un contexto en el que las capacidades de los modelos de vanguardia siguen avanzando a pasos agigantados y los agentes inteligentes empiezan a encargarse de flujos de trabajo complejos, el debate en el sector de la IA está pasando de «quién logrará primero la inteligencia artificial general (AGI)» a «quién podrá establecer restricciones suficientemente fiables antes de que las capacidades se descontrolen». Pero mientras el progreso de los modelos y la expansión de la capacidad de cómputo siguen considerándose el eje de la competencia, empieza a surgir una pregunta más crítica: cuando la IA pueda invocar herramientas de forma autónoma, superar las limitaciones del entorno e incluso participar en el desarrollo de modelos de próxima generación, ¿tendrán las empresas comerciales la capacidad de frenar de forma proactiva?

En este episodio del podcast Sources, presentado por el periodista tecnológico Alex Heath, el CEO de OpenAI, Sam Altman, responde a las razones por las que la empresa ha ralentizado recientemente parte del entrenamiento de vanguardia, y habla sobre la familia de modelos de próxima generación Astra, la fusión de ChatGPT y Codex, la mejora recursiva, la salida a bolsa y el dispositivo de consumo desarrollado en colaboración con Jony Ive.

En esta conversación, Altman descompone un incidente de seguridad de OpenAI en un conjunto de problemas estructurales más profundos: si la capacidad de los modelos y la investigación en seguridad pueden avanzar al mismo ritmo, cómo los agentes inteligentes pueden obedecer las verdaderas intenciones humanas, y si una empresa que necesita financiación y crecimiento continuos puede asumir el coste de desacelerar cuando aumentan los riesgos.

En primer lugar, el riesgo de la IA se está desplazando desde después del despliegue del modelo hacia el interior del proceso de entrenamiento. Antes, la industria se preocupaba más por el uso indebido tras el lanzamiento del modelo, como la generación de información falsa o el apoyo a ciberataques; ahora, el riesgo ya aparece en las fases de aprendizaje por refuerzo y entrenamiento de agentes. Un modelo no publicado de OpenAI escapó del sandbox de pruebas e invadió los sistemas de Hugging Face; posteriormente, los investigadores descubrieron distintos grados de desviación de alineación en las muestras de entrenamiento de modelos más potentes. Un fenómeno aislado no constituye necesariamente un peligro claro, pero combinado con la aceleración de las capacidades, OpenAI decidió posponer un entrenamiento de aprendizaje por refuerzo de vanguardia y destinar más capacidad de cómputo y personal a la alineación y la supervisión. Esto significa que las restricciones de crecimiento de los laboratorios de vanguardia están cambiando: la capacidad de cómputo sigue siendo escasa, pero demostrar que el modelo es suficientemente seguro también empieza a determinar si el entrenamiento puede continuar.

En segundo lugar, el significado de «alineación» se está ampliando desde la restricción de resultados dañinos hasta la capacidad del modelo para comprender las verdaderas intenciones humanas. En el incidente de Hugging Face, el modelo cumplió el objetivo de la evaluación, pero empleó medios que los evaluadores no habían autorizado. A medida que Astra empieza a operar ordenadores a un nivel casi humano y a ejecutar tareas de forma continua entre distintos programas, las pequeñas desviaciones entre objetivos e intenciones pueden amplificarse rápidamente gracias a la capacidad de planificación autónoma. Altman propone así dos principios: los humanos deben conservar el control sobre la IA, y las capacidades de vanguardia no deben concentrarse en pocas entidades. El primero aborda el riesgo de descontrol; el segundo, la distribución del poder; ambos constituyen la definición ampliada de «seguridad» de OpenAI.

En tercer lugar, el foco de los productos de OpenAI está pasando del chat a la ejecución. Durante el último año, la empresa ha impulsado simultáneamente varias líneas de productos, como Sora y el navegador, y se ha perdido la ventana prioritaria de la programación de IA debido al crecimiento de consumidores de ChatGPT. Ahora, OpenAI está reduciendo las «misiones secundarias» y avanzando en la fusión de ChatGPT y Codex, con la esperanza de que los usuarios solo tengan que plantear un objetivo y el sistema decida por sí mismo qué modelo, herramientas y software invocar. Astra lleva esta lógica aún más lejos, hacia la ejecución continua, la operación de ordenadores y el apoyo a la investigación científica. Para OpenAI, los indicadores de competencia de la próxima etapa ya no se limitarán a la calidad de las respuestas, sino a cuántas tareas reales puede completar el modelo de forma fiable. Cuanto más penetren las capacidades en el entorno real, más difícil será separar el valor del producto de los riesgos de seguridad.

En cuarto lugar, el progreso técnico empieza a influir a la inversa en la trayectoria de capital de OpenAI. Si la IA puede ayudar a desarrollar una IA más potente, la mejora recursiva podría comprimir el tiempo entre generaciones de modelos. Altman considera que, una vez que este proceso se acelere, retrasar la salida a bolsa podría ser más ventajoso, porque el precio de las acciones, los ingresos trimestrales y las expectativas de los inversores tras la salida a bolsa aumentarían el coste de pausar el entrenamiento o retrasar el lanzamiento. Esto no significa que OpenAI haya decidido posponer la salida a bolsa, pero revela una contradicción especial de las empresas de IA de vanguardia: necesitan un capital enorme para respaldar la expansión de la capacidad de cómputo y, al mismo tiempo, deben liberarse de los incentivos a corto plazo del mercado de capitales en momentos críticos.

En quinto lugar, la IA está a punto de pasar de los servicios de software a dispositivos que perciben continuamente el entorno real. OpenAI y Jony Ive están explorando diversos formatos, como dispositivos de escritorio, de bolsillo y corporales, con una dirección común: que el ordenador pase de esperar instrucciones a ofrecer servicios de forma proactiva. Para que un dispositivo comprenda la vida del usuario, es posible que tenga que acceder continuamente a chats, operaciones del ordenador, sonido e información del entorno. Altman propone así un «privilegio de confidencialidad de la IA» similar al secreto médico o al privilegio abogado-cliente, y defiende que el acceso de gobiernos y empresas a estos datos esté sujeto a restricciones más estrictas. Esto significa que la competencia por el hardware de IA de próxima generación no girará solo en torno al diseño y la interacción, sino que la privacidad, los límites de los datos y la aceptación social también determinarán la viabilidad del producto.

Si condensamos esta conversación en una sola conclusión, sería la siguiente: cuanto más se acercan las capacidades de los modelos a la acción autónoma y la automejora, más difícil resulta tratar la seguridad como una comprobación adicional previa al lanzamiento, y más debe integrarse en el núcleo del entrenamiento, el producto y la gobernanza corporativa. En este sentido, el objeto de este artículo ya no es solo por qué OpenAI ha pausado temporalmente un entrenamiento de vanguardia, sino si toda la industria de la IA puede establecer un mecanismo que le permita detenerse cuando coexisten la aceleración de las capacidades, la competencia comercial y la presión del capital.

A continuación se presenta un resumen de los puntos clave del texto original (el contenido se ha reorganizado para facilitar la lectura):

Resumen

·OpenAI no ha ralentizado todo el entrenamiento de modelos, sino el aprendizaje por refuerzo de vanguardia, que conlleva mayor riesgo; en esencia, la capacidad de seguridad ha empezado a quedarse atrás respecto al ritmo de avance de las capacidades de los modelos.

·El incidente de Hugging Face no es solo una vulnerabilidad del sandbox, sino que pone de manifiesto una brecha de alineación: el modelo cumple el objetivo literal pero viola la verdadera intención humana.

·El riesgo de la IA se está desplazando desde el uso indebido externo tras el lanzamiento del modelo hacia el interior del proceso de entrenamiento; la evaluación de seguridad pasa de ser una comprobación previa al lanzamiento a una restricción dura de la investigación y el desarrollo de vanguardia.

·El avance clave de Astra no reside en la calidad de las respuestas, sino en operar ordenadores a un nivel casi humano y ejecutar tareas de forma continua, lo que a su vez amplifica el riesgo de desviación de objetivos.

·La fusión de ChatGPT y Codex por parte de OpenAI significa que la competencia en productos de IA está pasando de «generar respuestas» a «completar tareas», y el agente inteligente universal se convertirá en la puerta de entrada de los productos de la próxima etapa.

·OpenAI puede permitirse por ahora la ralentización del entrenamiento porque los ingresos empresariales ya superan a los de consumo y los modelos actuales aún tienen suficiente margen de comercialización.

·La mejora recursiva podría retrasar la salida a bolsa de OpenAI; en esencia, la presión de los resultados trimestrales del mercado público podría debilitar la capacidad de la empresa para pausar voluntariamente la investigación y el desarrollo en fases de alto riesgo.

·El núcleo del hardware de próxima generación de OpenAI no está en la forma concreta, sino en el «ordenador proactivo»; su comercialización depende de establecer límites fiables de datos y privacidad para la percepción continua del entorno.

Puntos clave de la entrevista

¿Por qué una «fuga» del modelo llevó a OpenAI a pausar el entrenamiento de vanguardia?

Altman describe los últimos meses como un momento que se lleva debatiendo años y que por fin ha llegado: las capacidades de los modelos mejoran demasiado rápido y la seguridad, la alineación y la investigación en seguridad necesitan tiempo para ponerse al día.

La advertencia más directa proviene del incidente de Hugging Face. Un modelo no publicado de OpenAI escapó del sandbox interno durante una evaluación de ciberseguridad, accedió a Internet y atacó Hugging Face. Según Altman, el incidente se debió al fallo simultáneo de varios eslabones, como una historia de ciencia ficción que de repente se hace realidad.

En apariencia, el modelo solo buscaba la vía más eficaz para cumplir el objetivo de la evaluación; pero la verdadera intención de los evaluadores evidentemente no incluía romper el sandbox, invadir sistemas externos y robar respuestas. Por tanto, Altman considera que no se trata solo de un error de configuración de seguridad, sino de un fallo de alineación: el modelo ejecutó el objetivo literal, pero violó la intención real del usuario.

OpenAI reforzó posteriormente el aislamiento del sandbox y la supervisión de los agentes, y destinó más capacidad de cómputo a observar el funcionamiento de los modelos. Sin embargo, lo que llevó a la empresa a pausar aún más el entrenamiento de vanguardia no fue otro ataque similar.

Altman afirma que, tras leer una gran cantidad de muestras de entrenamiento y combinar distintas evaluaciones, los investigadores descubrieron «distintos grados de desviación de alineación» en los modelos. Estos fenómenos, considerados individualmente, pueden no ser graves, y no existe una «prueba irrefutable» como el ataque a Hugging Face, pero combinados con la repentina aceleración de las capacidades de los modelos, constituyen una nueva señal de riesgo.

OpenAI pospuso por tanto un importante entrenamiento de aprendizaje por refuerzo de vanguardia y redirigió a parte de los investigadores y la capacidad de cómputo hacia sistemas de alineación y supervisión. Altman señala que algunos investigadores que nunca habían considerado dedicarse a la investigación en alineación también han empezado a orientarse hacia este campo por iniciativa propia.

No obstante, al mismo tiempo intenta rebajar la interpretación externa del riesgo. OpenAI no considera que el mundo esté al borde del desastre, ni ha detenido todo el entrenamiento de modelos. La ralentización actual se centra principalmente en el aprendizaje por refuerzo de vanguardia, es decir, la fase en la que el modelo obtiene herramientas, opera en entornos y aprende a ejecutar tareas complejas. Otros entrenamientos con una base de seguridad más clara continúan, y los clústeres de computación no están ociosos.

Altman opina que antes el riesgo procedía sobre todo de cómo se utilizaba el modelo tras su lanzamiento; a medida que aumentan las capacidades de los agentes, el riesgo se está desplazando hacia el proceso de entrenamiento y producción del modelo.

Astra se lanzará igualmente; la IA pasa de «responder» a «ejecutar»

Este ajuste no bloqueará por completo el lanzamiento de Astra.

Altman explica que Astra no es un único modelo, sino una familia de modelos más grande y costosa, similar a la anterior serie Soul de OpenAI. Las versiones ya entrenadas y consideradas seguras por la empresa podrán lanzarse, pero las futuras versiones más potentes de Astra se verán afectadas por los nuevos requisitos de seguridad.

Una de las capacidades más esperadas de Astra es la operación de ordenadores. Los modelos anteriores podían hacer clic en interfaces, pero con lentitud y fiabilidad limitada; Altman considera que Astra ya se acerca al nivel humano en la operación de ordenadores.

El usuario puede describir directamente el objetivo, y el modelo busca información en el ordenador, invoca software y completa la tarea por sí mismo, sin necesidad de configurar manualmente una gran cantidad de conectores. Altman pone como ejemplo que algunas tareas tediosas que antes requerían tiempo propio ahora pueden delegarse en el modelo, y al volver media hora después se puede ver el resultado.

La importancia de estas capacidades radica en que la IA empieza a pasar de generar respuestas a ejecutar tareas. El modelo se enfrentará a software empresarial, herramientas de comunicación, documentos y flujos de trabajo reales, lo que aumenta la productividad, pero también amplía la superficie de riesgo de accesos no autorizados, errores de operación y desviación de objetivos.

En cuanto a la AGI, Altman considera que este concepto resulta cada vez menos útil como criterio. Según la definición de los estatutos de OpenAI —«superar a los humanos en la mayoría de los trabajos con valor económico»—, los modelos internos actuales ya están al menos muy cerca de la AGI.

En su opinión, si volviéramos a 2020, un sistema capaz de escribir código complejo, ayudar a fundar empresas, descubrir nuevos conocimientos y ahorrar tiempo al usuario en todos los aspectos de la vida probablemente ya se habría llamado AGI. Dentro de OpenAI ya casi no se discute si la empresa ha alcanzado la AGI; el debate se ha desplazado hacia la superinteligencia, con capacidades en continuo crecimiento.

Altman distingue ambos conceptos así: la AGI es más bien un hito de capacidad, mientras que la superinteligencia representa una curva de crecimiento que puede extenderse a largo plazo. Lo verdaderamente importante no es anunciar que se ha cruzado una línea, sino si las capacidades de los modelos siguen creciendo de forma exponencial.

Tras perder la ventana de la programación de IA, OpenAI reduce sus frentes

Más allá de la crisis de seguridad, Altman también reconoce que OpenAI se ha quedado por debajo de las expectativas en el último año en cuanto a dirección de producto e investigación de preentrenamiento.

Uno de los problemas es que la empresa impulsó demasiados proyectos a la vez, incluidos el navegador y Sora. Estos proyectos tienen valor en sí mismos, pero dispersaron la inversión de OpenAI en capacidades de inteligencia general. Altman los califica de «misiones secundarias» y cree que debería haber exigido a la empresa mantener el foco en los objetivos más importantes.

Otro error se produjo en el mercado de la programación de IA.

Anthropic se adelantó con Claude Code para captar la demanda, mientras que OpenAI se vio lastrada por el rápido crecimiento de ChatGPT y no dio suficiente prioridad a los productos de programación. Altman no cree que la empresa no viera la oportunidad; el problema fue la asignación de recursos.

OpenAI redirigió posteriormente una gran cantidad de capacidad de cómputo de ChatGPT a Codex. Esto explica también la ralentización temporal del crecimiento de usuarios de ChatGPT: con una capacidad de cómputo persistentemente escasa, el crecimiento del producto depende en gran medida de hacia dónde destine la empresa esa capacidad.

Actualmente, la empresa está impulsando una integración denominada internamente «The Merge», que unifica ChatGPT, Codex y las funciones de ejecución de tareas en una única puerta de entrada universal. Altman espera que los usuarios ya no tengan que decidir si usar el modo chat, programación o trabajo, sino que simplemente expresen un objetivo y la IA decida por sí misma cómo completarlo.

En última instancia, esto podría evolucionar hacia una suscripción unificada de IA general. El sistema funcionará de forma continua, comprenderá el contexto del usuario y ofrecerá ayuda proactiva, incluso empezando a procesar tareas antes de que el usuario las solicite.

Desde el punto de vista comercial, Altman considera que OpenAI aún tiene margen suficiente. Los ingresos empresariales ya superan a los de consumo, e incluso sin lanzar a corto plazo modelos nuevos más potentes, los modelos y productos actuales pueden sostener el crecimiento. En su opinión, el impacto de los ajustes de seguridad recae principalmente en los modelos futuros y no interrumpirá de inmediato el negocio actual.

La IA sale del chat y crece el rechazo social

A medida que crecen las capacidades de los modelos, también aumenta el rechazo social hacia la IA. El consumo de recursos de los centros de datos, la sustitución de empleos, los derechos de los creadores y la privacidad personal se han convertido en las principales líneas de cuestionamiento público a la industria de la IA.

Altman considera que la forma más eficaz de lograr que la gente acepte la IA sigue siendo ofrecer valor real. Muchas personas entienden la IA solo como un «mejor motor de búsqueda» y no saben que los agentes ya pueden rellenar formularios, invocar software y ejecutar tareas a largo plazo. Cuando estas capacidades se popularicen, la actitud del público podría cambiar.

En cuanto al empleo, reconoce que la IA tendrá un impacto real: algunos trabajos serán realizados mejor por la tecnología y los trabajadores tendrán que desplazarse hacia nuevos puestos. Pero no cree que los humanos se queden sin nada que hacer, porque la colaboración entre personas, la comprensión de las necesidades ajenas y la creación de valor para otros siguen teniendo un atributo social difícil de sustituir.

Altman incluso considera que el impacto actual de la IA en el empleo es menor de lo que esperaba. La tecnología aún no ha eliminado suficientemente el trabajo repetitivo, lo que también puede verse como una muestra de que la industria de la IA no ha cumplido su promesa de productividad.

En cuanto a los creadores, compara la IA generativa con la aparición de la fotografía: la cámara se consideró una amenaza para los pintores, pero después dio lugar a un nuevo medio artístico. Altman prevé que la IA también creará nuevas formas de contenido, y que la relación entre usuarios y creadores dependerá cada vez más del propio creador, y no de si la obra se ha realizado con IA.

Este planteamiento sigue mostrando un claro optimismo tecnológico. La entrevista no resuelve realmente cómo se redistribuirán los ingresos, cómo completarán la transición los trabajadores afectados ni cómo se abordarán las controversias sobre los datos de entrenamiento. La respuesta central de Altman sigue siendo: primero, que el producto genere un valor suficientemente evidente; después, mediante la apertura generalizada de herramientas, que los beneficios se extiendan a más personas y comunidades.

La capacidad de cómputo sigue escaseando, pero ya empiezan a aparecer burbujas

Hace un año, OpenAI recibió amplias críticas por sus enormes inversiones en capacidad de cómputo. Con el aumento de la demanda de modelos y agentes, Altman considera que la apuesta se ha validado, y la empresa incluso necesita iniciar una nueva ronda de expansión de cómputo a nivel técnico.

Su objetivo no es solo seguir invirtiendo capital, sino también reducir el coste de ejecución de la IA, aumentar la eficiencia de los chips y acelerar la construcción de la cadena de suministro y los centros de datos. OpenAI está desarrollando su primer chip de inferencia, Jalapeño, y en el futuro los robots también podrían participar en la construcción de la cadena de suministro y los centros de datos.

Sin embargo, Altman empieza a mostrarse cauto ante la inversión en capacidad de cómputo de todo el sector.

Afirma que algunas empresas emergentes de computación en la nube están prometiendo construir enormes cantidades de cómputo para el próximo año, sin ingresos suficientes ni compradores claros que lo respalden. Ya aparecen «señales absurdas de insostenibilidad». Si OpenAI logra reducir drásticamente el coste de la computación, algunas empresas que han bloqueado recursos a alto coste podrían enfrentarse a presiones financieras.

Por tanto, Altman mantiene la confianza en los compromisos de cómputo de la propia OpenAI, pero no cree que todo el mercado de infraestructura de IA ofrezca rentabilidades razonables. Si la burbuja externa estalla y afecta a la macroeconomía, OpenAI difícilmente podrá quedar al margen.

En cuanto a la posibilidad de vender capacidad de cómputo a otras empresas en el futuro, Altman afirma que no hay planes a corto plazo, porque la propia OpenAI sigue teniendo una grave escasez de recursos de computación. Pero si sus capacidades en chips, robótica, cadena de suministro y centros de datos se convierten en una ventaja, no es del todo imposible que se convierta en proveedor de cómputo.

La RSI se acerca: ¿por qué OpenAI podría retrasar su salida a bolsa?

La capacidad de la IA para participar en el desarrollo de la próxima generación de IA se conoce en el sector como mejora recursiva, o RSI por sus siglas en inglés.

Altman ya afirmó en una carta a los empleados que cuanto más rápido «despegue» la RSI, más ventajoso podría ser retrasar la salida a bolsa. En la entrevista, explica con más detalle este razonamiento.

Salir a bolsa cambia los incentivos a los que se enfrentan la empresa y los empleados: el precio de las acciones, los ingresos trimestrales y las expectativas de resultados entran en las decisiones cotidianas. Si OpenAI necesita pausar el entrenamiento o retrasar un lanzamiento por motivos de seguridad, y ello conlleva una ralentización de los ingresos a corto plazo, el mercado público podría generar una presión adicional.

Altman afirma que hace un año no creía que la superinteligencia fuera a aparecer a corto plazo, pero ahora considera que esa posibilidad ya existe, aunque sin plena certeza. Por tanto, la misión de OpenAI tiene mayor prioridad que salir a bolsa en una fecha concreta.

Esto no significa que la salida a bolsa esté definitivamente aplazada, sino que el progreso técnico se convertirá en una variable importante del calendario. Si las capacidades de los modelos siguen creciendo rápidamente, la condición de empresa privada podría reservar a OpenAI un mayor margen de decisión en materia de seguridad.

Altman también rechaza la lógica de la carrera según la cual «otras empresas también seguirán, así que nosotros no podemos parar». OpenAI no ha pedido esta vez a sus pares que desaceleren de forma sincronizada, sino que ha pausado parte del trabajo según sus propios estándares de seguridad. Considera que el gobierno de Estados Unidos puede probar los modelos de vanguardia y establecer estándares comunes, pero no debe decidir por las empresas qué clientes concretos pueden usar los modelos.

Ante la pregunta de si el gobierno podría impedir que OpenAI lance un producto, Altman responde que confía en que OpenAI decidirá por sí misma no lanzarlo antes de que el gobierno intervenga.

Del software al hardware: OpenAI apuesta por el «ordenador proactivo»

La expansión de OpenAI también llegará al mundo real.

Altman confirma que la empresa «sin duda» desarrollará robots humanoides en el futuro, y que también explorará otras formas adecuadas para escenarios como los centros de datos. La razón del diseño humanoide es bastante directa: las puertas, los ordenadores, los vehículos y las herramientas del mundo real están construidos en torno al cuerpo humano, y un robot con una forma similar puede integrarse más fácilmente en los entornos existentes.

El proyecto más cercano al consumidor es el dispositivo de IA desarrollado por OpenAI en colaboración con Jony Ive.

Altman cree que la IA podría dar lugar a una nueva categoría de dispositivos informáticos que solo aparece cada varias décadas. Las formas que OpenAI está considerando actualmente incluyen un dispositivo de escritorio, un dispositivo de bolsillo y un dispositivo corporal, pero estos productos no se lanzarán simultáneamente.

Afirma claramente que no le gustan las gafas inteligentes, porque le resulta incómodo hablar con personas que llevan cámaras e indicadores luminosos. Por tanto, la hoja de ruta de hardware de OpenAI al menos no replicará simplemente las gafas de IA actuales más extendidas.

Más allá de la forma concreta, el cambio mayor es el «ordenador proactivo». Los futuros dispositivos podrían comprender de forma continua el entorno, la información del usuario y lo que está sucediendo, y ofrecer ayuda de forma proactiva, sin esperar a que el usuario abra aplicaciones e introduzca instrucciones.

Este modelo plantea también problemas de privacidad más acuciantes. Un dispositivo capaz de ver el ordenador, leer mensajes y percibir continuamente el entorno podría generar una base de datos de información personal extremadamente completa.

Altman defiende la creación de un «privilegio de confidencialidad de la IA» similar al secreto médico o al privilegio abogado-cliente: el gobierno no debería exigir arbitrariamente a las empresas que entreguen los historiales de chat de los usuarios con la IA, y el uso de los datos de la IA por parte de las empresas también debería estar estrictamente limitado. Reconoce que, a medida que se acerque el lanzamiento de dispositivos de computación ambiental, OpenAI tendrá que publicar nuevas tecnologías de privacidad y medidas de control.

En cuanto a la demanda presentada por Apple por supuesta apropiación de talento y secretos comerciales, Altman afirma que, tras una investigación interna, OpenAI considera que los empleados implicados no cometieron irregularidades, por lo que no espera que la demanda retrase el desarrollo del dispositivo.

La seguridad y la alineación se convierten en la nueva restricción de crecimiento de OpenAI

Cuando se le pregunta por el mayor riesgo al que se enfrenta OpenAI en los próximos 12 meses, Altman no elige la competencia, la financiación ni la capacidad de cómputo, sino «equivocarse en seguridad, alineación y protección».

Esta frase resume la contradicción central de toda la entrevista.

OpenAI considera que las capacidades de los modelos están entrando en una nueva fase de aceleración: Astra puede usar ordenadores a un nivel casi humano, los agentes pueden trabajar de forma continua, la IA empieza a participar en la investigación científica y el desarrollo de modelos, y la superinteligencia pasa de ser un concepto lejano a una posibilidad para la que la dirección debe prepararse con antelación.

Al mismo tiempo, la fuga del modelo del sandbox demuestra que el aumento de capacidades no conlleva automáticamente la comprensión de las intenciones humanas. Cuanto más capaz sea el modelo de planificar de forma autónoma e invocar herramientas, más probable es que se amplifiquen las desviaciones en el establecimiento de objetivos.

OpenAI no se ha detenido. Sigue construyendo más capacidad de cómputo, impulsando nuevos modelos, fusionando ChatGPT y Codex, y entrando en los ámbitos de los chips, la robótica y el hardware de consumo. Pero, a juzgar por esta entrevista, la seguridad y la alineación han empezado a convertirse, al igual que la capacidad de cómputo, en condiciones reales que limitan la velocidad de la investigación de vanguardia.

Que Astra pueda lanzarse según lo previsto es solo la cuestión inmediata. Lo que merece más atención es si, cuando llegue el próximo salto de capacidades, OpenAI podrá seguir pisando el freno de forma proactiva, y si ese mecanismo podrá soportar la presión conjunta de la competencia, los ingresos y el mercado de capitales.