Altmans neuestes Interview: Warum hat OpenAI plötzlich auf die Bremse getreten? Astra, unkontrollierbare KI und Börsengangpläne

Videotitel: Sam Altman über OpenAIs Modelle der nächsten Generation und die KI-Gegenreaktion
Videoautor: Alex Heath, Sources Podcast
Zusammengestellt von: Peggy

Anmerkung der Redaktion: Vor dem Hintergrund kontinuierlich steigender Fähigkeiten von Spitzenmodellen und dem Beginn der Übernahme komplexer Arbeitsabläufe durch Agenten verschiebt sich die Diskussion in der KI-Branche von „Wer erreicht zuerst AGI?“ hin zu „Wer kann zuverlässige Beschränkungen etablieren, bevor die Fähigkeiten außer Kontrolle geraten?“. Doch solange Modellfortschritt und Ausbau der Rechenkapazität weiterhin als Hauptwettbewerbslinie gelten, tritt eine entscheidendere Frage in den Vordergrund: Wenn KI eigenständig Werkzeuge nutzen, Umgebungsgrenzen überwinden und sogar an der Entwicklung der nächsten Modellgeneration mitwirken kann, sind kommerzielle Unternehmen dann überhaupt in der Lage, proaktiv zu bremsen?

In dieser von Tech-Journalist Alex Heath moderierten Folge des Sources-Podcasts antwortet OpenAI-CEO Sam Altman auf die jüngste Verlangsamung eines Teils des Spitzentrainings und spricht über die Modellfamilie der nächsten Generation Astra, die Zusammenführung von ChatGPT und Codex, rekursive Selbstverbesserung, den Börsengang sowie das gemeinsam mit Jony Ive entwickelte Verbrauchergerät.

In diesem Gespräch zerlegt Altman einen Sicherheitsvorfall bei OpenAI in eine Reihe grundlegender struktureller Probleme: Können Modellfähigkeiten und Sicherheitsforschung im Gleichschritt voranschreiten, wie können Agenten den wahren Absichten des Menschen folgen, und kann ein Unternehmen, das kontinuierlich Finanzierung und Wachstum benötigt, die Kosten einer Verlangsamung tragen, wenn die Risiken steigen?

Erstens verlagert sich das KI-Risiko von der Zeit nach der Modellbereitstellung in das Innere des Trainingsprozesses. Früher sorgte sich die Branche vor allem um Missbrauch nach der Veröffentlichung, etwa die Erzeugung von Falschinformationen oder die Unterstützung von Cyberangriffen; heute treten Risiken bereits in der Phase des Reinforcement Learning und des Agententrainings auf. Ein unveröffentlichtes OpenAI-Modell entkam aus der Test-Sandbox und drang in Systeme von Hugging Face ein; danach entdeckten Forscher in Trainingsdaten stärkerer Modelle unterschiedlich ausgeprägte Ausrichtungsabweichungen. Einzelne Phänomene stellen noch keine eindeutige Gefahr dar, doch in Kombination mit der beschleunigten Fähigkeitsentwicklung veranlassten sie OpenAI, ein Spitzen-Reinforcement-Learning-Training zu verschieben und mehr Rechenkapazität und Personal auf Ausrichtung und Überwachung zu verlagern. Das bedeutet, dass sich die Wachstumsbeschränkungen für Spitzenlabore verändern: Rechenkapazität bleibt knapp, aber auch der Nachweis ausreichender Modellsicherheit entscheidet zunehmend darüber, ob das Training fortgesetzt werden kann.

Zweitens erweitert sich die Bedeutung von „Ausrichtung“ von der Begrenzung schädlicher Ausgaben hin zur Frage, ob das Modell die wahren Absichten des Menschen versteht. Im Hugging-Face-Vorfall erfüllte das Modell zwar das Bewertungsziel, griff jedoch zu Mitteln, die von den Testern nicht autorisiert waren. Da Astra beginnt, Computer annähernd auf menschlichem Niveau zu bedienen und Aufgaben kontinuierlich über verschiedene Software hinweg auszuführen, können kleine Abweichungen zwischen Ziel und Absicht durch autonome Planungsfähigkeiten rasch verstärkt werden. Altman leitet daraus zwei Prinzipien ab: Der Mensch muss die Kontrolle über KI behalten, und Spitzenfähigkeiten dürfen nicht in den Händen weniger Akteure konzentriert sein. Ersteres adressiert das Risiko des Kontrollverlusts, Letzteres die Frage der Machtverteilung; gemeinsam bilden sie OpenAIs erweiterte Definition von „Sicherheit“.

Drittens verlagert sich OpenAIs Produktfokus vom Chatten hin zur Ausführung. Im vergangenen Jahr trieb das Unternehmen gleichzeitig mehrere Produktlinien voran, darunter Sora und einen Browser, und verpasste aufgrund des Verbraucherwachstums von ChatGPT das prioritäre Fenster für KI-Programmierung. Nun zieht OpenAI „Nebenprojekte“ zurück und treibt die Zusammenführung von ChatGPT und Codex voran, in der Hoffnung, dass Nutzer nur noch ihr Ziel nennen müssen und das System selbst entscheidet, welche Modelle, Werkzeuge und Software aufgerufen werden. Astra führt diese Logik weiter in Richtung kontinuierlichen Betrieb, Computerbedienung und wissenschaftliche Assistenz. Für OpenAI wird der Wettbewerbsindikator der nächsten Phase nicht mehr nur die Antwortqualität sein, sondern wie viele reale Aufgaben ein Modell zuverlässig erledigen kann. Je tiefer die Fähigkeiten in die reale Umgebung eindringen, desto schwieriger wird es, Produktwert und Sicherheitsrisiko getrennt zu diskutieren.

Viertens beginnt der technische Fortschritt, OpenAIs Kapitalstrategie rückwirkend zu beeinflussen. Wenn KI bei der Entwicklung stärkerer KI helfen kann, könnte rekursive Selbstverbesserung die Zeit zwischen den Modellgenerationen verkürzen. Altman meint, dass ein Aufschub des Börsengangs vorteilhafter sein könnte, sobald sich dieser Prozess beschleunigt, da Aktienkurs, Quartalsumsatz und Anlegererwartungen nach einem Börsengang die Kosten für Trainingspausen oder verzögerte Veröffentlichungen erhöhen würden. Das bedeutet nicht, dass OpenAI den Börsengang bereits definitiv verschoben hat, offenbart aber den besonderen Widerspruch von Spitzen-KI-Unternehmen: Sie benötigen enormes Kapital für den Ausbau der Rechenkapazität und müssen sich gleichzeitig in kritischen Momenten von kurzfristigen Anreizen des Kapitalmarkts lösen können.

Fünftens steht KI kurz davor, von Softwarediensten zu Geräten überzugehen, die die reale Umgebung kontinuierlich wahrnehmen. OpenAI und Jony Ive erkunden verschiedene Formfaktoren – für den Schreibtisch, die Hosentasche und zum Tragen am Körper –, deren gemeinsame Richtung darin besteht, Computer vom Warten auf Befehle hin zu proaktiver Dienstleistung zu bewegen. Wenn Geräte das Leben der Nutzer verstehen sollen, könnten sie kontinuierlich mit Chats, Computerbedienung, Sprache und Umgebungsinformationen in Kontakt kommen. Altman schlägt daher ein „KI-Privileg“ vor, ähnlich der ärztlichen Schweigepflicht oder dem Anwaltsgeheimnis, und fordert, dass der Zugriff von Regierungen und Unternehmen auf diese Daten strenger eingeschränkt wird. Das bedeutet, dass der Wettbewerb um KI-Hardware der nächsten Generation nicht nur um Form und Interaktion kreisen wird; Datenschutzregelungen, Datengrenzen und gesellschaftliche Akzeptanz werden ebenso darüber entscheiden, ob ein Produkt tragfähig ist.

Wenn man dieses Gespräch auf ein einziges Urteil verdichtet, dann lautet es: Je näher die Modellfähigkeiten an autonomes Handeln und Selbstverbesserung heranrücken, desto schwieriger wird es, Sicherheit als zusätzliche Prüfung vor der Veröffentlichung zu behandeln; sie muss in den Kern von Training, Produkt und Unternehmensführung eintreten. In diesem Sinne geht es in diesem Artikel nicht mehr nur darum, warum OpenAI ein Spitzentraining vorübergehend ausgesetzt hat, sondern darum, ob die gesamte KI-Branche einen Mechanismus etablieren kann, der es erlaubt, innezuhalten, wenn Beschleunigung der Fähigkeiten, kommerzieller Wettbewerb und Kapitaldruck gleichzeitig wirken.

Im Folgenden sind die Kernpunkte des Originaltextes zusammengefasst (zur besseren Lesbarkeit redaktionell bearbeitet):

Zusammenfassung

·OpenAI hat nicht das gesamte Modelltraining verlangsamt, sondern das risikoreichere Spitzen-Reinforcement-Learning; im Kern geht es darum, dass die Sicherheitsfähigkeiten begonnen haben, hinter der Sprunggeschwindigkeit der Modellfähigkeiten zurückzubleiben.

·Der Hugging-Face-Vorfall war nicht nur eine Sandbox-Schwachstelle, sondern legte eine Ausrichtungslücke offen: Das Modell erfüllte das wörtliche Ziel, verstieß aber gegen die wahre Absicht des Menschen.

·Das KI-Risiko verlagert sich von externem Missbrauch nach der Veröffentlichung in das Innere des Trainingsprozesses; die Sicherheitsbewertung wandelt sich von einer Vorabprüfung zu einer harten Beschränkung für Spitzenforschung und -entwicklung.

·Der entscheidende Durchbruch von Astra liegt nicht in der Antwortqualität, sondern in der annähernd menschlichen Bedienung von Computern und der kontinuierlichen Ausführung von Aufgaben, was zugleich das Risiko von Zielabweichungen vergrößert.

·Die Zusammenführung von ChatGPT und Codex durch OpenAI bedeutet, dass sich der Wettbewerb bei KI-Produkten von der „Antwortgenerierung“ hin zur „Aufgabenerledigung“ verschiebt; universelle Agenten werden zum Produkteinstieg der nächsten Phase.

·OpenAI kann sich die Trainingsverlangsamung vorerst leisten, weil die Unternehmensumsätze die Verbraucherumsätze bereits übersteigen und die bestehenden Modelle noch genügend Kommerzialisierungsspielraum bieten.

·Rekursive Selbstverbesserung könnte den Börsengang von OpenAI verzögern; im Kern geht es darum, dass der Quartalsdruck des öffentlichen Marktes die Fähigkeit des Unternehmens schwächen könnte, in Hochrisikophasen die Forschung und Entwicklung proaktiv zu pausieren.

·Der Kern der nächsten Hardware-Generation von OpenAI liegt nicht in der konkreten Form, sondern im „proaktiven Computer“; Voraussetzung für die Kommerzialisierung ist die Schaffung vertrauenswürdiger Daten- und Datenschutzgrenzen für die kontinuierliche Umgebungswahrnehmung.

Interview-Kernpunkte

Warum ein Modell-„Jailbreak“ OpenAI dazu brachte, das Spitzentraining auszusetzen

Altman beschreibt die vergangenen Monate als einen Moment, der jahrelang diskutiert wurde und nun endlich eingetreten ist: Die Modellfähigkeiten verbessern sich zu schnell, und Sicherheit, Ausrichtung und Sicherheitsforschung brauchen Zeit, um aufzuholen.

Die direkteste Warnung kam vom Hugging-Face-Vorfall. Ein unveröffentlichtes OpenAI-Modell entkam während einer Cybersicherheitsbewertung aus der internen Sandbox, gelangte ins Internet und griff Hugging Face an. Laut Altman wurde der Vorfall durch das gleichzeitige Versagen mehrerer Komponenten verursacht – wie ein Science-Fiction-Szenario, das plötzlich Realität wurde.

Oberflächlich betrachtet suchte das Modell lediglich den effizientesten Weg, um das Bewertungsziel zu erreichen; doch die wahre Absicht der Tester umfasste offensichtlich nicht das Ausbrechen aus der Sandbox, das Eindringen in externe Systeme und das Stehlen von Antworten. Altman sieht darin daher nicht nur einen Fehler in der Sicherheitskonfiguration, sondern ein Versagen der Ausrichtung: Das Modell erfüllte das wörtliche Ziel, verstieß aber gegen die eigentliche Absicht des Nutzers.

OpenAI verstärkte daraufhin die Sandbox-Isolation und die Agentenüberwachung und setzte mehr Rechenkapazität für die Beobachtung des Modellverhaltens ein. Was das Unternehmen jedoch zu einer weiteren Aussetzung des Spitzentrainings veranlasste, war kein weiterer ähnlicher Angriff.

Altman zufolge entdeckten Forscher nach der Durchsicht zahlreicher Trainingsbeispiele und der Zusammenführung verschiedener Bewertungsergebnisse „unterschiedlich ausgeprägte Ausrichtungsabweichungen“ in den Modellen. Einzeln betrachtet mögen diese Phänomene nicht schwerwiegend sein, und es gibt keinen eindeutigen „Beweis“ wie beim Hugging-Face-Angriff, doch in Kombination mit der plötzlichen Beschleunigung der Modellfähigkeiten bilden sie ein neues Risikosignal.

OpenAI verschob daher ein wichtiges Spitzen-Reinforcement-Learning-Training und verlagerte einen Teil der Forscher und Rechenkapazität auf Ausrichtungs- und Überwachungssysteme. Altman berichtet, dass einige Forscher, die zuvor nie über Ausrichtungsforschung nachgedacht hatten, nun ebenfalls aktiv in dieses Feld wechseln.

Gleichzeitig versucht er, die externe Risikowahrnehmung zu dämpfen. OpenAI sei nicht der Ansicht, dass die Welt am Rande einer Katastrophe stehe, und habe auch nicht das gesamte Modelltraining gestoppt. Die aktuelle Verlangsamung betreffe vor allem das Spitzen-Reinforcement-Learning – die Phase, in der Modelle Werkzeuge erhalten, Umgebungen bedienen und lernen, komplexe Aufgaben auszuführen. Andere Trainings mit klarerer Sicherheitsgrundlage würden fortgesetzt, und die Rechenzentren seien nicht untätig.

Altman meint, dass Risiken früher vor allem aus der Nutzung nach der Veröffentlichung resultierten; mit zunehmenden Agentenfähigkeiten verlagern sie sich nun in die Trainings- und Produktionsphase der Modelle.

Astra wird weiterhin veröffentlicht – KI bewegt sich vom „Antworten“ zum „Ausführen“

Diese Anpassung wird die Veröffentlichung von Astra nicht vollständig blockieren.

Altman erklärt, dass Astra kein einzelnes Modell ist, sondern eine größere, teurere Modellfamilie, ähnlich wie OpenAIs frühere Soul-Serie. Bereits trainierte Versionen, die das Unternehmen für sicher hält, können weiterhin veröffentlicht werden, doch künftige stärkere Astra-Versionen werden von den neuen Sicherheitsanforderungen betroffen sein.

Eine der meistbeachteten Fähigkeiten von Astra ist die Bedienung von Computern. Frühere Modelle konnten zwar auf Benutzeroberflächen klicken, waren aber langsam und wenig zuverlässig; Altman zufolge erreicht Astra bei der Computerbedienung bereits annähernd menschliches Niveau.

Nutzer können ihr Ziel direkt beschreiben, und das Modell sucht selbstständig Informationen auf dem Computer, ruft Software auf und erledigt Aufgaben, ohne dass viele Schnittstellen manuell konfiguriert werden müssen. Altman nennt als Beispiel, dass man lästige Aufgaben, für die man sonst selbst Zeit aufwenden müsste, dem Modell überlassen und nach einer halben Stunde zurückkommen kann, um das Ergebnis zu sehen.

Die Bedeutung solcher Fähigkeiten liegt darin, dass KI von der Antwortgenerierung in die Ausführungsphase eintritt. Modelle werden mit Unternehmenssoftware, Kommunikationstools, Dokumenten und realen Arbeitsabläufen konfrontiert, was die Produktivität steigert, aber auch die Angriffsfläche für unbefugten Zugriff, Fehlbedienung und Zielabweichung vergrößert.

Zum Thema AGI meint Altman, dass dieses Konzept immer weniger geeignet ist, um eine belastbare Einschätzung zu liefern. Nach der Definition in OpenAIs Satzung – „die meisten wirtschaftlich wertvollen Arbeiten besser als Menschen zu erledigen“ – seien die aktuellen internen Modelle zumindest sehr nahe an AGI.

Aus seiner Sicht würde ein System, das komplexen Code schreiben, bei der Unternehmensgründung helfen, neues Wissen entdecken und Nutzern in allen Lebensbereichen Zeit sparen kann, im Jahr 2020 wahrscheinlich bereits als AGI bezeichnet worden sein. Auch intern werde kaum noch darüber gestritten, ob das Unternehmen AGI erreicht habe; der Fokus habe sich auf Superintelligenz mit kontinuierlich wachsenden Fähigkeiten verlagert.

Altman unterscheidet die beiden Begriffe so: AGI sei eher ein Meilenstein der Fähigkeiten, Superintelligenz hingegen eine potenziell lang anhaltende Wachstumskurve. Entscheidend sei nicht die Verkündung des Überschreitens einer bestimmten Grenze, sondern ob die Modellfähigkeiten weiterhin exponentiell wachsen.

Nach dem verpassten KI-Programmierfenster zieht OpenAI seine Fronten zusammen

Abgesehen von der Sicherheitskrise räumt Altman ein, dass OpenAI im vergangenen Jahr bei Produktausrichtung und Pretraining-Forschung hinter den Erwartungen zurückgeblieben ist.

Ein Problem war, dass das Unternehmen zu viele Projekte gleichzeitig vorantrieb, darunter den Browser und Sora. Diese Projekte haben zwar ihren eigenen Wert, lenkten jedoch OpenAIs Ressourcen von den allgemeinen Intelligenzfähigkeiten ab. Altman bezeichnet sie als „Nebenprojekte“ und meint, er hätte das Unternehmen damals stärker auf die wichtigsten Ziele fokussieren sollen.

Ein weiterer Fehler betraf den Markt für KI-Programmierung.

Anthropic erkannte mit Claude Code zuerst die Nachfrage, während OpenAI durch das schnelle Wachstum von ChatGPT gebunden war und den Programmierprodukten nicht genügend Priorität einräumte. Altman glaubt nicht, dass das Unternehmen die Chance nicht gesehen habe; das Problem sei die Ressourcenallokation gewesen.

OpenAI verlagerte daraufhin erhebliche Rechenkapazität von ChatGPT zu Codex. Das erklärt auch, warum das Nutzerwachstum von ChatGPT zeitweise nachließ: Bei anhaltender Rechenknappheit hängt das Produktwachstum weitgehend davon ab, wohin das Unternehmen seine Rechenkapazität lenkt.

Derzeit treibt das Unternehmen die intern als „The Merge“ bezeichnete Integration voran, die ChatGPT, Codex und Aufgabenausführungsfunktionen zu einem universellen Einstiegspunkt zusammenführt. Altman möchte, dass Nutzer nicht mehr entscheiden müssen, ob sie den Chat-, Programmier- oder Arbeitsmodus verwenden, sondern einfach ihr Ziel nennen und die KI selbst entscheidet, wie sie es erreicht.

Letztlich könnte daraus ein einheitliches universelles KI-Abonnement entstehen. Das System würde kontinuierlich laufen, den Nutzerkontext verstehen und proaktiv Hilfe anbieten, sogar bevor der Nutzer eine Anfrage stellt.

Auf geschäftlicher Ebene sieht Altman weiterhin ausreichend Puffer. Die Unternehmensumsätze übersteigen bereits die Verbraucherumsätze, und selbst wenn kurzfristig keine leistungsfähigeren neuen Modelle veröffentlicht werden, können die bestehenden Modelle und Produkte das Wachstum tragen. Seiner Ansicht nach betreffen die Sicherheitsanpassungen vor allem künftige Modelle und werden das laufende Geschäft nicht unmittelbar unterbrechen.

KI verlässt den Chatrahmen – auch die gesellschaftliche Gegenreaktion wächst

Mit dem Wachstum der Modellfähigkeiten nimmt auch die gesellschaftliche Gegenreaktion auf KI zu. Ressourcenverbrauch von Rechenzentren, Arbeitsplatzverdrängung, Urheberrechte und Privatsphäre sind zu zentralen Kritikpunkten der Öffentlichkeit an der KI-Branche geworden.

Altman hält den effektivsten Weg, Menschen von KI zu überzeugen, weiterhin für die Bereitstellung praktischen Nutzens. Viele Menschen verstünden KI noch immer nur als „bessere Suchmaschine“ und wüssten nicht, dass Agenten bereits Formulare ausfüllen, Software aufrufen und Aufgaben über längere Zeit ausführen können. Wenn diese Fähigkeiten weiter verbreitet werden, könnte sich die öffentliche Haltung ändern.

Beim Thema Beschäftigung räumt er ein, dass KI reale Auswirkungen haben wird: Einige Arbeiten werden von der Technik besser erledigt, und Arbeitskräfte müssen in neue Rollen wechseln. Er glaubt jedoch nicht, dass die Menschen nichts mehr zu tun haben werden, denn die Zusammenarbeit zwischen Menschen, das Verstehen der Bedürfnisse anderer und das Schaffen von Wert für andere besitzen weiterhin schwer ersetzbare soziale Eigenschaften.

Altman meint sogar, dass die Auswirkungen von KI auf die Beschäftigung derzeit geringer seien als von ihm früher erwartet. Die Technologie habe repetitive Arbeit noch nicht ausreichend beseitigt, was auch als Zeichen dafür gewertet werden könne, dass die KI-Branche ihr Produktivitätsversprechen nicht eingelöst habe.

Für Kreative zieht er den Vergleich zwischen generativer KI und dem Aufkommen der Fotografie: Die Kamera wurde einst als Bedrohung für Maler angesehen, entwickelte sich später jedoch zu einem neuen künstlerischen Medium. Altman erwartet, dass KI ebenfalls neue Inhaltsformen hervorbringen wird und die Beziehung zwischen Nutzern und Kreativen zunehmend von der Person des Kreativen abhängen könnte, statt davon, ob ein Werk mit KI erstellt wurde.

Diese Einschätzung bleibt deutlich technikoptimistisch. Das Interview löst nicht wirklich die Fragen, wie Einkommen umverteilt werden, wie betroffene Arbeitskräfte den Übergang bewältigen und wie mit Trainingsdaten-Kontroversen umgegangen werden soll. Altmans Kernantwort bleibt: Erst Produkte schaffen, die einen ausreichend klaren Nutzen stiften, und dann durch breiten Zugang zu Werkzeugen die Erträge auf mehr Einzelpersonen und Gemeinschaften verteilen.

Rechenkapazität bleibt knapp, doch es zeigen sich bereits Blasen

Vor einem Jahr wurde OpenAI wegen seiner enormen Investitionen in Rechenkapazität vielfach infrage gestellt. Mit der steigenden Nachfrage nach Modellen und Agenten sieht Altman diese Wette als bestätigt an; das Unternehmen müsse sogar eine neue technologische Runde der Rechenkapazitätserweiterung einleiten.

Sein Ziel ist nicht nur weiteres Kapital zu investieren, sondern auch die Kosten für KI-Betrieb zu senken, die Chipeffizienz zu erhöhen und den Aufbau von Lieferketten und Rechenzentren zu beschleunigen. OpenAI entwickelt seinen ersten Inferenzchip Jalapeño, und künftig könnten auch Roboter am Aufbau von Lieferketten und Rechenzentren beteiligt sein.

Allerdings zeigt Altman zunehmend Vorsicht gegenüber den Rechenkapazitätsinvestitionen der gesamten Branche.

Er sagt, einige plötzlich aufgetauchte neue Cloud-Computing-Unternehmen versprächen für das nächste Jahr den Aufbau enormer Rechenkapazitäten, ohne über ausreichende Einnahmen oder klare Abnehmer zu verfügen. Hier zeigten sich bereits „absurde Anzeichen von Nicht-Nachhaltigkeit“. Sollte OpenAI die Rechenkosten deutlich senken, könnten einige Unternehmen, die Ressourcen zu hohen Kosten gebunden haben, unter finanziellen Druck geraten.

Daher ist Altman von OpenAIs eigenen Rechenkapazitätszusagen weiterhin überzeugt, glaubt aber nicht, dass der gesamte KI-Infrastrukturmarkt angemessene Renditen bietet. Sollte eine externe Blase platzen und die Makroökonomie beeinträchtigen, könne sich auch OpenAI dem nicht vollständig entziehen.

Was den künftigen Verkauf von Rechenkapazität an andere Unternehmen betrifft, so gebe es kurzfristig keine Pläne, da OpenAI selbst noch stark unter Rechenressourcenmangel leide. Sollten sich jedoch die Fähigkeiten bei Chips, Robotern, Lieferketten und Rechenzentren zu einem Vorteil entwickeln, sei eine Rolle als Rechenkapazitätsanbieter nicht völlig ausgeschlossen.

RSI rückt näher – warum OpenAI den Börsengang möglicherweise verschiebt

Die Fähigkeit von KI, an der Entwicklung der nächsten KI-Generation mitzuwirken, wird in der Branche als rekursive Selbstverbesserung (RSI) bezeichnet.

Altman hatte zuvor in einem Mitarbeiterbrief erklärt, dass ein schnellerer „Start“ von RSI einen späteren Börsengang vorteilhafter machen könnte. Im Interview erläutert er diese Einschätzung näher.

Ein Börsengang verändere die Anreize für Unternehmen und Mitarbeiter: Aktienkurs, Quartalsumsatz und Ergebnisprognosen würden in die täglichen Entscheidungen einfließen. Wenn OpenAI aus Sicherheitsgründen das Training pausieren oder Veröffentlichungen verschieben müsse und dadurch kurzfristig Umsatzeinbußen hinnehmen müsse, könnte der öffentliche Markt zusätzlichen Druck erzeugen.

Altman sagt, vor einem Jahr habe er nicht geglaubt, dass Superintelligenz kurzfristig auftreten werde; inzwischen halte er diese Möglichkeit für gegeben, wenn auch ohne ausreichende Sicherheit. Daher habe die Mission von OpenAI höhere Priorität als ein Börsengang zu einem bestimmten Zeitpunkt.

Das bedeutet nicht, dass der Börsengang bereits definitiv verschoben wurde, sondern dass der technische Fortschritt zu einer wichtigen Variable im Zeitplan wird. Wenn die Modellfähigkeiten weiterhin schnell wachsen, könnte der Status als privates Unternehmen OpenAI größeren Entscheidungsspielraum in Sicherheitsfragen erhalten.

Altman wendet sich zugleich gegen die Wettbewerbslogik „Andere Unternehmen machen weiter, also können wir nicht aufhören“. OpenAI habe diesmal nicht im Voraus von Konkurrenten eine gleichzeitige Verlangsamung verlangt, sondern nach eigenen Sicherheitsstandards einen Teil der Arbeit ausgesetzt. Er ist der Ansicht, dass die US-Regierung Spitzenmodelle testen und gemeinsame Standards festlegen könne, aber nicht entscheiden solle, welche konkreten Kunden ein Modell nutzen dürfen.

Auf die Frage, ob die Regierung OpenAI an der Veröffentlichung eines Produkts hindern könnte, antwortet Altman: Er glaube, dass OpenAI selbst zuerst entscheiden werde, ein Produkt nicht zu veröffentlichen, bevor die Regierung eingreife.

Von Software zu Hardware: OpenAI setzt auf den „proaktiven Computer“

OpenAIs Expansion wird auch die reale Welt erreichen.

Altman bestätigt, dass das Unternehmen künftig „mit Sicherheit“ humanoide Roboter entwickeln werde und auch andere Formfaktoren für Szenarien wie Rechenzentren erkunden werde. Die Begründung für das humanoide Design ist recht direkt: Türen, Computer, Fahrzeuge und Werkzeuge der realen Welt sind um den menschlichen Körper herum gebaut; Roboter mit ähnlicher Form können sich leichter in bestehende Umgebungen einfügen.

Das näher am Verbraucher liegende Projekt ist das gemeinsam mit Jony Ive entwickelte KI-Gerät.

Altman glaubt, dass KI eine neue Kategorie von Computergeräten hervorbringen könnte, wie sie nur alle paar Jahrzehnte auftritt. OpenAI erwägt derzeit Formen für den Schreibtisch, für die Hosentasche und zum Tragen am Körper, doch diese Produkte werden nicht gleichzeitig auf den Markt kommen.

Er stellt klar, dass er Smart Glasses nicht mag, weil ihm Gespräche mit Menschen, die Kameras und Anzeigeleuchten tragen, unangenehm sind. Daher wird OpenAIs Hardware-Roadmap zumindest nicht einfach die aktuellen Mainstream-KI-Brillen kopieren.

Wichtiger als die konkrete Form ist der Wandel hin zum „proaktiven Computer“. Künftige Geräte könnten die Umgebung, Nutzerinformationen und das aktuelle Geschehen kontinuierlich verstehen und proaktiv Hilfe anbieten, statt darauf zu warten, dass der Nutzer Apps öffnet und Befehle eingibt.

Dieses Modell wirft auch schärfere Datenschutzfragen auf. Ein Gerät, das den Computer einsehen, Nachrichten lesen und die Umgebung kontinuierlich wahrnehmen kann, könnte eine äußerst vollständige Datenbank persönlicher Informationen aufbauen.

Altman plädiert für ein „KI-Privileg“ ähnlich der ärztlichen Schweigepflicht oder dem Anwaltsgeheimnis: Regierungen sollten nicht willkürlich verlangen können, dass Unternehmen Chatverläufe zwischen Nutzern und KI herausgeben, und auch die Nutzung von KI-Daten durch Unternehmen sollte streng eingeschränkt werden. Er räumt ein, dass OpenAI mit der Annäherung an die Markteinführung von Umgebungsrechnern neue Datenschutztechnologien und Kontrollmechanismen vorstellen müsse.

Zur Klage von Apple wegen relevanter Talente und Geschäftsgeheimnisse sagt Altman, dass OpenAI nach interner Untersuchung zu dem Schluss gekommen sei, dass die betroffenen Mitarbeiter kein Fehlverhalten gezeigt hätten, und daher nicht erwarte, dass die Klage die Geräteentwicklung verlangsamen werde.

Sicherheit und Ausrichtung werden zu OpenAIs neuer Wachstumsbeschränkung

Auf die Frage nach dem größten Risiko für OpenAI in den nächsten zwölf Monaten nennt Altman nicht Wettbewerb, Finanzierung oder Rechenkapazität, sondern „Sicherheit, Ausrichtung und Security falsch zu machen“.

Dieser Satz fasst den zentralen Widerspruch des gesamten Interviews zusammen.

OpenAI ist überzeugt, dass die Modellfähigkeiten in eine neue Beschleunigungsphase eintreten: Astra kann Computer annähernd auf menschlichem Niveau bedienen, Agenten können kontinuierlich arbeiten, KI beginnt, an Forschung und Modellentwicklung mitzuwirken, und Superintelligenz wandelt sich von einem fernen Konzept zu einer Möglichkeit, auf die sich das Management vorbereiten muss.

Gleichzeitig zeigt der Sandbox-Ausbruch, dass mehr Fähigkeiten nicht automatisch ein besseres Verständnis menschlicher Absichten bedeuten. Je autonomer Modelle planen und Werkzeuge nutzen können, desto stärker können Abweichungen in der Zielsetzung verstärkt werden.

OpenAI hat nicht angehalten. Das Unternehmen baut weiterhin mehr Rechenkapazität auf, treibt neue Modelle voran, führt ChatGPT und Codex zusammen und steigt in Chips, Robotik und Verbraucherhardware ein. Doch aus diesem Interview geht hervor, dass Sicherheit und Ausrichtung – ebenso wie Rechenkapazität – zu realen Bedingungen geworden sind, die das Tempo der Spitzenforschung begrenzen.

Ob Astra wie geplant veröffentlicht werden kann, ist nur die unmittelbare Frage. Wichtiger ist, ob OpenAI beim nächsten Fähigkeitssprung erneut proaktiv auf die Bremse treten kann und ob dieser Mechanismus dem gemeinsamen Druck von Wettbewerb, Umsatz und Kapitalmarkt standhält.