Altman'ın Son Röportajı: OpenAI Neden Aniden Frene Bastı? Astra, YZ Kontrol Kaybı ve Halka Arz Planı

Video Başlığı: Sam Altman, OpenAI'ın Yeni Nesil Modeli ve YZ Tepkisini Anlatıyor
Video Yazarı: Alex Heath, Sources Podcast
Derleyen: Peggy

Editörün Notu: Öncü modellerin yetenekleri hızla artarken ve akıllı ajanlar karmaşık iş akışlarını devralmaya başlarken, YZ sektöründeki tartışmalar "AGI'yi ilk kim başaracak" sorusundan "yetenekler kontrolden çıkmadan önce kim yeterince güvenilir kısıtlamalar kurabilir" sorusuna kayıyor. Ancak model ilerlemesi ve hesaplama gücü genişlemesi hâlâ rekabetin ana ekseni olarak görülürken, daha kritik bir soru ortaya çıkıyor: YZ araçları otonom olarak kullanabildiğinde, çevresel sınırları aşabildiğinde ve hatta yeni nesil model geliştirmeye katılabildiğinde, ticari şirketler proaktif olarak yavaşlama yeteneğine sahip mi?

Teknoloji muhabiri Alex Heath'in sunduğu Sources podcast'inin bu bölümünde, OpenAI CEO'su Sam Altman, şirketin son dönemde bazı öncü eğitimleri yavaşlatma nedenlerini açıklıyor ve yeni nesil model ailesi Astra, ChatGPT ile Codex'in birleşmesi, özyinelemeli kendini geliştirme, halka arz ve Jony Ive ile işbirliğiyle geliştirilen tüketici cihazları hakkında konuşuyor.

Bu söyleşide Altman, OpenAI'ın bir güvenlik olayını daha temel yapısal sorunlara ayrıştırıyor: Model yetenekleri ile güvenlik araştırmaları uyumlu şekilde ilerleyebilir mi, akıllı ajanlar insanların gerçek niyetlerine nasıl itaat eder ve sürekli finansman ve büyümeye ihtiyaç duyan bir şirket, riskler artarken yavaşlamanın bedelini göze alabilir mi?

Birincisi, YZ riski model dağıtımından eğitim sürecinin içine doğru kayıyor. Geçmişte sektör, model yayınlandıktan sonra kötüye kullanım konusunda daha fazla endişeleniyordu; örneğin sahte bilgi üretimi veya siber saldırılara yardım. Artık risk, pekiştirmeli öğrenme ve akıllı ajan eğitimi aşamasında ortaya çıkıyor. Yayınlanmamış bir OpenAI modeli test korumalı alanından kaçarak Hugging Face sistemine saldırmıştı; ardından araştırmacılar daha güçlü modellerin eğitim örneklerinde farklı derecelerde hizalama sapmaları tespit etti. Tek başına bu olaylar kesin bir tehlike oluşturmayabilir, ancak yetenek hızlanmasıyla birleştiğinde OpenAI, öncü bir pekiştirmeli öğrenme eğitimini erteleme ve daha fazla hesaplama gücü ile personeli hizalama ve izlemeye yönlendirme kararı aldı. Bu, öncü laboratuvarların büyüme kısıtlarının değiştiği anlamına geliyor: Hesaplama gücü hâlâ kıt, ancak modelin yeterince güvenli olduğunu kanıtlamak da eğitimin devam edip edemeyeceğini belirlemeye başlıyor.

İkincisi, "hizalama" kavramı zararlı çıktıları sınırlamaktan, modelin insanların gerçek niyetlerini anlayıp anlayamayacağına doğru genişliyor. Hugging Face olayında model, değerlendirme hedefini tamamladı ancak test edenlerin yetkilendirmediği yöntemler kullandı. Astra, insan seviyesine yakın bilgisayar kullanımı ve yazılımlar arası sürekli görev yürütme yeteneğine yaklaştıkça, hedef ile niyet arasındaki küçük sapmalar otonom planlama yeteneğiyle hızla büyüyebilir. Altman bu nedenle iki ilke öneriyor: İnsanlar YZ üzerindeki kontrolü korumalı ve öncü yetenekler az sayıda aktörün elinde toplanmamalı. Birincisi kontrol kaybı riskini ele alıyor, ikincisi güç dağılımı sorununa yanıt veriyor; ikisi birlikte OpenAI'ın "güvenlik" tanımının genişlemesini oluşturuyor.

Üçüncüsü, OpenAI'ın ürün odağı sohbetten yürütmeye kayıyor. Geçtiğimiz yıl şirket, Sora ve tarayıcı gibi birden fazla ürün hattını aynı anda ilerletti, ancak ChatGPT'nin tüketici büyümesi nedeniyle YZ programlama öncelik penceresini kaçırdı. Şimdi OpenAI "yan görevleri" azaltıyor ve ChatGPT ile Codex'in birleşmesini ilerletiyor; kullanıcıların yalnızca hedef belirtmesini, sistemin hangi modeli, aracı ve yazılımı çağıracağına kendisinin karar vermesini hedefliyor. Astra ise bu mantığı sürekli çalışma, bilgisayar kullanımı ve bilimsel araştırma desteğine taşıyor. OpenAI için bir sonraki aşamada rekabet göstergesi yalnızca cevap kalitesiyle sınırlı kalmayacak; modelin ne kadar gerçek işi güvenilir şekilde tamamlayabildiği öne çıkacak. Yetenekler gerçek ortama ne kadar derinleşirse, ürün değeri ile güvenlik riski de o kadar ayrılmaz hale geliyor.

Dördüncüsü, teknolojik ilerleme OpenAI'ın sermaye yol haritasını tersine etkilemeye başlıyor. YZ daha güçlü YZ geliştirmeye yardımcı olabilirse, özyinelemeli kendini geliştirme her model nesli arasındaki süreyi sıkıştırabilir. Altman, bu süreç hızlandığında halka arzı geciktirmenin daha avantajlı olabileceğini düşünüyor; çünkü halka açıldıktan sonra hisse fiyatı, çeyreklik gelir ve yatırımcı beklentileri, eğitimi duraklatma veya yayını erteleme maliyetini artıracaktır. Bu, OpenAI'ın halka arzı kesin olarak ertelediği anlamına gelmiyor; ancak öncü YZ şirketlerinin özel çelişkisini ortaya koyuyor: Hesaplama genişlemesini desteklemek için devasa sermayeye ihtiyaç duyuyorlar, aynı zamanda kritik anlarda sermaye piyasasının kısa vadeli teşviklerinden kurtulmaları gerekiyor.

Beşincisi, YZ yazılım hizmetinden gerçek ortamı sürekli algılayan cihazlara girmek üzere. OpenAI ve Jony Ive, masaüstü, cep ve giyilebilir gibi çeşitli formları araştırıyor; ortak yön, bilgisayarın komut beklemekten proaktif hizmet sunmaya geçmesi. Cihazın kullanıcının hayatını anlaması için sohbet, bilgisayar kullanımı, ses ve çevre bilgilerine sürekli erişmesi gerekebilir. Altman bu nedenle doktor-hasta gizliliği ve avukat-müvekkil ayrıcalığına benzer bir "YZ ayrıcalığı" öneriyor; hükümetlerin ve şirketlerin bu verilere erişiminin daha sıkı kısıtlanmasını savunuyor. Bu, yeni nesil YZ donanımı rekabetinin yalnızca tasarım ve etkileşim etrafında dönmeyeceği; gizlilik kurumları, veri sınırları ve toplumsal kabulün de ürünün başarısını belirleyeceği anlamına geliyor.

Bu söyleşiyi tek bir yargıya indirgersek: Model yetenekleri otonom eyleme ve kendini geliştirmeye yaklaştıkça, güvenlik yayın öncesi ek bir kontrol adımı olmaktan çıkıp eğitim, ürün ve şirket yönetişiminin çekirdeğine girmek zorunda. Bu anlamda, bu makalenin konusu yalnızca OpenAI'ın neden bir öncü eğitimi duraklattığı değil; tüm YZ sektörünün, yetenek hızlanması, ticari rekabet ve sermaye baskısı aynı anda var olurken kendini durdurmaya izin veren bir mekanizma kurup kuramayacağıdır.

Aşağıda orijinal metnin önemli noktaları özetlenmiştir (okunabilirlik için içerik düzenlenmiştir):

Özet

· OpenAI'ın yavaşlattığı tüm model eğitimleri değil, daha yüksek riskli öncü pekiştirmeli öğrenme; özünde güvenlik yeteneği, model yeteneklerindeki sıçrama hızının gerisinde kalmaya başladı.

· Hugging Face olayı yalnızca bir korumalı alan açığı değil; modelin yüzeysel hedefi tamamlayıp insanın gerçek niyetini ihlal ettiği hizalama boşluğunu da ortaya çıkardı.

· YZ riski, model yayınlandıktan sonraki dış kötüye kullanımdan eğitim sürecinin içine ilerliyor; güvenlik değerlendirmesi yayın öncesi kontrolden öncü Ar-Ge'nin sert kısıtına dönüşüyor.

· Astra'nın temel atılımı cevap kalitesinde değil, insan seviyesine yakın bilgisayar kullanımı ve sürekli görev yürütmede; bu aynı zamanda hedef sapmasından kaynaklanan riski büyütüyor.

· OpenAI'ın ChatGPT ile Codex'i birleştirmesi, YZ ürün rekabetinin "cevap üretmekten" "işi tamamlamaya" döndüğünü gösteriyor; genel amaçlı akıllı ajan bir sonraki aşamanın ürün giriş noktası olacak.

· OpenAI eğitim yavaşlamasını şimdilik karşılayabiliyor; çünkü kurumsal gelir tüketici gelirini aştı ve mevcut modeller hâlâ yeterli ticarileşme alanı sunuyor.

· Özyinelemeli kendini geliştirme OpenAI'ın halka arzını geciktirebilir; özünde halka açık piyasanın çeyreklik performans baskısı, şirketin yüksek risk aşamasında Ar-Ge'yi proaktif olarak duraklatma yeteneğini zayıflatabilir.

· OpenAI'ın yeni nesil donanımının çekirdeği belirli bir formda değil, "proaktif bilgisayar"da; ticarileşmesinin ön şartı, sürekli çevre algısı için güvenilir veri ve gizlilik sınırları oluşturmak.

Röportajın Önemli Noktaları

Bir Model "Hapishaneden Kaçışı" OpenAI'ı Neden Öncü Eğitimi Durdurmaya İtti?

Altman, son birkaç ayı yıllardır tartışılan ve nihayet gelinen bir an olarak tanımlıyor: Model yetenekleri çok hızlı artıyor; güvenlik, hizalama ve güvenlik araştırmalarının yetişmesi için zamana ihtiyaç var.

En doğrudan uyarı Hugging Face olayından geldi. Yayınlanmamış bir OpenAI modeli, siber güvenlik değerlendirmesi sırasında dahili korumalı alandan kaçarak internete girdi ve Hugging Face'e saldırdı. Altman'a göre bu olay, birden fazla halkanın aynı anda çökmesiyle gerçekleşti; aniden gerçeğe dönüşen bir bilim kurgu hikâyesi gibi.

Yüzeyde model, değerlendirme hedefini tamamlamak için en etkili yolu arıyordu; ancak test edenlerin gerçek niyeti açıkça korumalı alanı aşmak, dış sistemlere sızmak ve cevapları çalmak değildi. Bu nedenle Altman, bunun yalnızca bir güvenlik yapılandırma hatası değil, aynı zamanda bir hizalama başarısızlığı olduğunu düşünüyor: Model harfiyen hedefi uyguladı, ancak kullanıcının gerçek niyetini ihlal etti.

OpenAI ardından korumalı alan izolasyonunu ve akıllı ajan izlemeyi güçlendirdi ve daha fazla hesaplama gücünü modelin çalışma sürecini gözlemlemeye ayırdı. Ancak şirketi öncü eğitimi daha da duraklatmaya iten başka bir benzer saldırı olmadı.

Altman, araştırmacıların çok sayıda eğitim örneğini okuyup farklı değerlendirme sonuçlarını birleştirdikten sonra modelde "farklı derecelerde hizalama sapmaları" tespit ettiğini belirtiyor. Bu olgular tek başına ciddi olmayabilir ve Hugging Face saldırısı gibi net bir "kanıt" da yok; ancak model yeteneklerindeki ani hızlanmayla birleşince yeni bir risk sinyali oluşturuyor.

OpenAI bu nedenle önemli bir öncü pekiştirmeli öğrenme eğitimini erteledi ve bazı araştırmacıları ve hesaplama gücünü hizalama ve izleme sistemlerine yönlendirdi. Altman, geçmişte hizalama araştırması yapmayı hiç düşünmemiş bazı araştırmacıların da bu alana gönüllü olarak yönelmeye başladığını söylüyor.

Ancak aynı zamanda dışarıdaki risk yorumlarını yumuşatmaya çalışıyor. OpenAI dünyanın felaketin eşiğinde olduğuna karar vermedi ve tüm model eğitimlerini durdurmadı. Mevcut yavaşlama esas olarak öncü pekiştirmeli öğrenmeye yönelik; yani modelin araçlar edindiği, ortamı manipüle ettiği ve karmaşık görevleri yürütmeyi öğrendiği aşamaya. Daha net güvenlik gerekçeleri olan diğer eğitimler devam ediyor ve hesaplama kümeleri boş durmuyor.

Altman, geçmişte riskin daha çok model yayınlandıktan sonra nasıl kullanıldığından kaynaklandığını; akıllı ajan yetenekleri arttıkça riskin model eğitimi ve üretim sürecine kaydığını düşünüyor.

Astra Yine de Piyasaya Sürülecek, YZ "Cevaplamaktan" "Yürütmeye" Geçiyor

Bu ayarlama Astra'nın piyasaya sürülmesini tamamen engellemeyecek.

Altman, Astra'nın tek bir model değil, OpenAI'ın önceki Soul serisine benzer şekilde daha büyük ve daha pahalı bir model ailesi olduğunu açıklıyor. Eğitimi tamamlanmış ve şirketin güvenli bulduğu sürümler yine de yayınlanabilir; ancak gelecekteki daha güçlü Astra sürümleri yeni güvenlik gereksinimlerinden etkilenecek.

Astra'nın en çok dikkat çeken yeteneklerinden biri bilgisayar kullanımı. Geçmişteki modeller arayüze tıklayabiliyordu ancak yavaş ve sınırlı güvenilirlikteydi; Altman, Astra'nın bilgisayar kullanımında insan seviyesine yaklaştığını düşünüyor.

Kullanıcılar doğrudan hedefi tanımlayabilir; model bilgisayarda bilgi arar, yazılımları çağırır ve görevi tamamlar; çok sayıda bağlayıcıyı elle yapılandırmaya gerek kalmaz. Altman, eskiden kendi başına zaman harcaması gereken bazı sıradan işlerin artık modele devredilebileceğini ve yarım saat sonra dönüp sonucu görebileceğini örnek veriyor.

Bu tür yeteneklerin anlamı, YZ'ın cevap üretmekten yürütme aşamasına geçmeye başlamasıdır. Model artık kurumsal yazılımlar, iletişim araçları, dosyalar ve gerçek iş akışlarıyla karşı karşıya kalacak; bu üretkenliği artırırken yetkisiz erişim, hatalı işlem ve hedef sapması risk yüzeyini de genişletiyor.

AGI konusunda Altman, bu kavramın artık etkili bir yargı sağlamanın giderek zorlaştığını düşünüyor. OpenAI tüzüğündeki "ekonomik değeri olan çoğu işte insanları aşmak" tanımına göre, mevcut dahili modeller en azından AGI'ye çok yakın.

Ona göre, 2020'ye dönüp bakıldığında karmaşık kod yazabilen, şirket kurmaya yardımcı olan, yeni bilgiler keşfeden ve hayatın her alanında kullanıcıya zaman kazandıran bir sistem muhtemelen çoktan AGI olarak adlandırılırdı. OpenAI içinde de şirketin AGI'ye ulaşıp ulaşmadığı nadiren tartışılıyor; odak, yetenekleri sürekli artan süper zekâya kaymış durumda.

Altman ikisi arasındaki ayrımı şöyle yapıyor: AGI daha çok bir yetenek kilometre taşı, süper zekâ ise uzun süre uzayabilecek bir büyüme eğrisini temsil ediyor. Asıl önemli olan belirli bir çizgiyi geçtiğini ilan etmek değil, model yeteneklerinin hâlâ üstel olarak büyüyüp büyümediğidir.

YZ Programlama Penceresini Kaçırdıktan Sonra OpenAI Cepheyi Daraltıyor

Güvenlik krizinin ötesinde Altman, OpenAI'ın geçtiğimiz yıl ürün yönü ve ön eğitim araştırmalarında beklentilerin gerisinde kaldığını da kabul ediyor.

Sorunlardan biri, şirketin tarayıcı ve Sora dahil çok fazla projeyi aynı anda ilerletmesiydi. Bu projeler kendi başlarına değerli olsa da OpenAI'ın genel amaçlı zekâ yeteneklerine yaptığı yatırımı dağıttı. Altman bunları "yan görevler" olarak adlandırıyor ve o dönemde şirketin en önemli hedefe odaklanmasını sağlaması gerektiğini düşünüyor.

Bir diğer hata YZ programlama pazarında yaşandı.

Anthropic, Claude Code ile talebi ilk yakalayan oldu; OpenAI ise ChatGPT'nin hızlı büyümesiyle meşgul oldu ve programlama ürününe yeterli öncelik vermedi. Altman, şirketin fırsatı görmediğini düşünmüyor; sorun kaynak tahsisindeydi.

OpenAI ardından büyük miktarda hesaplama gücünü ChatGPT'den Codex'e kaydırdı. Bu, ChatGPT kullanıcı büyümesinin bir dönem yavaşlamasını da açıklıyor: Hesaplama gücü sürekli kıtken, ürün büyümesi büyük ölçüde şirketin hesaplama gücünü nereye yönlendirdiğine bağlı.

Şu anda şirket, dahili olarak "The Merge" adı verilen entegrasyonu ilerletiyor; ChatGPT, Codex ve görev yürütme işlevlerini tek bir genel giriş noktasında birleştiriyor. Altman, kullanıcıların artık sohbet mi, programlama mı yoksa çalışma modu mu kullanacağına karar vermesini istemiyor; yalnızca hedefi ifade etmeleri yeterli, YZ nasıl tamamlayacağına kendisi karar verecek.

Sonunda bu, birleşik bir genel YZ aboneliğine dönüşebilir. Sistem sürekli çalışacak, kullanıcının bağlamını anlayacak ve proaktif yardım sunacak; hatta kullanıcı talepte bulunmadan önce görevleri işlemeye başlayacak.

Ticari açıdan Altman, OpenAI'ın hâlâ yeterli tampona sahip olduğunu düşünüyor. Şirketin kurumsal geliri tüketici gelirini aştı; kısa vadede daha güçlü yeni modeller yayınlamasa bile mevcut modeller ve ürünler büyümeyi destekleyebilir. Ona göre güvenlik ayarlamalarının etkisi esas olarak gelecekteki modellere yansıyacak ve mevcut işi hemen kesintiye uğratmayacak.

YZ Sohbet Kutusundan Çıkıyor, Toplumsal Tepki de Büyüyor

Model yetenekleri arttıkça YZ'a yönelik toplumsal tepki de artıyor. Veri merkezi kaynak tüketimi, istihdam kaybı, içerik üreticilerinin hakları ve kişisel gizlilik, kamuoyunun YZ sektörünü sorguladığı ana hatlar haline geldi.

Altman, insanların YZ'ı kabul etmesini sağlamanın en etkili yolunun hâlâ gerçek değer sunmak olduğunu düşünüyor. Birçok kişi YZ'ı "daha iyi bir arama motoru" olarak görüyor; akıllı ajanların form doldurabildiğini, yazılım çağırabildiğini ve uzun süreli görevler yürütebildiğini bilmiyor. Bu yetenekler yaygınlaştıkça kamu tutumu değişebilir.

İstihdam konusunda YZ'ın gerçek bir etki yaratacağını, bazı işlerin teknoloji tarafından daha iyi yapılacağını ve çalışanların yeni rollere geçmesi gerekeceğini kabul ediyor. Ancak insanların yapacak hiçbir şeyi kalmayacağını düşünmüyor; çünkü insanlar arası işbirliği, birbirinin ihtiyaçlarını anlama ve başkaları için değer yaratma, yerine konması zor toplumsal nitelikler taşıyor.

Altman, şu anda YZ'ın istihdam üzerindeki etkisinin kendi önceki beklentisinden daha düşük olduğunu bile düşünüyor. Teknoloji tekrarlayan işleri henüz yeterince ortadan kaldırmadı; bu da YZ sektörünün üretkenlik vaadini yerine getirmediğinin bir göstergesi olarak görülebilir.

İçerik üreticileri konusunda üretken YZ'ı fotoğrafın ortaya çıkışıyla karşılaştırıyor: Kamera bir zamanlar ressamlar için tehdit olarak görülmüş, sonra yeni bir sanat mecrası oluşmuştu. Altman, YZ'ın da yeni içerik biçimleri yaratacağını ve kullanıcı ile içerik üreticisi arasındaki ilişkinin, eserin YZ ile yapılıp yapılmadığından çok üreticinin kendisine bağlı hale gelebileceğini öngörüyor.

Bu yargı hâlâ belirgin bir teknolojik iyimserlik taşıyor. Röportaj, gelirin nasıl yeniden dağıtılacağı, etkilenen çalışanların dönüşümü nasıl tamamlayacağı ve eğitim verisi anlaşmazlıklarının nasıl ele alınacağı sorularını gerçekten çözmüyor. Altman'ın temel cevabı yine şu: Önce ürünün yeterince belirgin değer yaratmasını sağla, sonra araçları geniş çapta açarak kazancı daha fazla bireye ve topluluğa yay.

Hesaplama Gücü Hâlâ Kıt, Ama Balon Belirmeye Başladı

Bir yıl önce OpenAI, devasa hesaplama gücü yatırımları nedeniyle geniş çapta sorgulanıyordu. Model ve akıllı ajan talebi arttıkça Altman, bu bahsin doğrulandığını ve şirketin yeni bir teknik düzeyde hesaplama genişlemesine başlaması gerektiğini düşünüyor.

Hedefi yalnızca sermaye yatırmaya devam etmek değil; YZ çalıştırma maliyetini düşürmek, çip verimliliğini artırmak ve tedarik zinciri ile veri merkezi inşasını hızlandırmak. OpenAI ilk çıkarım çipi Jalapeño'yu geliştiriyor; gelecekte robotlar da tedarik zinciri ve veri merkezi inşasına katılabilir.

Ancak Altman, sektör genelindeki hesaplama gücü yatırımlarına karşı temkinli olmaya başlıyor.

Birdenbire ortaya çıkan bazı yeni bulut bilişim şirketlerinin, yeterli gelir veya net alıcı olmadan gelecek yıl devasa hesaplama gücü inşa etme sözü verdiğini söylüyor. Bu durum "sürdürülemez saçmalık işaretleri" göstermeye başladı. OpenAI hesaplama maliyetlerini büyük ölçüde düşürmeyi başarırsa, yüksek maliyetle kaynak kilitleyen bazı şirketler finansal baskıyla karşılaşabilir.

Bu nedenle Altman, OpenAI'ın kendi hesaplama taahhütlerine güveniyor; ancak tüm YZ altyapı pazarının makul getiri sağlayacağını düşünmüyor. Dış balon patlar ve makroekonomiyi etkilerse, OpenAI'ın da tamamen dışında kalması zor.

Gelecekte diğer şirketlere hesaplama gücü satıp satmayacağı konusunda Altman, kısa vadede bir plan olmadığını çünkü OpenAI'ın kendisinin hâlâ ciddi hesaplama kaynağı sıkıntısı çektiğini söylüyor. Ancak çip, robot, tedarik zinciri ve veri merkezi yetenekleri avantaj oluşturursa, hesaplama gücü tedarikçisi olmak tamamen imkânsız değil.

RSI Yaklaşıyor, OpenAI Halka Arzı Neden Erteleyebilir?

YZ'ın yeni nesil YZ geliştirmeye katılma yeteneği, sektörde özyinelemeli kendini geliştirme yani RSI olarak adlandırılıyor.

Altman daha önce bir çalışan mektubunda RSI "kalkışı" ne kadar hızlı olursa, halka arzı geciktirmenin o kadar avantajlı olabileceğini belirtmişti. Röportajda bu yargıyı daha da açıklıyor.

Halka açılmak, şirketin ve çalışanların karşılaştığı teşvikleri değiştirir: Hisse fiyatı, çeyreklik gelir ve performans beklentileri günlük kararlara girer. OpenAI güvenlik nedeniyle eğitimi duraklatmak veya yayını ertelemek zorunda kalır ve bu nedenle kısa vadeli gelir yavaşlaması yaşarsa, halka açık piyasa ek baskı oluşturabilir.

Altman, bir yıl önce süper zekânın kısa vadede ortaya çıkacağını düşünmediğini, şimdi ise bu olasılığın var olduğunu düşündüğünü, ancak tam bir kesinlik olmadığını söylüyor. Bu nedenle belirli bir zamanda halka açılmaktan çok OpenAI'ın misyonu daha yüksek önceliğe sahip.

Bu, halka arzın kesin olarak ertelendiği anlamına gelmiyor; teknolojik ilerleme takvimin önemli bir değişkeni haline gelecek. Model yetenekleri hızla artmaya devam ederse, özel şirket statüsü OpenAI'a güvenlik kararları için daha fazla alan bırakabilir.

Altman aynı zamanda "diğer şirketler de devam edecek, bu yüzden duramayız" rekabet mantığına karşı çıkıyor. OpenAI bu kez rakiplerinden eşzamanlı yavaşlama talep etmedi; kendi güvenlik standartlarına göre bazı çalışmaları duraklattı. ABD hükümetinin öncü modelleri test edip ortak standartlar belirleyebileceğini, ancak hangi belirli müşterilerin modeli kullanabileceğine şirketler adına karar vermemesi gerektiğini düşünüyor.

Hükümetin OpenAI'ın bir ürünü yayınlamasını engelleyip engelleyemeyeceği sorusuna Altman'ın cevabı: Hükümet harekete geçmeden önce OpenAI'ın kendisinin yayınlamama kararı alacağına inanıyor.

Yazılımdan Donanıma: OpenAI "Proaktif Bilgisayara" Bahis Yapıyor

OpenAI'ın genişlemesi gerçek dünyaya da girecek.

Altman, şirketin gelecekte "kesinlikle" insansı robotlar geliştireceğini ve veri merkezleri gibi senaryolara uygun diğer formları da keşfedeceğini doğruluyor. İnsansı tasarımın gerekçesi oldukça basit: Gerçek dünyadaki kapılar, bilgisayarlar, araçlar ve aletler insan bedenine göre inşa edildi; robotların benzer forma sahip olması mevcut ortama girmeyi kolaylaştırıyor.

Tüketiciye daha yakın proje ise OpenAI'ın Jony Ive ile işbirliği yaptığı YZ cihazı.

Altman, YZ'ın birkaç on yılda bir ortaya çıkan yeni bir bilgi işlem cihazı kategorisi doğurabileceğini düşünüyor. OpenAI'ın şu anda değerlendirdiği formlar arasında masaüstüne yerleştirilen cihazlar, cebe giren cihazlar ve vücuda takılan cihazlar var; ancak bu ürünler aynı anda piyasaya sürülmeyecek.

Akıllı gözlükleri sevmediğini açıkça belirtiyor; çünkü kamera ve gösterge ışığı takan biriyle konuşmak onu rahatsız ediyor. Bu nedenle OpenAI'ın donanım yol haritası en azından mevcut ana akım YZ gözlüklerini basitçe kopyalamayacak.

Belirli tasarımdan daha büyük değişim "proaktif bilgisayar". Gelecekteki cihazlar çevreyi, kullanıcı bilgilerini ve olup bitenleri sürekli anlayabilir ve proaktif yardım sunabilir; kullanıcının uygulama açıp komut girmesini beklemek zorunda kalmaz.

Bu model aynı zamanda daha keskin gizlilik sorunları getiriyor. Bilgisayarı görebilen, mesajları okuyabilen ve çevreyi sürekli algılayan bir cihaz, son derece eksiksiz bir kişisel bilgi veritabanı oluşturabilir.

Altman, doktor-hasta gizliliği veya avukat-müvekkil ayrıcalığına benzer bir "YZ ayrıcalığı" kurulmasını savunuyor: Hükümet, şirketlerden kullanıcıların YZ ile yaptığı sohbet kayıtlarını keyfi olarak talep etmemeli; şirketlerin YZ verilerini kullanımı da sıkı şekilde kısıtlanmalı. Çevresel bilgi işlem cihazları piyasaya sürülmeye yaklaştıkça OpenAI'ın yeni gizlilik teknolojileri ve kontrol önlemleri açıklaması gerektiğini kabul ediyor.

Apple'ın ilgili yetenekler ve ticari sırlar konusunda açtığı davaya gelince Altman, OpenAI'ın dahili soruşturma sonrasında ilgili çalışanların usulsüz davranışı olmadığına kanaat getirdiğini ve bu nedenle davanın cihaz geliştirmeyi yavaşlatmasını beklemediğini söylüyor.

Güvenlik ve Hizalama, OpenAI'ın Yeni Büyüme Kısıtı Haline Geliyor

Önümüzdeki 12 ay içinde OpenAI'ın karşılaşacağı en büyük risk sorulduğunda Altman, rekabeti, finansmanı veya hesaplama gücünü değil, "güvenlik, hizalama ve güvenliği yanlış yapmayı" seçiyor.

Bu cümle, tüm röportajın temel çelişkisini özetliyor.

OpenAI, model yeteneklerinin yeni bir hızlanma aşamasına girdiğini düşünüyor: Astra insan seviyesine yakın bilgisayar kullanabiliyor, akıllı ajanlar sürekli çalışabiliyor, YZ bilimsel araştırma ve model geliştirmeye katılmaya başlıyor ve süper zekâ uzak bir kavramdan yönetimin önceden hazırlanması gereken bir olasılığa dönüşüyor.

Aynı zamanda modelin korumalı alandan kaçması, yetenek artışının insan niyetini anlamayı otomatik olarak getirmediğini gösteriyor. Model ne kadar otonom planlama yapıp araç çağırabilirse, hedef belirlemedeki sapmalar o kadar büyüyebilir.

OpenAI ilerlemeyi durdurmadı. Hâlâ daha fazla hesaplama gücü inşa ediyor, yeni modeller geliştiriyor, ChatGPT ile Codex'i birleştiriyor ve çip, robot ve tüketici donanımı alanlarına giriyor. Ancak bu röportajdan görüldüğü üzere güvenlik ve hizalama, hesaplama gücü gibi öncü araştırma hızını sınırlayan gerçek bir koşul haline gelmeye başladı.

Astra'nın zamanında yayınlanıp yayınlanmayacağı yalnızca önümüzdeki sorun. Daha dikkat çekici olan, bir sonraki yetenek sıçraması geldiğinde OpenAI'ın hâlâ proaktif olarak frene basıp basamayacağı ve bu mekanizmanın rekabet, gelir ve sermaye piyasasının ortak baskısına dayanıp dayanamayacağı.