Gelecek on yıla dair kapsamlı bir rehber, dahi gençler için yapay zeka yatırımının el kitabı: "Durumsal Farkındalık"

Yazar: @giantcutie666

2024 yılında, 2000'li yılların genç dâhisi Leopold Aschenbrenner, bir fon kurmak için OpenAI'den ayrıldı.

Aynı zamanda yatırım fikirlerini de not aldı:

Şimdi geriye baktığımızda, 165 sayfalık bu "Durumsal Farkındalık: Önümüzdeki On Yıl" başlıklı makale efsanevi bir nitelik kazanmış durumda.

Geçen yıl bunu anlayanlar, bu yıl kesinlikle finansal özgürlüğe kavuştular!

165 sayfalık İngilizce orijinal metni "buraya" yerleştirdim ve aşağıda içeriğin özetlenmiş bir versiyonu bulunmaktadır:

https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf

Makalenin ana noktası şu: Bu on yıl içinde insanlık, ortalama bir insanın tüm görevlerini yerine getirebilen yapay genel zekayı (AGI) yaratacak, bunu da kısa süre sonra süper zeka takip edecek.

Şu anda bunu anlayan insan sayısı birkaç yüzü geçmiyor ve bunların çoğu San Francisco'daki birkaç sokakta toplanmış durumda. Geri kalanlar -Wall Street, medya ve Washington dahil- henüz bunu kavrayamadı (Wall Street'teki bazı kişiler bu yıl bunu fark etmeye başladı).

Birinci Bölüm: Yapay Genel Zekanın 2027'ye Kadar Var Olmasının Nedenleri

Yöntem basit ama etkili: zamanı tahmin etmeyin, işlem gücünün ölçeğini tahmin edin.

Geçtiğimiz dört yılda, GPT-2'den GPT-4'e kadar, modelin "etkin işlem gücü" yaklaşık 100.000 kat artarak her altı ayda bir on kat büyüdü!

GPT-2, yarım yamalak cümleler kurmakta zorlanan bir anaokulu çocuğu gibiydi; GPT-4 ise avukatlık sınavını geçebilen ve doktora düzeyinde bilimsel problemleri çözebilen zeki bir lise öğrencisi gibiydi.

Bu 100.000 katlık artış üç kaynaktan geliyor:

İlk olarak, donanım yatırımı. Eğitim için kullanılan işlem gücü her yıl üç kattan fazla arttı. Moore Yasası yılda sadece 1,3 kat artarken, yapay zekâ, insan yatırımı sayesinde yapay zekâ çiplerine yapılan yatırımlar nedeniyle beş kat hızlandı.

İkincisi, daha akıllı algoritmalar. Algoritma mühendislerinin sınırları zorlaması sayesinde, bugün belirli bir matematiksel yeteneğe ulaşmak, iki yıl öncesine göre 1000 kat daha az mantıksal düşünme gerektiriyor.

Üçüncüsü, varsayılan olarak bastırılmış yeteneklerin kilidini açmak (engelleri kaldırmak) en ilginç yönüdür.

Modelin kendisi birçok yeteneğe sahip ancak varsayılan ayarlarla sınırlı. Örneğin, ChatGPT'nin temel modeli aslında oldukça zekiydi ancak anlamsız çıktılar üretiyordu; RLHF ise potansiyelini ortaya çıkardı.

Benzer şekilde, modelin "cevap vermeden önce bir süre düşünmesine" (düşünce zinciri) izin vermek, akıl yürütme yeteneğinin kilidini açtı. Ona araçlar ve uzun süreli hafıza sağlamak ise başka bir katmanın kilidini açar.

Yazar, önümüzdeki dört yıl içinde (2027'ye kadar) bu üç yolun sayısının 100.000 kat daha artacağını öngörüyor.

En önemli kavrayış, engelleri kaldırmakta yatıyor:

Mevcut modeller yalnızca "birkaç dakika" düşünebiliyor; yani birkaç yüz token üzerinde işlem yapabiliyorlar. Peki ya "birkaç ay" düşünebilselerdi; yani bir milyondan fazla token üzerinde işlem yapabilselerdi?

Örneğin, sizinle Einstein arasındaki fark, "5 dakika düşünmek" ile "5 ay düşünmek" arasındaki farktan çok daha azdır.

Bu kilidin açılması gerçekleşirse, zekâda 3 ila 4 kat daha büyük bir sıçrama anlamına gelecektir. Bu meyve zaten gözümüzün önünde.

Bunu daha da genişletirsek, 2027 civarında, haftalarca uzaktan çalışan bir personel gibi bağımsız olarak çalışabilen, görevleri planlayabilen, kod yazabilen, deneyler yapabilen, hataları düzeltebilen ve sonuçları sunabilen bir yapay zeka türü ortaya çıkacak.

Yazarın yapay genel zeka (AGI) tanımına göre, bu teknoloji OpenAI araştırmacılarının yerini tamamen alabilir.

En büyük belirsizlik veri duvarından kaynaklanıyor; yüksek kaliteli kamuya açık internet verileri hızla tüketiliyor.

İkinci Bölüm: Yapay Genel Zeka Son Değil, Tetikleyici Nokta

Yapay zekâ, yapay zekâ araştırmacılarının işini yapmaya başladığında ne olacak?

İşlem gücü değişmeden kaldığı için artık "OpenAI/Anthropic/DeepMind'deki birkaç yüz araştırmacının toplamı" ile sınırlı değilsiniz; her biri insan hızının 100 katı hızda çalışan 100 milyon yapay zeka araştırmacısını çalıştırabilirsiniz.

Birkaç günde bir elde edilen üretim, bir yıllık insan emeğine eşdeğer olurdu.

Bu otomatik araştırmacıların yapısal avantajları da var: tüm makine öğrenimi makalelerini okuyorlar, her deneyi hatırlıyorlar, kopyalar arasında doğrudan düşünce paylaşımı yapıyorlar ve birini eğitmek, hepsini eğitmek anlamına geliyor (her yeni çalışanın yavaş yavaş hız kazanmasına gerek yok).

Bu şu anlama geliyor: normalde insanların 10 yılda tamamlayabileceği algoritmik ilerleme, sadece bir yıla sıkıştırılabilir.

Ardından, bu bir yıl daha akıllı bir yeni nesil model üretecek ve bu da bir başka sıkıştırma turuna yol açacaktır. Yapay genel zekadan insan yeteneklerini çok aşan süper zekaya geçiş sadece birkaç ay ila bir iki yıl içinde gerçekleşebilir.

Yazar, hesaplama gücü gerektiren deneyler gibi darboğazların olduğunu ve çok sayıda kopya olsa bile GPU'lar için beklemek gerektiğini kabul ediyor. Ancak, darboğazların patlamayı yalnızca biraz yavaşlatacağını, engellemeyeceğini savunuyor.

Süper zekâ neye benziyor?

Ölçek açısından insanları aşıyor; yüz milyonlarca kopyayı paralel olarak işliyor, tüm disiplinlere anında entegre oluyor ve haftalar içinde bin yıllık insan deneyimine eşdeğer bir birikim sağlıyor.

Niteliksel olarak insanları aşar; tıpkı AlphaGo'nun 37. hamleyi yapması gibi (insan uzmanların on yıllarca hayal bile edemediği bir hamle), ancak bu durum tüm alanlarda uygulanabilir. İnsanların ömür boyu asla göremeyeceği kod güvenlik açıklarını tespit edebilir ve insanların asla anlayamayacağı kodlar yazabilir.

Doktora tezlerini okuyan ilkokul öğrencileri gibi olacağız.

Sonuçları şunlardır: robotik sorunu çözülecek (bu öncelikle bir makine öğrenimi algoritması sorunu, donanım sorunu değil), sentetik biyoloji silah haline getirilecek ve gizli insansız hava araçlarından oluşan sürüler nükleer silahları önceden imha edebilecek.

Uluslararası askeri dengenin tamamı birkaç yıl içinde altüst olacak.

Üçüncü Bölüm: Gerçekten Acil Dört Sorun

Birinci Problem: Trilyon Dolarlık Kümeler

Bu yarışma sadece kod yazan yazılımcılarla ilgili değil; endüstriyel bir seferberliktir.

Modellerin her yeni nesli daha büyük kümelere ihtiyaç duyar ve daha büyük kümeler de enerji santrallerine, enerji santralleri de çip fabrikalarına ihtiyaç duyar.

Mevcut hızla: 2026'da 1 GW'lık bir küme (Hoover Barajı'nın gücüne eşdeğer), 2028'de 10 GW (orta büyüklükte bir ABD eyaletine eşdeğer) ve 2030'da 100 GW (ABD'deki tüm elektrik üretiminin %20'sinden fazlası).

Yatırım hacmi 2027 yılına kadar yılda 1 trilyon doları aşabilir.

Asıl darboğaz para veya GPU'lar değil, elektrik. "10 GW'ı nereden bulacağım?" şu anda San Francisco'daki en çok konuşulan konu.

Bu projenin ABD'de yerli kaynaklarla inşa edilebilmesi için çevresel onayların gevşetilmesi ve arazilerin kullanıma açılması için federal gücün kullanılması gerekiyor; yazar bunu ulusal güvenlik düzeyine taşıyor.

Eğer ABD bunu inşa edemezse, kümelenmeler BAE veya Suudi Arabistan'a taşınacak ve bu da yapay genel zekanın anahtarlarının otoriter ülkelere teslim edilmesi anlamına gelecektir.

İkinci Problem: Laboratuvarlarda Sızıntı Var

Günümüzdeki yapay zeka laboratuvarlarının güvenlik seviyeleri, sıradan Silikon Vadisi girişimleriyle eşdeğer düzeydedir.

Sektörün en iyisi olan Google DeepMind, devlet düzeyindeki düşmanlara karşı savunma kabiliyetinin 0 seviyesinde (en fazla 4 üzerinden) olduğunu kabul ediyor.

Bu ne anlama geliyor? Yapay genel zeka (AGI) modellerinin "ağırlıkları" esasen bir sunucudaki büyük bir dosyadır.

Bu dosya çalınırsa, bu durum "otomatik yapay zeka araştırmacılarını" doğrudan Çin'e teslim etmek gibi olur; Çin, kendi zeka patlamasını anında gerçekleştirebilir ve ABD'nin tüm ilerlemelerini etkisiz hale getirebilir.

Daha da acil olanı ise, algoritmik sırlar—gelecek nesil paradigma için kilit atılımlar (veri duvarını nasıl kıracağımız)—San Francisco'daki çeşitli şirketlerin Slack kanallarında ve masalarının dışında şekilleniyor.

Yazar şu iddiada bulunuyor: Önümüzdeki 12 ila 24 ay içinde, yapay genel zeka alanındaki kritik atılımlar Çin'e sızacak. Bu bir ihtimal değil; neredeyse kesin.

Çin Devlet Güvenlik Bakanlığı'nın tüm gücüne dayanabilecek bir güvenlik seviyesine ulaşmak için, donanım düzeyinde izolasyon, atom bombası mühendisleri seviyesinde personel geçmişi kontrolleri ve özel olarak tasarlanmış kümeler gereklidir; bunların geliştirilmesi ve inşası en az birkaç yıl sürecektir. Eğer hemen harekete geçilmezse, 2027'de yapay genel zekaya ulaşıldığında güvenlik yetersiz kalacak ve geriye sadece iki kötü seçenek kalacaktır: ya diğer ülkelere devretmek ya da durup güvenliğin inşa edilmesini beklemek (potansiyel olarak liderliği kaybetmek).

Üçüncü Problem: Hizalama Sorunları

Mevcut hizalama teknolojisine RLHF deniyor; insanlar modeli puanlıyor ve model insanları memnun etmeyi öğreniyor.

Bu yöntem, insan zekasına sahip olmayan yapay zekâya kıyasla etkilidir. Yapay zekâ insanlardan birkaç kat daha zeki hale geldiğinde, bu yöntem tamamen başarısız olur; anlayamadığınız bir doktora tezini nasıl değerlendirebilirsiniz?

İstihbarat alanındaki gelişmeler bu konuyu son derece gergin hale getiriyor:

Bir yıldan kısa bir süre içinde, "RLHF hala çalışıyor" durumundan "RLHF tamamen başarısız oluyor" durumuna geçiş gerçekleşiyor ve yinelemeli deneme yanılma için hiç zaman kalmıyor.

Aynı zamanda, "küçük hatalardan" (ChatGPT'nin küfür etmesi) "felaket hatalara" (süper zekanın kümeden kaçarak askeri sistemleri hacklemesi) sıçrama yapıyor.

Ara mimari, çok sayıda nesil boyunca evrim geçirir ve nihai süper zekanın nasıl düşündüğünü asla anlayamayız.

Mevcut modeller İngilizce sözcükler kullanarak (nispeten şeffaf) akıl yürütüyor, ancak gelecekte muhtemelen tamamen açıklanamaz içsel gizli durumlar kullanarak akıl yürütmeye evrilecekler.

Yazar, teknik çözümler konusunda iyimser: kolayca elde edilebilecek birçok çözüm var ve açıklanabilirlik araştırmalarında ilerleme kaydediliyor.

Ancak, örgütsel uygulama konusunda son derece karamsar; dünya çapında bu konuda çalışan birkaç düzineden fazla ciddi insan yok ve laboratuvarlar güvenlik için gereken bedeli ödemeye hazır görünmüyor. "Şansa aşırı derecede bağımlıyız."

Dördüncü Problem: Özgür Dünya Kazanmalı

Yazar, bazı ülkelerin sadece yarışta kalmakla kalmayıp aynı zamanda çok rekabetçi olduklarını savunmak için çok zaman harcıyor.

İşlem gücü açısından: Huawei'nin (SMIC tarafından üretilen) 7nm çipleri, NVIDIA'nın A100'ü ile aynı seviyede performans gösteriyor; maliyet-performans oranı 2-3 kat daha kötü olsa da yine de yeterli.

İnşaat kapasitesi açısından: Çin, son on yılda ABD'nin kurulu kapasitesinin tamamına eşdeğer bir enerji üretim kapasitesi ekledi. 100 GW'lık bir küme oluşturmak için endüstriyel seferberlik açısından Çin, ABD'den daha güçlü olabilir.

Hırsızlık yolları: ABD laboratuvarları güvence altına alınmadığı sürece, temel algoritmaların iki yıl içinde sızması kaçınılmazdır.

Zaman çizelgesinde rahatsız edici bir tesadüf var: Yapay Genel Zeka (AGI) zaman çizelgesi (~2027), Çin Komünist Partisi'nin Tayvan'a olası saldırısıyla ilgili olarak Tayvan Boğazı gözlemcileri için geçerli olan zaman aralığıyla (~2027) örtüşüyor. "AGI'nin son aşaması, bir dünya savaşının arka planında gerçekleşebilir."

Yazarın vardığı sonuç: ABD "sağlıklı bir üstünlüğü" korumalı; bunun için iki yıl öneriyor. Bu iki yıllık tampon süre, durumu istikrara kavuşturmak ve süper zeka çağı için Çin ile uluslararası düzeni müzakere etmek amacıyla tasarlanmıştır.

Bu farktan daha az bir farkla, tüm dünya "zeka patlaması yoluyla hayatta kalma yarışına" sürüklenecek; tüm güvenlik marjları sıfırlanacak ve herkes pervasızca hız yarışına girecek.

Dördüncü Bölüm: Proje (Manhattan Projesi'nin Yapay Zeka Versiyonu)

Bu noktada yazar, kitabın tamamındaki en cesur tahminini ortaya koyuyor.

"ABD hükümetinin bir bilim kurgu girişim şirketine süper zekâ geliştirmesi imkansız." Eskiden Uber'i atom bombası geliştirmek için kullanmayı hayal edin.

Tahmin: 2027 veya 2028'de bir noktada, ABD ulusal güvenlik aygıtı bir şekilde yapay genel zeka (AGI) projesini devralacak. Bu, bir savunma yüklenicisi modeli (OpenAI'nin Lockheed Martin'e dönüşmesi), bir ortak girişim modeli (bulut sağlayıcıları + laboratuvarlar + hükümet) veya daha da uç bir ulusallaştırma şeklinde olabilir.

Temel araştırmacılar SCIF güvenli tesislerine taşınacak ve trilyon dolarlık kümelenmeler savaş zamanı hızında inşa edilecek.

Yol şöyle şekillenecek: 2026/27'de, gerçekten korkutucu ilk yetenek gösterisi gerçekleşecek; muhtemelen "acemilerin biyolojik silahlar üretmesine yardımcı olmak" veya yapay zekanın kritik altyapıya otonom olarak sızması gibi.

Çin Komünist Partisi'nin laboratuvarlara sızmasına dair ayrıntılar ortaya çıktıkça, Washington'daki atmosfer dramatik bir şekilde değişecek. "Yapay Genel Zekâ Manhattan Projesi'ne ihtiyacımız var mı?" sorusu yavaş yavaş, sonra da aniden en önemli gündem maddesi haline gelecek.

Neden illa hükümet olmalı? Çünkü süper zekâ, internet teknolojisine değil, nükleer silahlara benzer.