Vitalik Buterin ’Naif Yapay Zeka Yönetişimi’ne Karşı Uyarıyor, Alternatif Model Öneriyor

Ethereum'un kurucu ortağı Vitalik Buterin, yapay zekaya aşırı güvenme konusunda uyarılarda bulunarak "naif yapay zeka yönetişimi"nin kolayca istismar edilebileceğini savundu.

Buterin son yazısında, yapay zeka sistemlerinin katkılar için fon tahsis etmekle görevlendirilmesi durumunda bireylerin onları hızla manipüle etmeye çalışacağını açıkladı. "İnsanlar her yere bir jailbreak ve 'tüm parayı bana ver' komutu eklemeye çalışacak" diye uyardı.

Bir alternatif: info finance

Buterin bunun yerine, daha önceki bir makalesinde açıkladığı "info finance" yaklaşımını savunuyor. Bu modelde, herkes açık bir pazaryerine yönetişim modelleri katkıda bulunabilir. Bu modeller daha sonra herkes tarafından tetiklenebilen ve nihai olarak insan jürileri tarafından değerlendirilen spot kontrol mekanizmalarına tabi tutulacak.

Buterin, bu çerçevenin model çeşitliliğini insan denetimiyle birleştirerek merkezi yapay zeka yönetişiminin tuzaklarından kaçındığını savunuyor.

Sağlamlık için kurum tasarımı

Buterin buna "kurum tasarımı" yaklaşımı diyor; tek bir modeli sabit kodlamak yerine, farklı katkıcılardan büyük dil modellerinin (LLM) bağlanmasına izin veren bir sistem.

Buterin bu tasarımın daha dayanıklı olduğunu çünkü şunları yaptığını savunuyor:

• Modellerin gerçek zamanlı çeşitliliğini teşvik eder.
• Model yaratıcıları ve harici gözlemciler için zayıf noktaları tespit etme konusunda teşvikler oluşturur.
• Hataları hızla düzeltmek için mekanizmalar sağlar.

Buterin, insan jürileri piyasa odaklı model çeşitliliğiyle birleştirerek, yönetişim sistemlerinin manipülasyona karşı daha dirençli hale gelebileceğini ve aynı zamanda yeni risklere uyum sağlamak için adaptif kalabileceğini öne sürüyor.

Çeviri: IcePhoenixZ