Ethereum kurucu ortağı Vitalik Buterin, yakın zamanda X (eski Twitter) üzerinden bir paylaşımda bulundu ve mevcut yapay zeka (AI) geliştirmelerinin aşırı bir şekilde "özerklik" peşinde koştuğunu, insanın karar verme ve çıktı süreçlerindeki değerini göz ardı ettiğini belirtti. Sektörü insan girişi yollarını artırmaya, düzenleme yeteneğine sahip açık ağırlık modellerini teşvik etmeye ve anlık geri bildirim ve ayarlama sağlamak için beyin-bilgisayar arayüzü (BCI) entegrasyonunu önererek, AI gelişimine daha insan odaklı bir taslak çizmeye çağırdı.
"Tam Otomatik Temsilci" AI'sini reddet, insan katılımını vurgula
Vitalik, mevcut AI alanında yaygın olan "temsilci" sistemlerinin, çok az insan gözetimi altında bağımsız olarak görevleri tamamlamaya çalışmasının onu hayal kırıklığına uğrattığını belirtti. İnsan girdisinin yalnızca çıktı kalitesini artırmakla kalmayıp, aynı zamanda güvenliği de önemli ölçüde artırabileceğini düşünüyor.
O, geliştiricilerin ve kullanıcıların üretim sürecinde anlık müdahale, düzeltme veya yönlendirme yapmasına olanak tanıyan, "düzenleme işlevine" sahip açık ağırlık modellerini özellikle tercih etmektedir. Bu, sonuçları sıfırdan oluşturmakla sınırlı kalmaktan ziyade daha esnek bir yaklaşım sunar.
Vitalik'in görüşleri, eski Tesla AI yöneticisi Andrej Karpathy'nin son konuşmasıyla örtüşüyor. Karpathy, büyük dil modellerinin tamamen güvenilir otonom ajanlar olarak görülmemesi gerektiğini uyararak, insan gözetimi, dikkatli ipuçları ve aşamalı gelişmenin önemini vurguladı.
Bu düşünce, endüstriyi "insan-makine işbirliği" modeline yönlendirmektedir:
Daha sezgisel bir düzenleme arayüzü sunmak
Üretim sürecinde anlık kesim ve düzeltme desteği
İllüzyonları ve yanılgıları azaltarak, çıktının insan niyetleri ve güvenlik standartları ile uyumlu olmasını sağlamak
Beyin-Makine Arayüzü (BCI) + AI: Anlık Geri Bildirim Gelecek Tasarımı
Vitalik daha ileri giderek, orta vadeli vizyonun BCI teknolojisini birleştirmek olduğunu, böylece AI'nın içerik üretirken kullanıcıların duygusal tepkilerini anında algılayabilmesini ve tercihlere göre çıktıyı otomatik olarak ayarlayabilmesini sağladığını belirtti.
Bu fikir boş bir konuşma değil:
Neuralink, Synchron gibi şirketler insan denemelerine ve minimal invaziv implantlara başladı.
Beyin elektriksel aktivitesi (EEG) temelinde giyilebilir cihazlar, dikkat ve duygusal durumları çözümlemeye çalışıyor.
Akademik dünyada "duygusal hesaplama" ve duygusal etiketleme tekniklerinde ilerleme kaydedilmiştir.
4, Enjeksiyon olmayan duygusal kod çözmenin zorlukları olsa da, teknolojik gelişmeler bu vizyonu yavaş yavaş gerçeğe yaklaştırıyor.
Açık Ağırlık ve Güvenlik: İki Uçlu Bir Tartışma
Son günlerde, OpenAI beklenmedik bir şekilde gpt-oss-120b ve gpt-oss-20b gibi açık ağırlık modellerini yayımladı ve bu tartışmalara yol açtı. Destekleyiciler, bunun AI geliştirmesinin demokratikleşmesine yardımcı olduğunu, ekiplerin insan merkezli iş akışları oluşturmasını ve güvenlik risklerini tespit etmesini kolaylaştırdığını düşünüyor; fakat eleştirmenler, güçlü modellerin yaygın dağıtımının kötüye kullanım riskleri getirebileceğinden endişe ediyor.
Vitalik'in durumu nettir: Daha iyi çıktılar ve daha güvenli sistemler, insan tercihlerini ve karmaşık sinyalleri AI iş akışının merkezine koymaktan gelir.
Sonuç
Vitalik Buterin'in görüşleri, AI gelişimindeki temel bir tartışmayı yansıtıyor: modellerin tamamen bağımsız olmasına mı izin verelim, yoksa insanın sürekli kontrolünü mü koruyalım? Ağırlıkların açık modeli, beyin-bilgisayar arayüzleri ve duygusal algılama teknolojilerinin ilerlemesiyle, insan-makine işbirliğinin olanakları hızla genişliyor. Geleceğin AI'sı artık "senin için karar veren" bir kara kutu olmayabilir; seninle birlikte yaratım yapan, anlık etkileşimde bulunan bir akıllı ortak olabilir.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Vitalik, AI'nin gelecekteki planlarını açıkladı: tamamen otomatik sistemleri reddediyor, insan kontrolünü ve beyin-bilgisayar arayüzünü savunuyor.
Ethereum kurucu ortağı Vitalik Buterin, yakın zamanda X (eski Twitter) üzerinden bir paylaşımda bulundu ve mevcut yapay zeka (AI) geliştirmelerinin aşırı bir şekilde "özerklik" peşinde koştuğunu, insanın karar verme ve çıktı süreçlerindeki değerini göz ardı ettiğini belirtti. Sektörü insan girişi yollarını artırmaya, düzenleme yeteneğine sahip açık ağırlık modellerini teşvik etmeye ve anlık geri bildirim ve ayarlama sağlamak için beyin-bilgisayar arayüzü (BCI) entegrasyonunu önererek, AI gelişimine daha insan odaklı bir taslak çizmeye çağırdı.
"Tam Otomatik Temsilci" AI'sini reddet, insan katılımını vurgula
Vitalik, mevcut AI alanında yaygın olan "temsilci" sistemlerinin, çok az insan gözetimi altında bağımsız olarak görevleri tamamlamaya çalışmasının onu hayal kırıklığına uğrattığını belirtti. İnsan girdisinin yalnızca çıktı kalitesini artırmakla kalmayıp, aynı zamanda güvenliği de önemli ölçüde artırabileceğini düşünüyor.
O, geliştiricilerin ve kullanıcıların üretim sürecinde anlık müdahale, düzeltme veya yönlendirme yapmasına olanak tanıyan, "düzenleme işlevine" sahip açık ağırlık modellerini özellikle tercih etmektedir. Bu, sonuçları sıfırdan oluşturmakla sınırlı kalmaktan ziyade daha esnek bir yaklaşım sunar.
Karpathy'nin görüşleriyle örtüşüyor: AI'nın "kontrol edilebilirliği" gereklidir
Vitalik'in görüşleri, eski Tesla AI yöneticisi Andrej Karpathy'nin son konuşmasıyla örtüşüyor. Karpathy, büyük dil modellerinin tamamen güvenilir otonom ajanlar olarak görülmemesi gerektiğini uyararak, insan gözetimi, dikkatli ipuçları ve aşamalı gelişmenin önemini vurguladı.
Bu düşünce, endüstriyi "insan-makine işbirliği" modeline yönlendirmektedir:
Daha sezgisel bir düzenleme arayüzü sunmak
Üretim sürecinde anlık kesim ve düzeltme desteği
İllüzyonları ve yanılgıları azaltarak, çıktının insan niyetleri ve güvenlik standartları ile uyumlu olmasını sağlamak
Beyin-Makine Arayüzü (BCI) + AI: Anlık Geri Bildirim Gelecek Tasarımı
Vitalik daha ileri giderek, orta vadeli vizyonun BCI teknolojisini birleştirmek olduğunu, böylece AI'nın içerik üretirken kullanıcıların duygusal tepkilerini anında algılayabilmesini ve tercihlere göre çıktıyı otomatik olarak ayarlayabilmesini sağladığını belirtti.
Bu fikir boş bir konuşma değil:
Neuralink, Synchron gibi şirketler insan denemelerine ve minimal invaziv implantlara başladı.
Beyin elektriksel aktivitesi (EEG) temelinde giyilebilir cihazlar, dikkat ve duygusal durumları çözümlemeye çalışıyor.
Akademik dünyada "duygusal hesaplama" ve duygusal etiketleme tekniklerinde ilerleme kaydedilmiştir.
4, Enjeksiyon olmayan duygusal kod çözmenin zorlukları olsa da, teknolojik gelişmeler bu vizyonu yavaş yavaş gerçeğe yaklaştırıyor.
Açık Ağırlık ve Güvenlik: İki Uçlu Bir Tartışma
Son günlerde, OpenAI beklenmedik bir şekilde gpt-oss-120b ve gpt-oss-20b gibi açık ağırlık modellerini yayımladı ve bu tartışmalara yol açtı. Destekleyiciler, bunun AI geliştirmesinin demokratikleşmesine yardımcı olduğunu, ekiplerin insan merkezli iş akışları oluşturmasını ve güvenlik risklerini tespit etmesini kolaylaştırdığını düşünüyor; fakat eleştirmenler, güçlü modellerin yaygın dağıtımının kötüye kullanım riskleri getirebileceğinden endişe ediyor.
Vitalik'in durumu nettir: Daha iyi çıktılar ve daha güvenli sistemler, insan tercihlerini ve karmaşık sinyalleri AI iş akışının merkezine koymaktan gelir.
Sonuç
Vitalik Buterin'in görüşleri, AI gelişimindeki temel bir tartışmayı yansıtıyor: modellerin tamamen bağımsız olmasına mı izin verelim, yoksa insanın sürekli kontrolünü mü koruyalım? Ağırlıkların açık modeli, beyin-bilgisayar arayüzleri ve duygusal algılama teknolojilerinin ilerlemesiyle, insan-makine işbirliğinin olanakları hızla genişliyor. Geleceğin AI'sı artık "senin için karar veren" bir kara kutu olmayabilir; seninle birlikte yaratım yapan, anlık etkileşimde bulunan bir akıllı ortak olabilir.