Pendiri bersama Ethereum Vitalik Buterin baru-baru ini menulis di X (dulu Twitter), dengan tegas menyatakan bahwa pengembangan kecerdasan buatan (AI) saat ini terlalu mengejar "otonomi", mengabaikan nilai manusia dalam proses pengambilan keputusan dan keluaran. Ia menyerukan agar industri meningkatkan jalur masukan manusia, mempromosikan model bobot terbuka yang memiliki fungsi pengeditan, dan mengusulkan ide untuk menggabungkan antarmuka otak-komputer (BCI) untuk mencapai umpan balik dan penyesuaian secara real-time, menggambarkan peta jalan yang lebih berorientasi pada manusia untuk perkembangan AI.
Menolak AI "Otomatis Penuh" dan Menekankan Keterlibatan Manusia
Vitalik menyatakan bahwa sistem "agen" yang sedang populer di bidang AI saat ini, berusaha untuk menyelesaikan tugas secara mandiri dengan sedikit pengawasan manusia, tren ini membuatnya merasa frustrasi. Ia percaya bahwa input manusia tidak hanya dapat meningkatkan kualitas output, tetapi juga secara signifikan meningkatkan keamanan.
Dia sangat menyukai model bobot terbuka yang memiliki "fungsi pengeditan", yang memungkinkan pengembang dan pengguna untuk secara langsung ikut campur, memperbaiki, atau membimbing keluaran selama proses generasi, bukan hanya dapat membuat hasil dari nol.
sejalan dengan pandangan Karpathy: AI memerlukan "kontrol"
Pandangan Vitalik sejalan dengan pidato terbaru Andrej Karpathy, mantan kepala AI Tesla. Karpathy memperingatkan bahwa model bahasa besar tidak boleh dianggap sebagai agen otonom yang sepenuhnya dapat diandalkan, dan menekankan pentingnya pengawasan manusia, petunjuk yang hati-hati, dan pengembangan yang bertahap.
Pendekatan ini sedang memimpin industri untuk beralih ke model "kolaborasi manusia dan mesin":
Menyediakan antarmuka pengeditan yang lebih intuitif
Mendukung pemangkasan dan koreksi langsung selama proses generasi
Mengurangi ilusi dan bias, memastikan output sesuai dengan niat manusia dan standar keamanan.
Antarmuka Otak-Mesin (BCI) + AI: Konsep Masa Depan dengan Umpan Balik Instan
Vitalik lebih lanjut mengusulkan bahwa visi jangka menengah adalah menggabungkan teknologi BCI, memungkinkan AI untuk secara instan merasakan reaksi emosional pengguna saat menghasilkan konten, dan secara otomatis menyesuaikan output berdasarkan preferensi.
Gagasan ini bukan omong kosong:
Perusahaan seperti Neuralink, Synchron, dll. telah memulai uji coba manusia dan implantasi minimal invasif.
Perangkat wearable berbasis electroencephalogram (EEG) sedang mencoba untuk mendekode perhatian dan status emosi.
Akademisi telah mencapai kemajuan dalam "perhitungan emosi" dan teknologi penandaan emosi.
4, Meskipun dekode emosi non-invasif masih menghadapi tantangan, perkembangan teknologi sedang mendekatkan visi ini menjadi kenyataan.
Bobot dan Keamanan yang Terbuka: Debat Pedang Bermata Dua
Baru-baru ini, OpenAI secara tidak sengaja merilis model bobot terbuka seperti gpt-oss-120b dan gpt-oss-20b, yang memicu perdebatan hangat. Pendukung berpendapat bahwa ini membantu mendemokratisasi pengembangan AI, memungkinkan tim untuk lebih mudah membangun alur kerja yang berpusat pada manusia dan mendeteksi risiko keamanan; tetapi para kritikus khawatir bahwa distribusi luas model yang kuat dapat membawa risiko penyalahgunaan.
Posisi Vitalik jelas: keluaran yang lebih baik dan sistem yang lebih aman berasal dari menempatkan preferensi manusia dan sinyal kompleks di jantung alur kerja AI.
Kesimpulan
Pernyataan Vitalik Buterin mencerminkan sebuah debat inti dalam perkembangan AI: apakah model harus sepenuhnya otonom, ataukah manusia harus tetap memiliki kendali secara langsung? Dengan kemajuan model bobot terbuka, antarmuka otak-mesin, dan teknologi deteksi emosi, kemungkinan kolaborasi manusia dan mesin semakin berkembang pesat. AI di masa depan mungkin tidak lagi menjadi kotak hitam yang "mengambil keputusan untukmu," melainkan menjadi mitra cerdas yang dapat berkolaborasi dan berinteraksi secara langsung.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
Vitalik mengungkapkan rencana masa depan AI: menolak otomatisasi penuh, mendukung pengendalian manusia secara langsung dan antarmuka otak-mesin.
Pendiri bersama Ethereum Vitalik Buterin baru-baru ini menulis di X (dulu Twitter), dengan tegas menyatakan bahwa pengembangan kecerdasan buatan (AI) saat ini terlalu mengejar "otonomi", mengabaikan nilai manusia dalam proses pengambilan keputusan dan keluaran. Ia menyerukan agar industri meningkatkan jalur masukan manusia, mempromosikan model bobot terbuka yang memiliki fungsi pengeditan, dan mengusulkan ide untuk menggabungkan antarmuka otak-komputer (BCI) untuk mencapai umpan balik dan penyesuaian secara real-time, menggambarkan peta jalan yang lebih berorientasi pada manusia untuk perkembangan AI.
Menolak AI "Otomatis Penuh" dan Menekankan Keterlibatan Manusia
Vitalik menyatakan bahwa sistem "agen" yang sedang populer di bidang AI saat ini, berusaha untuk menyelesaikan tugas secara mandiri dengan sedikit pengawasan manusia, tren ini membuatnya merasa frustrasi. Ia percaya bahwa input manusia tidak hanya dapat meningkatkan kualitas output, tetapi juga secara signifikan meningkatkan keamanan.
Dia sangat menyukai model bobot terbuka yang memiliki "fungsi pengeditan", yang memungkinkan pengembang dan pengguna untuk secara langsung ikut campur, memperbaiki, atau membimbing keluaran selama proses generasi, bukan hanya dapat membuat hasil dari nol.
sejalan dengan pandangan Karpathy: AI memerlukan "kontrol"
Pandangan Vitalik sejalan dengan pidato terbaru Andrej Karpathy, mantan kepala AI Tesla. Karpathy memperingatkan bahwa model bahasa besar tidak boleh dianggap sebagai agen otonom yang sepenuhnya dapat diandalkan, dan menekankan pentingnya pengawasan manusia, petunjuk yang hati-hati, dan pengembangan yang bertahap.
Pendekatan ini sedang memimpin industri untuk beralih ke model "kolaborasi manusia dan mesin":
Menyediakan antarmuka pengeditan yang lebih intuitif
Mendukung pemangkasan dan koreksi langsung selama proses generasi
Mengurangi ilusi dan bias, memastikan output sesuai dengan niat manusia dan standar keamanan.
Antarmuka Otak-Mesin (BCI) + AI: Konsep Masa Depan dengan Umpan Balik Instan
Vitalik lebih lanjut mengusulkan bahwa visi jangka menengah adalah menggabungkan teknologi BCI, memungkinkan AI untuk secara instan merasakan reaksi emosional pengguna saat menghasilkan konten, dan secara otomatis menyesuaikan output berdasarkan preferensi.
Gagasan ini bukan omong kosong:
Perusahaan seperti Neuralink, Synchron, dll. telah memulai uji coba manusia dan implantasi minimal invasif.
Perangkat wearable berbasis electroencephalogram (EEG) sedang mencoba untuk mendekode perhatian dan status emosi.
Akademisi telah mencapai kemajuan dalam "perhitungan emosi" dan teknologi penandaan emosi.
4, Meskipun dekode emosi non-invasif masih menghadapi tantangan, perkembangan teknologi sedang mendekatkan visi ini menjadi kenyataan.
Bobot dan Keamanan yang Terbuka: Debat Pedang Bermata Dua
Baru-baru ini, OpenAI secara tidak sengaja merilis model bobot terbuka seperti gpt-oss-120b dan gpt-oss-20b, yang memicu perdebatan hangat. Pendukung berpendapat bahwa ini membantu mendemokratisasi pengembangan AI, memungkinkan tim untuk lebih mudah membangun alur kerja yang berpusat pada manusia dan mendeteksi risiko keamanan; tetapi para kritikus khawatir bahwa distribusi luas model yang kuat dapat membawa risiko penyalahgunaan.
Posisi Vitalik jelas: keluaran yang lebih baik dan sistem yang lebih aman berasal dari menempatkan preferensi manusia dan sinyal kompleks di jantung alur kerja AI.
Kesimpulan
Pernyataan Vitalik Buterin mencerminkan sebuah debat inti dalam perkembangan AI: apakah model harus sepenuhnya otonom, ataukah manusia harus tetap memiliki kendali secara langsung? Dengan kemajuan model bobot terbuka, antarmuka otak-mesin, dan teknologi deteksi emosi, kemungkinan kolaborasi manusia dan mesin semakin berkembang pesat. AI di masa depan mungkin tidak lagi menjadi kotak hitam yang "mengambil keputusan untukmu," melainkan menjadi mitra cerdas yang dapat berkolaborasi dan berinteraksi secara langsung.