🫡 @Mira_Network ingin berpikir berbeda untuk memecahkan kebuntuan - daripada membiarkan AI menentukan sendiri, lebih baik membuat sebuah sistem yang berada di "atas" AI, yang khusus bertugas untuk memverifikasi apakah apa yang dikatakan AI itu benar atau tidak. Sekarang semua orang berbicara tentang betapa "bull"-nya AI, tetapi sebenarnya skenario yang dapat diterapkan sangat terbatas.
Pada akhirnya, masalah terbesar AI saat ini adalah "tidak dapat diandalkan" - ia dapat menulis konten yang terlihat sangat logis, tetapi jika Anda melihat lebih dekat, Anda akan menemukan banyak yang dicampur dengan kebohongan. Masalah ini masih dapat diterima dalam chatbot, tetapi begitu diterapkan pada bidang berisiko tinggi seperti medis, hukum, dan keuangan, itu sama sekali tidak dapat diterima.
Mengapa AI bisa seperti ini? Salah satu alasan utamanya adalah bahwa ia selalu kesulitan untuk menyeimbangkan antara "akurasi" dan "stabilitas". Jika Anda ingin agar outputnya lebih stabil, Anda perlu mengumpulkan data pelatihan dengan lebih bersih, tetapi hasilnya bisa dengan mudah memperkenalkan bias. Sebaliknya, jika Anda ingin agar ia lebih mendekati dunia nyata dan mencakup lebih banyak informasi, Anda harus memasukkan banyak informasi yang bertentangan, sehingga model malah menjadi "tidak dapat diandalkan", yang berarti mudah mengalami ilusi.
Cara ini sedikit mirip dengan memberikan AI "pemeriksa fakta". AI terlebih dahulu mengeluarkan konten, Mira kemudian membagi konten tersebut menjadi beberapa penilaian kecil, lalu menyerahkannya kepada beberapa model independen untuk memverifikasi apakah kesimpulan tersebut dapat dipercaya. Setelah beberapa model mencapai konsensus, laporan verifikasi dihasilkan melalui node di blockchain, yang setara dengan menandai "sudah diverifikasi".
Arah ini sangat menarik, karena bukan untuk mengubah "otak" AI, tetapi untuk memberikan AI sebuah "sistem pengawasan". Jika sistem ini benar-benar berjalan lancar, di masa depan kita mungkin bisa mempercayakan AI untuk melakukan hal-hal yang lebih kompleks dan berisiko tinggi, seperti menulis kontrak secara otomatis, memeriksa kode secara otomatis, bahkan mengambil keputusan secara mandiri. Inilah infrastruktur AI yang sebenarnya.
Kuncinya adalah ada kegiatan daftar di @KaitoAI, baru-baru ini @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY juga sangat populer.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
🫡 @Mira_Network ingin berpikir berbeda untuk memecahkan kebuntuan - daripada membiarkan AI menentukan sendiri, lebih baik membuat sebuah sistem yang berada di "atas" AI, yang khusus bertugas untuk memverifikasi apakah apa yang dikatakan AI itu benar atau tidak. Sekarang semua orang berbicara tentang betapa "bull"-nya AI, tetapi sebenarnya skenario yang dapat diterapkan sangat terbatas.
Pada akhirnya, masalah terbesar AI saat ini adalah "tidak dapat diandalkan" - ia dapat menulis konten yang terlihat sangat logis, tetapi jika Anda melihat lebih dekat, Anda akan menemukan banyak yang dicampur dengan kebohongan. Masalah ini masih dapat diterima dalam chatbot, tetapi begitu diterapkan pada bidang berisiko tinggi seperti medis, hukum, dan keuangan, itu sama sekali tidak dapat diterima.
Mengapa AI bisa seperti ini? Salah satu alasan utamanya adalah bahwa ia selalu kesulitan untuk menyeimbangkan antara "akurasi" dan "stabilitas". Jika Anda ingin agar outputnya lebih stabil, Anda perlu mengumpulkan data pelatihan dengan lebih bersih, tetapi hasilnya bisa dengan mudah memperkenalkan bias. Sebaliknya, jika Anda ingin agar ia lebih mendekati dunia nyata dan mencakup lebih banyak informasi, Anda harus memasukkan banyak informasi yang bertentangan, sehingga model malah menjadi "tidak dapat diandalkan", yang berarti mudah mengalami ilusi.
Cara ini sedikit mirip dengan memberikan AI "pemeriksa fakta". AI terlebih dahulu mengeluarkan konten, Mira kemudian membagi konten tersebut menjadi beberapa penilaian kecil, lalu menyerahkannya kepada beberapa model independen untuk memverifikasi apakah kesimpulan tersebut dapat dipercaya. Setelah beberapa model mencapai konsensus, laporan verifikasi dihasilkan melalui node di blockchain, yang setara dengan menandai "sudah diverifikasi".
Arah ini sangat menarik, karena bukan untuk mengubah "otak" AI, tetapi untuk memberikan AI sebuah "sistem pengawasan". Jika sistem ini benar-benar berjalan lancar, di masa depan kita mungkin bisa mempercayakan AI untuk melakukan hal-hal yang lebih kompleks dan berisiko tinggi, seperti menulis kontrak secara otomatis, memeriksa kode secara otomatis, bahkan mengambil keputusan secara mandiri. Inilah infrastruktur AI yang sebenarnya.
Kuncinya adalah ada kegiatan daftar di @KaitoAI, baru-baru ini @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY juga sangat populer.