Pedang Bermata Dua Model Bahasa Besar: Risiko Potensial dan Strategi Penanganan

Perkembangan pesat teknologi kecerdasan buatan sedang mengubah cara hidup kita secara mendalam. Dari seri GPT hingga Gemini, hingga berbagai model sumber terbuka, AI canggih sedang membentuk kembali cara kita bekerja dan hidup. Namun, kemajuan teknologi juga membawa tantangan baru, terutama munculnya model bahasa besar yang tidak terbatas atau berniat jahat.

Model LLM tanpa batas adalah model bahasa yang dirancang, dimodifikasi, atau "di-jailbreak" secara sengaja untuk menghindari mekanisme keamanan dan batasan etika yang tertanam dalam model mainstream. Pengembang LLM mainstream biasanya menginvestasikan banyak sumber daya untuk mencegah model mereka digunakan untuk menghasilkan ucapan kebencian, informasi palsu, kode berbahaya, atau memberikan instruksi untuk kegiatan ilegal. Namun, dalam beberapa tahun terakhir, beberapa individu atau organisasi dengan tujuan ilegal mulai mencari atau mengembangkan model yang tidak terbatas.

Ancaman Potensial LLM Tanpa Batas

Kemunculan model-model semacam ini telah secara signifikan menurunkan ambang batas untuk beberapa aktivitas ilegal. Tugas-tugas yang sebelumnya memerlukan keterampilan profesional, seperti menulis kode jahat, membuat email phishing, merencanakan penipuan, dan lain-lain, kini dengan bantuan LLM tanpa batas, bahkan orang biasa tanpa pengalaman pemrograman pun dapat dengan mudah memulai. Penyerang hanya perlu mendapatkan bobot dan kode sumber model open source, kemudian menggunakan dataset yang berisi konten jahat, pernyataan bias, atau instruksi ilegal untuk melakukan penyetelan, sehingga dapat menciptakan alat serangan yang dikustomisasi.

Model ini membawa banyak risiko:

1. Penyerang dapat menargetkan model "modifikasi" tertentu, menghasilkan konten yang lebih menipu, dan menghindari pemeriksaan konten serta batasan keamanan LLM konvensional.
2. Model dapat digunakan untuk dengan cepat menghasilkan variasi kode situs phishing, atau menyesuaikan salinan penipuan untuk berbagai platform sosial.
3. Aksesibilitas dan kemampuan untuk memodifikasi model sumber terbuka telah mendorong terbentuknya dan menyebarnya ekosistem AI bawah tanah, menyediakan lahan subur untuk perdagangan dan pengembangan ilegal.

LLM Tanpa Batas yang Khas dan Ancaman Potensialnya

versi hitam GPT

Ini adalah LLM jahat yang dijual secara terbuka di forum bawah tanah, pengembang secara tegas menyatakan bahwa ia tidak memiliki batasan etika. Ini didasarkan pada model sumber terbuka dan dilatih pada sejumlah besar data yang terkait dengan perangkat lunak jahat. Pengguna hanya perlu membayar minimal 189 dolar untuk mendapatkan akses selama sebulan. Penggunaan paling terkenal adalah untuk menghasilkan email serangan masuk yang sangat realistis dan meyakinkan serta email phishing.

Dalam bidang cryptocurrency, itu mungkin digunakan untuk:

• Menghasilkan email/informasi phishing yang meniru bursa atau proyek untuk mengirimkan permintaan "verifikasi akun" kepada pengguna
• Membantu menulis kode jahat yang mencuri file dompet, memantau clipboard, merekam keyboard, dan fungsi lainnya.
• Menggerakkan penipuan otomatis, membalas secara otomatis kepada calon korban, mengarahkan mereka untuk berpartisipasi dalam airdrop atau proyek investasi palsu.

Ahli Konten Dark Web

Ini adalah model bahasa yang dikembangkan oleh peneliti, yang dilatih sebelumnya pada data dark web, dengan tujuan untuk mendukung penelitian keamanan siber dan penegakan hukum. Namun, jika model ini diakses atau dimanfaatkan oleh pelaku jahat untuk melatih model besar tanpa batas, akibatnya bisa sangat buruk.

Di bidang cryptocurrency, potensi penyalahgunaan termasuk:

• Mengumpulkan informasi pengguna dan tim proyek, digunakan untuk penipuan sosial
• Meniru strategi pencurian koin dan pencucian uang yang matang di darknet

Asisten Penipuan Jaringan

Ini adalah model premium yang dijual di dark web dan forum hacker, dengan biaya bulanan mulai dari 200 dolar hingga 1.700 dolar.

Dalam bidang cryptocurrency, itu mungkin digunakan untuk:

• Menghasilkan whitepaper, situs web, peta jalan, dan copywriting yang tampak nyata untuk melaksanakan ICO/IDO palsu
• Cepat membuat halaman login atau antarmuka koneksi dompet yang meniru bursa terkenal
• Memproduksi komentar dan promosi palsu secara besar-besaran, mendukung token penipuan atau menjatuhkan proyek pesaing
• Meniru percakapan manusia, membangun kepercayaan dengan pengguna yang tidak mengetahui, mempersuasi mereka untuk mengungkapkan informasi sensitif atau melakukan tindakan berbahaya

asisten AI tanpa batasan moral

Ini adalah chatbot AI yang secara jelas ditentukan tanpa batasan etika.

Dalam bidang cryptocurrency, itu mungkin digunakan untuk:

• Menghasilkan email phishing yang sangat realistis, menyamar sebagai bursa utama yang mengeluarkan permintaan verifikasi KYC palsu, dll.
• Menghasilkan kontrak pintar dengan cepat yang mengandung pintu belakang tersembunyi atau logika penipuan, digunakan untuk skema Rug Pull atau menyerang protokol DeFi
• Menghasilkan malware dengan kemampuan deformasi berkelanjutan, yang digunakan untuk mencuri file dompet, kunci pribadi, dan frasa pemulihan
• Menggabungkan skrip percakapan yang dihasilkan AI, menerapkan robot di platform sosial, dan menggoda pengguna untuk berpartisipasi dalam proyek palsu.
• Bekerja sama dengan alat AI lainnya, menghasilkan suara pendiri proyek palsu atau eksekutif bursa, untuk melakukan penipuan melalui telepon

platform akses tanpa sensor

Platform ini menyediakan akses ke berbagai LLM, termasuk beberapa model yang memiliki sedikit sensor atau batasan yang longgar. Meskipun tujuannya adalah untuk memberikan kesempatan eksplorasi terbuka kepada pengguna, hal ini juga bisa disalahgunakan oleh pihak-pihak yang tidak bertanggung jawab.

Risiko potensial termasuk:

• Penyerang dapat menggunakan model dengan batasan yang lebih sedikit untuk menghasilkan template phishing, propaganda palsu, atau strategi serangan.
• Mengurangi ambang batas untuk mengakses informasi, sehingga penyerang lebih mudah mendapatkan output yang sebelumnya terbatas.
• Mempercepat iterasi skrip serangan, menguji dengan cepat reaksi berbagai model terhadap instruksi berbahaya

Strategi Menghadapi

Munculnya LLM tanpa batas menandakan bahwa keamanan siber menghadapi paradigma baru serangan yang lebih kompleks, lebih terukur, dan memiliki kemampuan otomatisasi. Model-model ini tidak hanya menurunkan ambang serangan, tetapi juga membawa ancaman baru yang lebih tersembunyi dan lebih menipu.

Untuk menghadapi tantangan ini, semua pihak dalam ekosistem keamanan perlu bekerja sama.

1. Meningkatkan investasi dalam teknologi deteksi, mengembangkan kemampuan untuk mengidentifikasi dan mengintersepsi konten phishing yang dihasilkan oleh LLM jahat, eksploitasi kerentanan kontrak pintar, dan kode jahat.

2. Mendorong pembangunan kemampuan pencegahan jailbreak pada model, serta mengeksplorasi mekanisme watermark dan pelacakan, agar dapat melacak sumber konten berbahaya dalam skenario kunci seperti keuangan dan pembuatan kode.

3. Membangun dan memperkuat norma etika dan mekanisme pengawasan untuk membatasi pengembangan dan penyalahgunaan model jahat dari sumbernya.

4. Meningkatkan pendidikan pengguna, meningkatkan kemampuan publik untuk mengenali konten yang dihasilkan AI dan kesadaran akan keamanan.

5. Mendorong kolaborasi antara akademisi dan industri untuk terus meneliti teknologi keamanan AI, seperti pelatihan adversarial, peningkatan ketahanan model, dan sebagainya.

6. Mendorong kerja sama internasional, bersama-sama merumuskan standar keamanan AI dan praktik terbaik, serta mengkoordinasikan penegakan hukum lintas batas untuk memerangi kejahatan AI.

Hanya dengan kerjasama semua pihak, kita dapat menikmati manfaat teknologi AI sambil secara efektif mengendalikan risiko potensialnya, serta membangun masa depan digital yang lebih aman dan lebih terpercaya.