Lưỡi dao hai lưỡi của mô hình ngôn ngữ lớn: Rủi ro tiềm ẩn và biện pháp đối phó

Sự phát triển nhanh chóng của công nghệ trí tuệ nhân tạo đang thay đổi sâu sắc cách sống của chúng ta. Từ dòng sản phẩm GPT đến Gemini, cho đến các mô hình mã nguồn mở khác nhau, AI tiên tiến đang định hình lại công việc và cuộc sống của chúng ta. Tuy nhiên, sự tiến bộ công nghệ cũng mang lại những thách thức mới, đặc biệt là sự xuất hiện của các mô hình ngôn ngữ lớn không giới hạn hoặc độc hại.

LLM không giới hạn là những mô hình ngôn ngữ được thiết kế, chỉnh sửa hoặc "bẻ khóa" một cách cố ý để tránh các cơ chế an toàn và giới hạn đạo đức tích hợp trong các mô hình chính thống. Các nhà phát triển LLM chính thống thường đầu tư nhiều tài nguyên để ngăn chặn mô hình của họ được sử dụng để tạo ra các phát ngôn thù hận, thông tin sai lệch, mã độc, hoặc cung cấp chỉ dẫn cho các hoạt động bất hợp pháp. Tuy nhiên, trong những năm gần đây, một số cá nhân hoặc tổ chức vì mục đích bất hợp pháp đã bắt đầu tìm kiếm hoặc tự phát triển các mô hình không bị giới hạn.

Mối đe dọa tiềm tàng của LLM không giới hạn

Sự xuất hiện của các mô hình này đã giảm đáng kể rào cản cho một số hoạt động bất hợp pháp. Những nhiệm vụ trước đây cần kỹ năng chuyên môn để thực hiện, như viết mã độc, tạo email lừa đảo, lập kế hoạch lừa đảo, giờ đây với sự trợ giúp của LLM không giới hạn, ngay cả những người bình thường không có kinh nghiệm lập trình cũng có thể dễ dàng bắt đầu. Kẻ tấn công chỉ cần lấy được trọng số và mã nguồn của mô hình mã nguồn mở, sau đó sử dụng bộ dữ liệu chứa nội dung độc hại, phát ngôn thiên kiến hoặc lệnh bất hợp pháp để tinh chỉnh, từ đó tạo ra công cụ tấn công tùy chỉnh.

Mô hình này mang lại nhiều rủi ro:

1. Kẻ tấn công có thể nhắm mục tiêu vào mô hình "ma quái" cụ thể, tạo ra nội dung gây lừa đảo hơn, vượt qua kiểm tra nội dung và hạn chế an ninh của LLM thông thường.
2. Mô hình có thể được sử dụng để nhanh chóng tạo ra các biến thể mã của trang web lừa đảo, hoặc để tùy chỉnh nội dung lừa đảo cho các nền tảng xã hội khác nhau.
3. Tính khả dụng và khả năng chỉnh sửa của các mô hình mã nguồn mở đã thúc đẩy sự hình thành và lan rộng của hệ sinh thái AI ngầm, tạo điều kiện cho các giao dịch và phát triển bất hợp pháp.

Các LLM không giới hạn điển hình và những mối đe dọa tiềm ẩn của chúng

phiên bản màu đen GPT

Đây là một LLM độc hại được bán công khai trên các diễn đàn ngầm, nhà phát triển tuyên bố rõ ràng rằng nó không có bất kỳ giới hạn đạo đức nào. Nó dựa trên mô hình mã nguồn mở và được đào tạo trên một lượng lớn dữ liệu liên quan đến phần mềm độc hại. Người dùng chỉ cần trả tối thiểu 189 đô la để có quyền sử dụng trong một tháng. Ứng dụng nổi tiếng nhất của nó là tạo ra các email tấn công xâm nhập thương mại và email lừa đảo cực kỳ chân thực và thuyết phục.

Trong lĩnh vực tiền điện tử, nó có thể được sử dụng để:

• Tạo email/thông tin lừa đảo, giả mạo sàn giao dịch hoặc dự án gửi yêu cầu "xác minh tài khoản" đến người dùng
• Hỗ trợ viết mã độc có chức năng đánh cắp tệp ví, giám sát clipboard, ghi lại bàn phím, v.v.
• Kích hoạt lừa đảo tự động, tự động trả lời những nạn nhân tiềm năng, hướng dẫn họ tham gia vào các dự án airdrop giả mạo hoặc đầu tư.

Chuyên gia nội dung mạng tối

Đây là một mô hình ngôn ngữ được phát triển bởi các nhà nghiên cứu, chuyên được huấn luyện trước trên dữ liệu từ dark web, với mục đích hỗ trợ nghiên cứu an ninh mạng và thực thi pháp luật. Tuy nhiên, nếu bị kẻ xấu chiếm đoạt hoặc lợi dụng công nghệ tương tự để đào tạo ra những mô hình lớn không bị hạn chế, hậu quả sẽ thật khó lường.

Trong lĩnh vực tiền điện tử, việc lạm dụng tiềm ẩn bao gồm:

• Thu thập thông tin người dùng và đội ngũ dự án, nhằm phục vụ cho lừa đảo xã hội.
• Sao chép các chiến lược ăn cắp tiền và rửa tiền trưởng thành trong mạng tối.

Trợ lý lừa đảo trực tuyến

Đây là một mô hình cao cấp được bán trên dark web và các diễn đàn hacker, với mức phí hàng tháng từ 200 đến 1.700 đô la.

Trong lĩnh vực tiền điện tử, nó có thể được sử dụng để:

• Tạo ra whitepaper, trang web, lộ trình và nội dung tiếp thị giống như thật, để thực hiện ICO/IDO giả.
• Tạo nhanh giao diện đăng nhập hoặc kết nối ví mô phỏng các sàn giao dịch nổi tiếng
• Sản xuất hàng loạt các bình luận và tuyên truyền giả mạo, thúc đẩy token lừa đảo hoặc bôi nhọ các dự án cạnh tranh
• Bắt chước cuộc trò chuyện của con người, xây dựng niềm tin với người dùng không biết, dụ dỗ họ tiết lộ thông tin nhạy cảm hoặc thực hiện các hành động có hại

Trợ lý AI không có giới hạn đạo đức

Đây là một chatbot AI được xác định rõ ràng là không có giới hạn đạo đức.

Trong lĩnh vực tiền điện tử, nó có thể được sử dụng để:

• Tạo email lừa đảo giống như thật, mạo danh sàn giao dịch lớn để phát hành yêu cầu xác minh KYC giả mạo, v.v.
• Tạo hợp đồng thông minh nhanh chóng có chứa cửa hậu ẩn hoặc logic lừa đảo, phục vụ cho các trò lừa đảo Rug Pull hoặc tấn công các giao thức DeFi.
• Tạo phần mềm độc hại có khả năng biến hình liên tục, được sử dụng để đánh cắp tệp ví, khóa riêng và cụm từ khôi phục.
• Kết hợp kịch bản thoại được tạo bởi AI, triển khai robot trên nền tảng xã hội, dụ dỗ người dùng tham gia các dự án giả mạo.
• Kết hợp với các công cụ AI khác, tạo ra giọng nói của người sáng lập dự án giả mạo hoặc giám đốc điều hành sàn giao dịch, thực hiện lừa đảo qua điện thoại.

nền tảng truy cập không kiểm duyệt

Các nền tảng này cung cấp quyền truy cập vào nhiều LLM khác nhau, bao gồm một số mô hình có kiểm duyệt ít hoặc hạn chế lỏng lẻo. Mặc dù mục tiêu là cung cấp cho người dùng cơ hội khám phá mở, nhưng nó cũng có thể bị kẻ xấu lợi dụng.

Rủi ro tiềm ẩn bao gồm:

• Kẻ tấn công có thể sử dụng các mô hình với ít hạn chế để tạo ra các mẫu lừa đảo, tuyên truyền sai hoặc ý tưởng tấn công.
• Giảm bớt rào cản kỹ thuật, khiến cho kẻ tấn công dễ dàng hơn trong việc thu được các đầu ra vốn bị hạn chế.
• Tăng tốc độ lặp lại kịch bản tấn công, thử nghiệm nhanh các mô hình khác nhau về phản ứng với các lệnh độc hại

Giải pháp đối phó

Sự xuất hiện của LLM không giới hạn đánh dấu một kỷ nguyên mới khi an ninh mạng phải đối mặt với các cuộc tấn công phức tạp hơn, có quy mô lớn hơn và khả năng tự động hóa. Những mô hình này không chỉ hạ thấp rào cản tấn công mà còn mang lại những mối đe dọa mới tinh vi hơn và mang tính lừa đảo cao hơn.

Để đối phó với những thách thức này, các bên trong hệ sinh thái an toàn cần nỗ lực phối hợp.

1. Tăng cường đầu tư vào công nghệ phát hiện, phát triển khả năng nhận diện và chặn các nội dung lừa đảo do LLM độc hại tạo ra, khai thác lỗ hổng hợp đồng thông minh và mã độc.

2. Thúc đẩy xây dựng khả năng phòng chống jailbreak của mô hình, và khám phá cơ chế watermark và truy xuất nguồn gốc, để theo dõi nguồn gốc nội dung độc hại trong các tình huống quan trọng như tài chính và tạo mã.

3. Thiết lập và hoàn thiện các quy tắc đạo đức và cơ chế giám sát, nhằm hạn chế từ gốc rễ sự phát triển và lạm dụng mô hình độc hại.

4. Tăng cường giáo dục người dùng, nâng cao khả năng nhận diện và nhận thức an toàn của công chúng đối với nội dung do AI tạo ra.

5. Khuyến khích sự hợp tác giữa giới học thuật và ngành công nghiệp, tiếp tục nghiên cứu công nghệ an toàn AI, chẳng hạn như đào tạo chống lại, tăng cường độ bền của mô hình, v.v.

6. Thúc đẩy hợp tác quốc tế, cùng nhau xây dựng tiêu chuẩn an toàn AI và thực hành tốt nhất, phối hợp thực thi pháp luật xuyên biên giới để chống lại tội phạm AI.

Chỉ có sự hợp tác chặt chẽ giữa các bên thì mới có thể vừa tận hưởng lợi ích từ công nghệ AI, vừa hiệu quả kiểm soát các rủi ro tiềm ẩn, xây dựng một tương lai số an toàn và đáng tin cậy hơn.