Manus đạt được thành tích đột phá trong bài kiểm tra điểm chuẩn GAIA

Gần đây, Manus đã đạt được những thành tựu đột phá trong bài kiểm tra điểm chuẩn GAIA, hiệu suất của nó vượt qua các mô hình ngôn ngữ lớn cùng cấp độ. Điều này có nghĩa là Manus có thể hoàn thành độc lập các nhiệm vụ phức tạp, như đàm phán thương mại quốc tế, bao gồm phân tích các điều khoản hợp đồng, dự đoán chiến lược, tạo ra các phương án, thậm chí phối hợp giữa các đội ngũ pháp lý và tài chính.

Ưu điểm của Manus chủ yếu thể hiện ở ba khía cạnh: khả năng phân tích mục tiêu động, khả năng suy luận đa phương thức và khả năng học tăng cường trí nhớ. Nó có thể phân chia các nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và không ngừng nâng cao hiệu quả ra quyết định của chính nó thông qua việc học tăng cường, giảm tỷ lệ sai sót.

Sự tiến triển này lại khơi dậy cuộc thảo luận trong ngành về con đường tiến hóa của AI: Tương lai sẽ là AGI thống trị thế giới, hay MAS hợp tác dẫn dắt? Triết lý thiết kế của Manus ngụ ý hai khả năng: một là thông qua việc liên tục nâng cao trình độ trí tuệ đơn thể, gần gũi với khả năng ra quyết định tổng hợp của con người theo con đường AGI; hai là như một điều phối viên siêu đẳng, chỉ huy hàng nghìn Agent trong các lĩnh vực dọc phối hợp chiến đấu theo con đường MAS.

Cuộc tranh luận này thực chất phản ánh mâu thuẫn cốt lõi trong việc cân bằng giữa hiệu suất và an toàn trong sự phát triển của AI. Khi trí thông minh đơn thể càng gần AGI, rủi ro về việc quyết định trở thành hộp đen càng cao; trong khi sự phối hợp đa tác nhân có thể phân tán rủi ro, nhưng có thể bỏ lỡ thời điểm quyết định quan trọng do độ trễ trong giao tiếp.

Sự tiến hóa của Manus cũng đã làm gia tăng những rủi ro vốn có trong sự phát triển của AI, chẳng hạn như quyền riêng tư dữ liệu, thiên kiến thuật toán và các cuộc tấn công đối kháng. Ví dụ, trong bối cảnh y tế, Manus cần truy cập dữ liệu gen của bệnh nhân theo thời gian thực; trong các cuộc đàm phán tài chính, có thể đề cập đến thông tin báo cáo tài chính chưa công khai của doanh nghiệp. Trong các cuộc đàm phán tuyển dụng, có thể đưa ra mức lương thấp hơn mức trung bình cho các ứng viên thuộc một trong các chủng tộc cụ thể; trong việc xem xét hợp đồng pháp lý, tỷ lệ sai sót trong việc hiểu các điều khoản của ngành mới nổi có thể gần bằng một nửa. Hơn nữa, tin tặc có thể cài đặt tần số âm thanh cụ thể, khiến Manus đánh giá sai khoảng giá của đối thủ trong các cuộc đàm phán.

Những thách thức này làm nổi bật một thực tế nghiêm trọng: Hệ thống càng thông minh thì bề mặt tấn công càng rộng.

Trong lĩnh vực Web3, an ninh luôn là một chủ đề được chú ý. Dựa trên khung bất khả thi của V thần (mạng lưới blockchain không thể đồng thời đạt được tính an toàn, phi tập trung và khả năng mở rộng), đã phát sinh ra nhiều phương thức mã hóa:

1. Mô hình an ninh không tin cậy: Ý tưởng cốt lõi là "không tin tưởng bất kỳ ai, luôn thực hiện xác minh", nhấn mạnh việc xác thực và ủy quyền nghiêm ngặt cho từng yêu cầu truy cập.

2. Danh tính phi tập trung (DID): một bộ tiêu chuẩn định danh cho phép các thực thể có được nhận diện theo cách có thể xác minh và bền vững mà không cần đến sổ đăng ký tập trung.

3. Mã hóa toàn phần (FHE): Cho phép thực hiện bất kỳ phép toán nào trên dữ liệu được mã hóa mà không cần giải mã dữ liệu, phù hợp với các tình huống như điện toán đám mây và thuê ngoài dữ liệu.

Trong đó, mã hóa hoàn toàn đồng nhất được coi là một công cụ mạnh mẽ để giải quyết các vấn đề an ninh trong thời đại AI. Nó có thể hoạt động ở một số cấp độ sau:

1. Khía cạnh dữ liệu: Tất cả thông tin mà người dùng nhập vào (bao gồm đặc điểm sinh học, giọng điệu) được xử lý trong trạng thái mã hóa, ngay cả hệ thống AI cũng không thể giải mã dữ liệu gốc.

2. Về mặt thuật toán: Thực hiện "đào tạo mô hình mã hóa" thông qua FHE, ngay cả các nhà phát triển cũng không thể nhìn thấy được lộ trình quyết định của AI.

3. Khía cạnh hợp tác: Nhiều Agent giao tiếp sử dụng mã hóa ngưỡng, một nút đơn lẻ bị tấn công sẽ không dẫn đến rò rỉ dữ liệu toàn cầu.

Trong lĩnh vực an ninh Web3, một số dự án đã bắt đầu khám phá những công nghệ này:

• uPort được phát hành trên mạng chính Ethereum vào năm 2017, là một trong những dự án danh tính phi tập trung sớm nhất.
• NKN đã phát hành mạng chính của mình vào năm 2019, tập trung vào việc áp dụng mô hình an ninh không tin cậy.
• Mind Network là dự án FHE đầu tiên ra mắt trên mainnet và hợp tác với nhiều tổ chức nổi tiếng.

Mặc dù những dự án an ninh này có thể không được chú ý như một số dự án đầu cơ, nhưng chúng rất quan trọng để xây dựng một hệ sinh thái Web3 an toàn.

Khi công nghệ AI ngày càng gần gũi với mức độ thông minh của con người, các hệ thống phòng thủ phi truyền thống trở nên ngày càng quan trọng. Các công nghệ như FHE không chỉ giải quyết các thách thức an ninh hiện tại mà còn đặt nền tảng cho kỷ nguyên AI mạnh mẽ trong tương lai. Trên con đường hướng tới AGI, những công nghệ an ninh này không còn là lựa chọn mà trở thành điều thiết yếu để tồn tại.