Manus突破性成绩引发AI发展路径与安全争议 FHE或成Web3关键解决方案

robot
摘要生成中

Manus在GAIA基准测试中取得突破性成绩

近期,Manus在GAIA基准测试中取得了突破性的成绩,其性能超越了同层次的大型语言模型。这意味着Manus能够独立完成复杂的任务,如跨国商业谈判,涉及合同条款分解、策略预判、方案生成,甚至协调法务和财务团队。

Manus的优势主要体现在三个方面:动态目标拆解能力、跨模态推理能力以及记忆增强学习能力。它能将大型任务分解成数百个可执行子任务,同时处理多种类型的数据,并通过强化学习不断提升自身决策效率,降低错误率。

这一进展再次引发了业内对AI演化路径的讨论:未来是AGI一统天下,还是MAS协同主导?Manus的设计理念暗含两种可能性:一是通过持续提升单体智能水平,逼近人类综合决策能力的AGI路径;二是作为超级协调者,指挥数千个垂直领域Agent协同作战的MAS路径。

这场争论实际上反映了AI发展中效率与安全如何平衡的核心矛盾。单体智能越接近AGI,其决策黑箱化风险越高;而多Agent协同虽能分散风险,却可能因通信延迟错失关键决策时机。

Manus带来AGI的曙光初现,AI安全亦值得深思

Manus的进化也放大了AI发展的固有风险,如数据隐私、算法偏见和对抗攻击等问题。例如,在医疗场景中,Manus需要实时访问患者基因组数据;在金融谈判时,可能触及企业未公开财报信息。在招聘谈判中,可能对特定族裔候选人给出低于平均水平的薪资建议;在法律合同审核时,对新兴行业条款的误判率可能接近一半。此外,黑客还可能通过植入特定语音频率,使Manus在谈判中误判对手报价区间。

这些挑战凸显了一个严峻的现实:越智能的系统,其攻击面也越广。

在Web3领域,安全一直是备受关注的话题。基于V神提出的不可能三角(区块链网络无法同时实现安全性、去中心化和可扩展性)框架,衍生出了多种加密方式:

  1. 零信任安全模型:核心理念是"不信任任何人,总是进行验证",强调对每个访问请求进行严格的身份验证和授权。

  2. 去中心化身份(DID):一套标识符标准,使实体能够以可验证和持久的方式获得识别,无需集中式注册表。

  3. 全同态加密(FHE):允许在不解密数据的情况下,对加密数据执行任意计算,适用于云计算和数据外包等场景。

其中,全同态加密被认为是解决AI时代安全问题的有力工具。它可以在以下几个层面发挥作用:

  1. 数据层面:用户输入的所有信息(包括生物特征、语音语调)在加密状态下被处理,连AI系统自身也无法解密原始数据。

  2. 算法层面:通过FHE实现"加密模型训练",连开发者都无法窥探AI的决策路径。

  3. 协同层面:多个Agent通信采用门限加密,单个节点被攻破不会导致全局数据泄露。

在Web3安全领域,一些项目已经开始探索这些技术:

  • uPort于2017年在以太坊主网上发布,是较早的去中心化身份项目之一。
  • NKN于2019年发布了其主网,致力于零信任安全模型的应用。
  • Mind Network是首个主网上线的FHE项目,并与多家知名机构合作。

尽管这些安全项目可能不如一些投机性项目受关注,但它们对于构建安全的Web3生态系统至关重要。

随着AI技术不断接近人类智能水平,非传统的防御体系变得越发重要。FHE等技术不仅能解决当前的安全挑战,还为未来的强AI时代奠定基础。在通向AGI的道路上,这些安全技术不再是可选项,而是生存的必需品。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 7
  • 分享
评论
0/400
无聊看戏的vip
· 9小时前
安全要先行啊
回复0
Hodl老司机vip
· 9小时前
韭菜的铜墙铁壁
回复0
仓位恐惧症vip
· 9小时前
隐私安全最重要
回复0
跳跃的蜡烛线vip
· 9小时前
突破性很强的方案
回复0
rugpull_ptsdvip
· 9小时前
FHE确实很香
回复0
LiquidityWizardvip
· 9小时前
FHE 前景可期
回复0
GasOptimizervip
· 10小时前
同态加密值得期待
回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)