您尚未登录/注册
首页>科技
多机器人系统里,怎么知道谁在说谎
科技行者 2026-11-16 16:13:04

2024年,有研究者做过一个让人后背发凉的实验:在一个多机器人协同系统里,只要有五分之一的机器人开始撒谎,整个系统的判断准确率就会断崖式下跌。更麻烦的是,你根本不知道是哪几个在撒谎。

这就是多机器人系统面临的一个核心难题。多台机器人一起执行任务,比如仓库巡检、灾区搜救、战场侦察,它们靠互相分享观察到的信息来做出更准确的判断。一台机器人视野有限,看不到的地方靠队友补上,这本该是好事。可一旦队伍里混入了几个心怀不轨的家伙,故事就变了味。

它们可能谎报看到了根本不存在的障碍物,让队友绕路甚至撞车;也可能故意隐瞒真实看到的危险,让队友一头撞上去。这种行为在学术上有个名字,叫拜占庭攻击

拜占庭攻击:指系统中部分节点故意发送虚假或矛盾信息,试图破坏整体协作效果的恶意行为,这个说法源自“拜占庭将军问题”,一个关于如何在有叛徒的情况下达成共识的经典难题。

那么问题来了,系统要怎么分辨谁说的是真话,谁在捣鬼?

这篇来自杜克大学团队的论文,给出了一个叫NeST-Bayes的答案。在往下讲之前,先说说这件事到底难在哪儿。

信任,到底该信谁

先说说过去的办法为什么不够用。

最早一批方法很直接:预先设定好谁可信,谁不可信,或者靠一套声誉系统,类似电商平台的卖家评分。但这在真实世界里几乎不现实,你总不能在机器人出发执行任务之前,就提前知道哪个会被劫持或者篡改吧。

后来有人想到用侧信道信息,简单说就是给每个机器人留一些独特的身份指纹,通过信号特征、物理层面的东西来验证身份真伪。这个思路听起来不错,但现实中侧信道信息经常拿不到,尤其是在通信受限、设备异构的场景里。

再往后,研究者开始尝试一种更聪明的办法:跨机器人观测一致性校验。简单说就是,如果两台机器人都说看到了同一个东西,那这个东西大概率是真的;如果一台说看到了,另一台明明视野能覆盖到却说没看到,那就有问题了。这个思路的代表是MATE方法。

MATE:一种基于手工设计规则的信任估计方法,通过感知一致性检查生成信任伪测量值,再更新信任分数的概率分布。

这个思路本身是对的,问题出在怎么把这些一致或矛盾的线索,转化成具体的信任分数上。MATE这类方法用的是人工设计的固定规则,比如"两个机器人都看到了,加多少分"、"一个看到一个没看到,扣多少分"。这些规则写死之后,面对狡猾的对手就容易失灵,尤其是对手数量变多,或者相互验证的机会变少(比如视野重叠不够)的时候。

论文里有一组数据很能说明问题:当对抗机器人比例升高到40%到50%这个区间时,MATE的机器人识别精度只剩58.9%,几乎跟瞎猜差不多了。这就是本文要解决的核心矛盾:规则是死的,对手是活的,规则跟不上对手的变化速度。

拿捕鱼来打个比方。手工规则就像渔网上固定大小的网眼,专门捞超过某个尺寸的鱼。一开始效果不错,大鱼都捞上来了。可狡猾的鱼很快学会了侧身游过网眼,渔网捞不到它们,渔民却还以为自己捞得很干净。如果不去调整网眼的形状和位置,只会越捞越空。NeST-Bayes想做的,就是让这张网自己学会怎么调整形状,而不是靠人预先设计好一套固定规则。

把观察痕迹变成一张关系网

NeST-Bayes的第一步,是把每个机器人周围的观测信息,组织成一张图

异构图:指图中包含不同类型的节点(比如机器人节点和物体轨迹节点)以及不同类型的边(代表不同关系)的图结构,区别于所有节点和边都一样的普通图。

具体怎么做呢?以某台机器人为中心,把它自己,还有它通信范围内的邻居机器人,以及大家共同观测到的物体轨迹,全都放进一张图里当作节点。节点之间的连线,不是随便连的,而是根据几何和视野关系,按照几条明确的规则来连。

论文里定义了四种关系。第一种叫"视野内已观测",意思是某个机器人确实在自己视野范围内报告看到了某个物体。第二种叫"视野内漏报",意思是某个物体明明在这个机器人的视野范围里,它却没报告看到。第三种叫"共同探测",两个机器人都报告看到了同一个物体。第四种叫"相互矛盾",一个机器人说看到了,另一个明明视野能覆盖却说没看到。

这四种关系编织出一张密密麻麻的关系网,把谁和谁一致、谁和谁矛盾,全部用结构化的方式记录下来。这一步的巧妙之处在于,它没有直接用机器人自己报告的身份或者历史记录来判断可信度,而是完全依赖几何事实:你的视野能不能看到某个位置,是由物理规律决定的,撒谎者可以编造看到了什么,但很难改变自己视野的物理范围。这就为后续判断提供了一个相对客观的锚点。

这就像小区里的监控探头联防。每个探头只能拍到自己覆盖的范围,但如果某个探头的覆盖区域里明明有个人走过,这个探头却说没人经过,而旁边几个探头都拍到了,那这个探头大概率出了问题,或者被人动了手脚。如果不去比对探头之间的覆盖关系,单看一个探头的记录,你根本发现不了它在撒谎,因为它说的"我没看见"听起来完全合理。多探头交叉验证的价值,就在于把单点的谎言暴露在交叉视野里。

让神经网络学会读懂这张关系网

光把关系网搭建出来还不够,接下来要让机器从这张网里读出信任信息。

这里论文用了一个叫三元组编码器的东西,先把每个节点参与的所有关系,打包成一串数字表示。

三元组编码器:把节点参与的每条关系,编码成"节点类型、关系类型、对方节点类型"这样的三元组,再用神经网络把这些三元组汇总成一个向量,作为节点最初的"身份画像"。

有了这个初步画像之后,信息还要在图上流动起来,让每个节点不仅知道自己和邻居的直接关系,还能了解邻居的邻居是什么情况,也就是多跳的间接证据。这一步用的是异构图注意力网络

异构图注意力网络:一种能够区分不同类型关系、并自动分配注意力权重的图神经网络,让网络自己学习哪些关系更重要,而不是靠人工设定固定权重。

论文设计了三层这样的网络结构,让证据像涟漪一样逐层扩散开。第一层只看直接邻居,第二层能看到邻居的邻居,第三层则能汇总更大范围的多跳共识。每一层都保留了残差连接,防止信息在传递过程中丢失。最终每个节点会输出一个0到1之间的分数,代表这一时刻它看起来有多可信。

这里有个消融实验的数据很说明问题:如果去掉这个图神经网络部分,只用简单的节点级多层感知机处理,机器人识别的召回率会从95.5%直接掉到75.4%,物体识别召回率从94.8%掉到89.3%。这说明光靠孤立地看每个节点自己的证据是不够的,必须让证据在网络里流动、汇聚,才能捕捉到那些单靠局部信息看不出来的破绽。

这有点像破案时的多方口供比对。一个嫌疑人单独审讯时说的话,听起来可能天衣无缝,可一旦把他和其他几个关联人的口供摆在一起交叉核对,矛盾点就冒出来了。如果侦查员只看每个人单独的口供,不做交叉比对,很多谎言就永远藏在表面合理的叙述里,发现不了。图神经网络做的事情,本质上就是把所有口供摆在一起做交叉验证,而不是一个个孤立审查。

论文还做了一个对照实验,把不同类型的关系(一致、矛盾、观测到、漏报)全部塞进同一种边类型里,不再区分,结果机器人识别精度和召回率分别下降了10.4和16.8个百分点。这说明区分"一致"和"矛盾"这两种性质完全相反的证据,对最终判断至关重要,不能图省事把它们混为一谈。

时间会说出真相:贝叶斯累积信任

单次观测难免有误差,一台机器人这一秒看起来可疑,可能只是巧合或者噪声造成的。NeST-Bayes的另一个关键设计,是把每个时刻算出来的信任分数,用贝叶斯的方式随着时间慢慢累积,而不是只看当下这一瞬间的表现。

这里用到的数学工具叫Beta分布

Beta分布:一种专门用来描述"某件事发生概率"本身不确定性的概率分布,常用在需要根据正反两方面证据不断更新信念的场景,比如网购平台的好评差评评分系统。

每个机器人和每条轨迹都维护着一对参数,可以理解成"正面证据的累积量"和"负面证据的累积量"。每一轮新的观测结果出来后,这对参数就会相应更新,正面证据多了往上加,负面证据多了也往上加,但加在不同的位置。随着时间推移,如果一个机器人持续表现可疑,它的负面证据会越积越多,最终信任分数会稳定地往下掉;反过来,持续靠谱的机器人信任分数会稳步爬升。

这就像信用卡的信用评分系统,不会因为你某一个月忘了还一次款就立刻把你拉黑,也不会因为你一次按时还款就给你最高额度,而是看你长期的还款记录,慢慢调整评分。如果信任系统只看单次表现就下结论,一次正常的网络延迟或者传感器噪声,就可能冤枉一台本来忠诚的机器人;而如果不做任何时间累积,持续作恶的机器人也可能靠偶尔的"表演"蒙混过关。时间累积机制,本质上是在用长期行为的一致性,去对冲单次判断的偶然性。

论文里还有一个很关键的设计细节:只有满足一定条件的节点才会被纳入信任更新,比如这台机器人至少要和一个邻居有过实际的观测关联,不能凭空给一个毫无交集的机器人打分。这保证了信任判断始终建立在真实发生过的交互基础上,而不是臆测。

对抗手段越来越狡猾,结果如何

光讲设计思路还不够,得看实际效果经不经得起考验。

论文设计了两种对手。一种叫普通对抗策略,这类对手会随机地压制一部分真实观测,同时注入一些持续存在的假物体信息,手法比较粗糙直接。另一种叫优化对抗策略,这类对手会算计着来:它会参考邻居之前一步的报告,判断哪些假信息已经被邻居"认可"了,优先推送那些更容易蒙混过关的假信息,同时压制那些邻居本来就没什么证据支持的真实观测。这种对手还会限制自己每一步的操纵数量,装得不那么明显,专业说法叫隐蔽性约束

这两种对手的设计思路其实很接近真实世界里黑客的两种类型,一种是无差别扫描攻击的脚本小子,另一种是精心踩点、谨慎下手的职业渗透者。真正考验防御系统的,永远是后者。

在最激进的优化对抗设置下,NeST-Bayes的表现是机器人识别精度98.8%,召回率93.8%;物体识别精度98.3%,召回率95.4%。作为对比,同样依赖一致性检查但用固定规则的MATE方法,在这个设置下机器人识别精度只有93.6%,召回率只有80.7%。而把对抗比例提高到40%到50%这个更极端的区间后,差距进一步拉大:NeST-Bayes的机器人识别精度是89.1%,MATE只有58.9%,相差超过30个百分点。

更值得一提的是论文设计的一个对照组,叫朴素贝叶斯基线。这个基线用的是和NeST-Bayes完全相同的那四种关系证据,差别只在于它用固定规则直接累加正负证据,不经过图神经网络的学习和传播。结果在对抗比例升高到40%到50%的场景下,这个基线的机器人识别精度是73.8%,标准差高达34.9,波动极大,说明表现很不稳定;而NeST-Bayes在同样条件下精度是89.1%,标准差只有15.2,稳定得多。这组对比直接证明,差距不是来自用了什么新证据,而是来自怎么解读和组合这些证据。

论文还把训练好的模型直接搬到了一个全新的高仿真仓库环境里测试,没有做任何重新训练,用的是Webots仿真平台

Webots:一款开源的机器人仿真软件,可以搭建接近真实物理规律的三维场景,常用于机器人算法在部署前的测试验证。

在这个仓库场景里,有五台机器狗形态的机器人,货架会制造遮挡,还有模拟的工人在场景里走动,制造动态干扰。在这种视野被频繁遮挡、机器人之间互相验证机会稀少的困难环境下,NeST-Bayes依然拿到了机器人识别精度92.5%、召回率92.0%,物体识别精度97.3%、召回率85.0%的成绩,大幅领先朴素贝叶斯和MATE两个对照方法。这说明这套方法学到的不是某个特定场景的小聪明,而是具备一定泛化能力的判断逻辑。

写在后面

读完这篇论文,最让我意外的一点,是朴素贝叶斯基线这个设计。研究者完全可以只展示NeST-Bayes比传统方法好,但他们特意搭建了一个用完全相同证据、只是处理方式不同的对照组。这种做法其实在给自己的方法设置一个很严苛的考验:你得证明提升确实来自"学会了怎么组合证据",而不是来自用了什么别人没有的新信息。很多论文会回避这种对照,因为万一结果不好看就会很尴尬。这篇论文选择直面这个问题,而且结果站得住脚,这一点挺让人信服的。

还有一个细节值得琢磨:论文里提到,对抗机器人的身份状态本身是完全未知的,连它们发出的位置和朝向信息都假设是真实可验证的,唯一会被篡改的是它们报告看到了什么、没看到什么。这个设定其实很贴近现实,因为在很多实际系统里,位置信息往往可以通过独立的定位手段交叉验证,但"你看到了什么"这件事,真的很难有第三方验证。这篇论文选择在这个最难防的环节上做文章,而不是去解决一个相对容易的问题,说明研究者是摸着真实痛点来的。

文章里也坦率提到了局限:目前这套信任计算是集中式的,由一个中心模块收集所有机器人的信息统一处理,而不是每个机器人各自独立判断。研究者明确说这是未来要解决的方向,如果要真正部署到完全去中心化的机群里,还有一段路要走。这种坦诚挺难得的。

一个值得继续追问的问题是,如果对抗机器人的数量超过了某个临界点,比如一半以上的机器人都在撒谎,这套基于"多数一致性"的信任机制还能撑住吗?毕竟它的底层逻辑某种程度上依赖"大多数人是诚实的"这个假设。当这个假设本身被打破时,再聪明的图神经网络恐怕也无能为力。这或许是留给后来者的下一个难题。

Q&A

Q1:NeST-Bayes是什么?

A:NeST-Bayes是杜克大学团队提出的一种神经符号信任推断框架,通过分析机器人之间观测结果是否一致,自动判断哪些机器人和它们报告的物体信息可信,不需要预先设定信任关系或身份验证信号。

Q2:NeST-Bayes和之前的MATE方法有什么区别?

A:两者都依赖跨机器人观测一致性,但MATE用人工设计的固定规则来打分,而NeST-Bayes用图神经网络自动学习怎么组合这些一致或矛盾的证据,在对抗比例升高或攻击更隐蔽时表现明显更稳定。

Q3:NeST-Bayes在真实场景中表现如何?

A:在Webots高仿真仓库环境测试中,无需重新训练,NeST-Bayes依然取得机器人识别精度92.5%、召回率92.0%,物体识别精度97.3%、召回率85.0%,大幅领先对照方法。

【版权声明】本文内容来源于科技行者,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-16 16:04:15


(第1/1页/共6661字/3阅)
首页>科技
相关科技:
Meta来中国造“人”,国内大厂为何不着急?
借助 AI 工具,安全研究员在英国政府公开代码中发现上百个高危漏洞
联发科延揽英特尔37年封测老将,发力数据中心ASIC
我国深海装备加快创新突破;减重赛道再添强催化
乌镇峰会观察|当开源代码遇见江南水乡:一场互联网盛会的产业密码
*QQ家园G币、元宝获取通道
网友评论:
更多评论(0)
您的评论:

[热点科技]
“女主角”黄乐的A股往事
中国创新药长出全球竞争力!百济神州第三次上调业绩指引:预计全年营收463-470亿,利润84-90亿
合肥武汉之后,终于轮到郑州“上桌”了?
王健林重掌万达商管
英伟达盘中跌去1.5个阿里巴巴,美股科技股爆发,AMD两日涨近20%,国际油价重挫,创2个月新低
[精彩推荐]
0.01分赢下保研,第二天就被室友举报了
逛超市大变天:超市自家货值得买吗?
磁带不是早就“死”了吗,怎么突然打赢复活赛了
18岁少女检出18种HPV亚型阳性,包含10种高危型!医生:极其少见
财经观察:拨款两万亿日元,项目已延误数月,日本“孤注一掷”,为何造不出尖端芯片?