跳到正文
原文
IEEE Spectrum· VicOne·· 6 天前AI 评分29

机器人安全功能运转正常,但如果输入信息被恶意篡改会怎样?

Your Robot’s Safety Functions Already Work. What If the Input Lies?

AI 导读

VicOne LAB R7 研究显示,即使机器人的安全机制按设计运转,受到恶意操纵的感知输入仍能诱发异常行为并突破安全防护。实测中,海报文字改变了基于 Gemma 4 E4B 的机器狗动作,不可听音频在 NVIDIA Jetson AGX Orin 仿真中干扰了 Nemotron 医院机器人,注入 ROS 2/DDS 消息亦能让安全控制下的机器人移动。

来源:IEEE Spectrum · spectrum.ieee.org