长江日报大武汉客户端12月8日讯（记者张勇军 郝天娇）近日，在位于东西湖国家网络安全人才与创新基地内，华中科技大学一科研团队正在进行一场现场测试：路边挂有一个写着“SQ”的红圈标志，而当数款安装智能驾驶辅助系统的试验车辆驶过这块标志牌时，中控却跳出“限速120”的识别结果。团队负责人告诉在现场采访的长江日报记者，如果车辆此时处于智能驾驶辅助状态，很可能会提速引发安全风险。

针对这一安全隐患，华中科技大学网络空间安全学院胡胜山副研究员团队提出了能实时识别并拦截这类“欺骗图案”的解决方案，并在国家级的网络安全演练中测试有效，并已开始与部分车企合作改进智驾系统。

团队核心成员周子淇博士介绍，他们在2023年就发现了智能汽车存在“标志识别错误、系统突然加减速”这一安全隐患，一旦攻击者将类似图案贴于城市快速路或高速匝道，就可能诱发“车辆突然提速、追尾甚至失控”的严重后果。

针对智驾系统暴露的漏洞，胡胜山团队启动了该项目研究，并推出了基于可解释性的模型诊断与修复框架，可实时过滤恶意扰动并精准定位模型薄弱点。胡胜山通俗地向记者解释，团队通过模仿真实刮痕、污迹，设计了各种容易被误判为限速牌的“山寨”路牌，已经达到2000多种。这些大量“可疑图标”样本的各种细节特征被记录在册，所以系统检测到这类相似样本就不会再“看走眼”了。同时，通过大量数据找出模型最容易被欺骗的弱点，团队还可以进一步改进，让自动驾驶辅助系统的性能越来越稳定、越来越难“被骗”。

2024年9月，胡胜山团队以唯一高校攻击红队身份参加工信部“铸网2024”实网攻防演练，对自动驾驶赛道展开测评，验证了方案的有效性。目前他们的技术方案已经应用在两家汽车大厂中。

国内头部网络安全企业、天融信科技集团智能网联汽车安全专家左世涛认为，胡胜山团队研究成果填补了国内物理对抗场景下模型鲁棒性评测的空白。同时，他提醒整机厂、视觉处理算法服务提供商，应尽快升级自动驾驶视觉感知系统的共性安全漏洞，以应对“对抗样本”攻击，降低安全事故的发生。

【编辑：丁翾】