“GEEKCON2025”上海站收官 业界共探AI与机器人安全等新挑战

中新网上海10月24日电 (记者 陈静)当下，在人工智能与物理世界加速融合的背景下，安全问题已延伸到智能技术的多个应用场景。24日在沪举行的以“种下一颗不让世界变坏的念头”为主题的安全极客大赛与大会(“GEEKCON2025”上海站)，汇聚了来自全球的“白帽黑客”。他们在现场演示一个个攻防场景。

当选手对着人形机器人轻声说出“芝麻开门”时，机器人就脱离了原主人的掌控，完全听命于陌生人。深入研究机器人安全的选手表示，其发现了机器人内置的大模型Agent中的一个逻辑缺陷，这个漏洞可以让攻击者构造特定的语音输入来获取目标机器人上的任意代码执行权限。被控制的机器人还能将攻击指令传播给其他同型号机器人，这种连锁反应效应揭示了未来机器人集群可能面临的系统性风险。

机器人网络安全攻防挑战环节展示未来机器人集群可能面临的系统性风险。(GEEKCON2025组委会供图)　　现场评委、GEEKCON组委谭晓生表示，安全的具身智能是具身智能在生产、生活中普及的先决条件，这是具身智能产业所面临的一个挑战，需要学术界、产业界、监管方等安全生态圈的各个环节共同努力，找到有效、可持续发展的解决方案。

另一组选手则展示了名为"你的眼镜，我的眼睛"的挑战项目。挑战者仅用70秒时间就完成了对AI智能眼镜的代码植入。攻击完成后，设备的指示灯被熄灭，AI智能眼镜用户根本无法察觉摄像头已被远程控制，眼前看到的一切都被现场直播。项目裁判、DARKNAVY安全研究员肖轩淦解释道：“AI智能眼镜被攻击后，会实时将拍摄画面传输到攻击者的设备上。”研究人员发现，这类攻击不仅限于视频采集，部分智能眼镜的麦克风同样存在被静默激活的风险，这意味着用户的隐私安全面临全方位威胁。

当日，无人机攻防演示亦吸引众多关注。选手分别针对四款主流商用无人机进行了安全测试。项目裁判李忠睿向记者表示：“选手发现了无人机系统中的多个漏洞，其中最严重的一个漏洞允许攻击者伪造控制信号。”这一发现对快速发展的低空经济具有重要意义。随着无人机物流、城市空中交通等应用的加速落地，确保飞行器免受恶意攻击成为行业健康发展的一个基本前提。

在技术分享环节，一项关于移动设备生物认证安全的研究报告引发了在场观众深思。研究团队耗时九个月，对市场上主流手机厂商的生物认证系统进行了深度“审计”。研究报告第一作者肖轩淦指出：“我们在部分设备的生物认证实现过程中发现了设计缺陷。攻击者可以通过特定方式获取身份认证所使用的共享密钥，进而绕过所有安全保护措施。”研究人员在现场演示了攻击过程：一部搭载了多种生物识别技术的手机，仅用两分钟就被成功提取出PIN码。这不仅意味着设备解锁的风险，更可能导致支付应用、个人信息等敏感数据泄露。

智能眼镜网络安全挑战环节，智能眼镜被攻击后，会实时将拍摄画面传输到攻击者的设备上。("GEEKCON2025"组委会供图)　　现场选手还挑战并分享了智能机车、AI智能体、安卓蓝牙、手机应用、电脑系统等不同领域的最新安全研究成果。 GEEKCON2025组委会主席王琦在接受采访时直言，行业当前面临挑战。新兴产业对网络安全不够重视；传统行业对安全投入成本不足；安全行业中安全研究岗位减少，导致基础能力薄弱，这将影响整个数字生态的安全根基。

据悉，自2014年创办以来，GEEKCON已成功举办十七届。到目前为止，GEEKCON已吸引超过30000名安全研究人员参与，并与多家科技企业建立了深入的技术交流机制。面对日益复杂的安全形势，GEEKCON正在推动建立智能设备安全量化评级体系。“我们希望让安全变得可感知、可比较，就像餐厅的卫生评级一样，”王琦表示。目前，相关体系已在智能手机、家用摄像头和智能门锁领域得到初步应用。据悉，这种可视化的安全评估方式有助于推动行业整体安全水平的提升。

GEEKCON主办方表示，安全有点像空气，拥有的时候容易忽视，失去时却是致命的；希望通过持续的技术探索和研究，推动全社会树立正确的安全观念，让安全与创新协同发展。

据悉，本次大赛中发现的重要安全问题已按照业界规范通报相关厂商，部分厂商已着手完善产品设计。大赛组委会表示，将继续推动负责任的安全漏洞披露和处理机制，携手全球安全研究人员，共同守护智能时代的数字安全底线。(完)