报告题目:智能物联网系统安全
报告人:上海交通大学朱浩瑾教授
报告时间:2024年6月15日16:30--17: 30
报告地点:逸夫楼219会议室
简介:朱浩瑾,上海交通大学计算机科学与工程系教授,国家杰出科学基金获得者,IEEE Fellow,上海交通大学电子信息与电气工程学院副院长。主要研究方向为物联网安全。主持包括国家自然基金6项(包括自然基金重点项目1项),重点研发课题 2 项等。已发表(或录用)SCI期刊70余篇,EI检索论文100余篇。其中包括顶级会议IEEE S&P, USENIX Security, ACM CCS, NDSS等。相关研究工作谷歌学术总引用次数11000余次,H-index 52。研究成果获得2023年SIGSOFT ESEC/FSE Distinguished Paper,2021年ACM CCS Best Paper Runner-ups Awards、2020年IEEE TCSC Excellence in Scalable Computing (Middle Career Researcher,2020)、与2018 年教育部自然科学一等奖。担任IEEE/ACM Transactions on Networking (TON), IEEE Transactions on Wireless Communications(TWC)和ACM Transactions on Privacy and Security (TOPS)编委以及USENIX Security, CCS, NDSS等顶级会议程序委员会委员。
报告摘要:传统的物联网系统与人工智能技术相结合,提供了丰富的功能。然而,物联网系统智能化的过程中,面临“外部识不准、底层靠不住”的难题。本报告首先从后门威胁出发,介绍了物联网系统图像接口与NLP接口存在的隐蔽后门威胁,可以造成图像失败错误,自然语音理解错误的安全威胁。其次,面对AI智能决策所依赖的底层算法库,本报告在硬件层面介绍团队最新发现的比特翻转安全威胁。相关研究显示,攻击者仅翻转硬件1 bit 信息,即可造成上层AI模型的决策失灵。