【AI赋能大讲堂】第三课:大模型时代的AI安全:从理论到实践(论坛)

发布日期:2025-06-09      浏览次数:10

主讲人:专家
讲座时间:2025-06-12 13:20:00
讲座地点:临港校区学术楼301
主办单位:上海市计算机学会信息安全专委会;承办单位:上海电力大学;协办:华为可信领域科学家委员会

主讲人简介:

【1】张谧,复旦大学计算与智能创新学院教授,博导,白泽AI团队负责人,专注于对话大模型、多模态大模型与智能体安全研究。曾深度参与信安标委《生成式人工智能服务安全基本要求》、《人工智能生成合成内容标识办法》等多项国家/行业标准起草/建议工作;主持科 技部重点研发计划课题等,并主持奇安信、阿里、华为等企业项目,曾获CCF科学技术奖自然科学二等奖等荣誉;在网络安全与AI领域顶会顶刊发表学术成果近百篇,包括S&P、USENIX Security、 CCS、 TDSC、 TIFS、 TPAMI、 TKDE、 ICML、 NeurIPS、 AAAI、 CVPR、ICDE等。团队培养硕博数十人,毕业生就业去向包括大厂、各大高校等。 

【2】熊贇,教授,博士生导师。上海市数据科学重点实验室副主任。研究方向数据科学、大数据。研究工作获得了国家、省部级以及企业资助。发表论文100余篇,出版专著4本。曾获中国计算机学会科学技术发明奖、上海市科技进步奖等奖项。在国内率先开展数据科学的研 究工作,提出了一批新型的大数据智能挖掘算法,这些算法已经被应用于证券交易所、医联平台、交通信息中心等上海市大数据建设重要领域。 

【3】符春辉,杭州安恒信息技术股份有限公司 智能检测与终端产品线副总裁、CCF人工智能与模式识别专委委员;负责过多款漏洞扫描产品的开发,包括工具箱、漏洞扫描、资产脆弱性及漏洞管理系统等;对主机、Web安全有非常深入的研究,目前聚焦在大模型安全研究, 是公司首款大模型安全产品“大模型风险评估系统”的负责人;参与过多个地区的地标、大型央国企的企标的制定和审核,牵头与中国软件测评中心输出《Top开源大模型安全测评报告(2024)》。 

【4】孟国柱 ,2017年博士毕业于新加坡南洋理工大学,2018年加入中国科学院信息工程研究所担任副研究员。曾获2019年ACM SIGSAC中国新星奖,2022年北京市科技新星,北京市科技进步一等奖,电子学会科技进步一等奖等。主要研究方向包括软件与系统安全、人工 智能安全与隐私,在ACM CCS,USENIX Security,ICSE等学术会议和期刊上发表CCF-A类论文30余篇。

讲座内容:

随着大模型技术的飞速发展,人工智能正以前所未有的速度改变着各行各业。从自然语言处理到计算机视觉,从生成式AI到多模态融合,大模型展现出强大的能力,同时也带来了诸多安全挑战。数据隐私泄露、模型对抗攻击、内容生成滥用、算法偏见与歧视等问题日益突出,成为制约AI技术可持续发展的关键瓶颈。在此背景下,如何构建安全可信的人工智能系统,已成为学术界、产业界和监管机构共同关注的核心议题。

本次技术论坛以“大模型时代的AI安全:从理论到实践”为主题,旨在汇聚来自学术界、工业界及政策制定领域的专家学者,围绕AI安全的核心挑战展开深入探讨。论坛将聚焦于大模型在实际应用中的安全风险识别、评估与治理,分享最新的研究成果与工程实践经验,推动建立科学合理的AI安全标准与治理体系。通过理论与实践的结合,促进跨学科交流与合作,助力打造更加可信、可控、可解释的新一代人工智能系统,为AI技术的健康发展提供坚实保障。

时间
内容
13:30-13:40
开幕式,领导致辞
13:40-14:20

报告01:张谧

题目:大模型安全风险与治理—复旦白泽助力负责任AI

14:20-15:00

报告02:熊贇

题目:领域大模型方法研究与安全挑战

15:00-15:10
中场休息
15:10-15:50

报告03:符春辉

题目:让智能更安全:大模型风险识别与防范

15:50-16:30

报告04:孟国柱

题目:保护AI系统:现实部署的风险与挑战


Baidu
sogou