粤港澳大湾区软件可靠性学术沙龙在学院顺利举行

粤港澳大湾区软件可靠性学术沙龙

2024年11月2日下午，粤港澳大湾区软件可靠性学术沙龙在必赢3003no1线路检测中心珠海校区瀚林2号举行。香港科技大学王帅副教授、香港中文大学（深圳）贺品嘉助理教授、香港大学陈怡助理教授、必赢3003no1线路检测中心网络空间安全学院薛磊副教授、必赢3003no1线路检测中心必赢3003no1线路检测中心院长郑子彬教授、学院多位教师以及全体研究生参加了此次论坛，论坛由学院南雨宏副教授和陈壮彬助理教授共同主持。

在本次论坛中，香港中文大学（深圳）贺品嘉助理教授作了题为“基于ICL和SFT的大模型越狱攻防研究”的报告，详细介绍了团队针对大模型，在“当前的训练数据可能存在什么样的问题”以及“什么样的训练数据可以训练出更安全的模型”这两个问题上所开展的研究。他表示，理解能力更强的大模型在面对非自然语言越狱攻击时反而存在更大的安全风险，希望能在保持模型有效性的基础上对模型进行安全微调，从而提升可靠性。

贺品嘉助理教授作学术报告

香港大学陈怡助理教授作了题为“字里行间的陷阱：从文档表达错误预测代码安全威胁”的报告，分别介绍了文档信息不一致、信息分散以及关键信息缺失所带来的安全问题，并以4G/5G及生活中的实际聚合支付场景为例进行具体阐述。她指出了研究在代码生成前进行文档层面的漏洞检测的意义，这不仅能节约时间和经济成本，还能提高发现逻辑漏洞的成功率，并表示大模型会是很好的研究辅助工具。

陈怡助理教授作学术报告

香港科技大学王帅副教授作了题为“打造安全可靠的大模型系统”的报告。在介绍完研究视角和技术矩阵后，他分别以AC-Xray和AC-Guard这两个安全保障平台为例，以全要素的安全视角出发，分享了大模型从底层硬件向上直到行业应用的相关案例及研究成果。AC-Xray在对大模型服务栈进行漏洞检测中发现了侧信道泄露、硬件漏洞注入、大模型非公平性等一系列问题；而AC-Guard借助混淆、水印、模型修复等技术来为大模型使用过程提供持续防护。

王帅副教授作学术报告

本次论坛还设置了圆桌交流环节。几位参会老师就“优秀硕博的科研成长路”这一主题展开了热烈的讨论，分享了宝贵的经验与见解。例如，针对“提高论文写作质量与效率的技巧”这一话题，贺品嘉助理教授分享了自己通过拆解和批注优秀论文来提高写作能力的经验，并表示文章内容的表达应该简单直接；王帅副教授谈到一篇好的文章应该具备清晰的行文逻辑，有助于审稿人理解核心要点；陈怡助理教授则表示，写作没有技巧只有方法，需要给写作和修改留出充足的时间去训练；薛磊副教授同样表示好的文章不仅是写出来的，很多时候还是改出来的，论文写作应该是一个先完成基本思路再通过交流讨论去不断完善的过程；郑子彬教授补充提到部分学生对于不同国际会议论文的侧重点和写作风格不够了解，需要有自己更专注研究的子领域。

论坛最后，学院进行了产学研成果展示大赛的获奖名单公布及颁奖活动，由参会嘉宾向获奖同学颁发奖状并合影留念。

产学研成果展示大赛颁奖环节

世纪中大，山高水长。必赢3003no1线路检测中心在必赢3003no1线路检测中心百年校庆之际顺利举行了粤港澳大湾区软件可靠性学术沙龙，旨在促进参与者之间的思想碰撞和知识分享，也进一步激发了师生的创新思维，助力我校研究生成长及职业发展。