報(bào)告人：LIU YANG教授
報(bào)告時(shí)間：2024年6月18日上午10點(diǎn)-11點(diǎn)30
報(bào)告地點(diǎn)：江安校區(qū)多學(xué)科交叉研究創(chuàng)新大樓九樓919報(bào)告廳
報(bào)告內(nèi)容：
AIGC與網(wǎng)絡(luò)安全涉及在軟件開發(fā)過程的所有階段系統(tǒng)地整合安全測試。其目的是通過使用工具來自動化人類專家的安全專業(yè)知識，從而在開發(fā)生命周期的早期階段就能早期識別和解決安全問題。然而，其有效性在很大程度上依賴于智能工具模擬或潛在替代安全專家的能力。隨著大型語言模型（LLM）的出現(xiàn)，現(xiàn)在提供了實(shí)現(xiàn)這一目標(biāo)的新手段。在這次演講中，我將討論利用LLM在應(yīng)用安全領(lǐng)域的最新努力，涵蓋漏洞分析的完整生命周期：漏洞檢測、診斷、POC生成和修復(fù)。另一方面，確保AI應(yīng)用成功部署，LLM的安全性同樣重要。在這個(gè)方向上，我們將展示有關(guān)LLM攻擊面的最新研究成果，包括針對提示注入的黑盒/白盒攻擊生成、針對多模態(tài)模型的攻擊、后門攻擊以及可能的防御機(jī)制。最后，我們正在考慮整合這兩個(gè)方面，以開發(fā)一個(gè)用于應(yīng)用安全分析的AI支持平臺。
報(bào)告人簡介：
LIU YANG博士南洋理工大學(xué)教授，網(wǎng)絡(luò)安全研究中心執(zhí)行主任、CyberSG研發(fā)項(xiàng)目辦公室（CRPO）執(zhí)行主任。2019年授予南洋理工大學(xué)大學(xué)領(lǐng)導(dǎo)論壇講席教授職位，2024年被授予校長講席教授職位。
LIU YANG博士專長于軟件工程、網(wǎng)絡(luò)安全和人工智能。他的研究成功地彌合了程序分析、數(shù)據(jù)分析和AI在理論和實(shí)際使用方面的差距，以評估軟件的設(shè)計(jì)和實(shí)施以實(shí)現(xiàn)高保證和安全性。他的許多研究已經(jīng)成功商業(yè)化。截至目前，在頂級會議和期刊上發(fā)表了超過500篇論文，并獲得了27個(gè)最佳論文獎和一個(gè)在頂級軟件工程會議上的最具影響力系統(tǒng)獎。他還領(lǐng)導(dǎo)了幾個(gè)主要的研究中心，包括Cysren、CRPO、南洋理工大學(xué)的可信AI中心（TAICeN）和與ICL合作的CREATE中心，專注于醫(yī)療設(shè)備安全。他獲得了多個(gè)高聲望獎項(xiàng)，包括微軟亞洲研究院獎學(xué)金、TRF獎學(xué)金、南洋助理教授、陳振傳獎學(xué)金、南洋研究獎、ACM杰出演講者、國家研究基金會調(diào)查員獎和南洋理工大學(xué)創(chuàng)新者（創(chuàng)業(yè)）獎。
永利yl23411官網(wǎng)
2024年6月12日
當(dāng)前位置：