2023年3月9日上午。學(xué)院邀請(qǐng)了湖南大學(xué)信息科學(xué)與工程學(xué)院胡玉鵬教授在線下為永利yl23411官網(wǎng)師生帶來(lái)了一場(chǎng)題為“矛與盾：人工智能范式下的安全系統(tǒng)與系統(tǒng)安全”的學(xué)術(shù)講座。
胡玉鵬教授是教育部普通高等學(xué)校本科教育教學(xué)評(píng)估專家、中國(guó)工程教育認(rèn)證專家、湖南大學(xué)現(xiàn)代工程訓(xùn)練中心副主任，入選湖南省杰青、芙蓉學(xué)者、湖湘青年英才。目前已主持國(guó)家保密科研B類重點(diǎn)項(xiàng)目、國(guó)家自然科學(xué)基金面上項(xiàng)目等國(guó)家和省部級(jí)課題三十余項(xiàng)，以及華為等高新技術(shù)企業(yè)的技術(shù)攻關(guān)項(xiàng)目十余項(xiàng)。在ACM CSUV、IEEE TDSC、IEEE TCAD、IEEE TC、IEEE TCC、IEEE IoT-J、IEEE/IFIP DSN、CODES+ISSS、IEEE CLUSTER等發(fā)表論文80余篇，包括獲得ACM SIGBED國(guó)際旗艦會(huì)議CODES+ISSS 2022最佳論文提名、第六屆中國(guó)科協(xié)優(yōu)秀科技論文獎(jiǎng)等。
隨著近期ChatGPT的出現(xiàn)，人工智能的安全問(wèn)題也再次受到了人們的關(guān)注。胡玉鵬教授就人工智能范式下安全系統(tǒng)存在的內(nèi)生安全缺陷進(jìn)行了詳細(xì)的介紹，并強(qiáng)調(diào)了這些缺陷所帶來(lái)的安全風(fēng)險(xiǎn)。由于人工智能模型的復(fù)雜性，潛在攻擊者可以惡意修改訓(xùn)練或測(cè)試數(shù)據(jù)的分布以破壞模型結(jié)構(gòu)。這種內(nèi)生的安全隱患所引發(fā)的安全問(wèn)題日益突出，因此構(gòu)建對(duì)抗機(jī)器學(xué)習(xí)攻擊的安全系統(tǒng)顯得尤為重要。
胡玉鵬教授首先以基于深度學(xué)習(xí)的智能語(yǔ)義分析在稀疏敏感文本挖掘和系統(tǒng)代碼漏洞挖掘中的應(yīng)用實(shí)踐為例，介紹了人工智能技術(shù)在構(gòu)建安全系統(tǒng)方面的一些應(yīng)用研究，闡述了人工智能技術(shù)在構(gòu)建安全系統(tǒng)方面的前景和應(yīng)用場(chǎng)景。接著，胡教授對(duì)AI系統(tǒng)的數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、模型訓(xùn)練、模型推理、系統(tǒng)集成全生命周期的安全問(wèn)題展開了深入的探討。針對(duì)機(jī)器學(xué)習(xí)攻擊技術(shù)（如對(duì)抗樣本攻擊、投毒攻擊、后門攻擊等）所帶來(lái)的安全風(fēng)險(xiǎn)，闡述了最新的攻擊與防御技術(shù)，并探討了如何利用高效的混淆技術(shù)構(gòu)建能有效對(duì)抗機(jī)器學(xué)習(xí)攻擊的PUF系統(tǒng)，以保障人工智能系統(tǒng)內(nèi)部安全結(jié)構(gòu)不被機(jī)器學(xué)習(xí)技術(shù)推測(cè)。
會(huì)上，胡玉鵬教授不僅介紹了人工智能技術(shù)在構(gòu)建安全系統(tǒng)方面的最佳實(shí)踐，也對(duì)未來(lái)的研究發(fā)展方向給出了展望，加深了同學(xué)們對(duì)人工智能技術(shù)的認(rèn)識(shí)和理解。
永利yl23411官網(wǎng)
2023年3月12日
當(dāng)前位置：