應(yīng)管理與經(jīng)濟學(xué)院的邀請，合肥工業(yè)大學(xué)偉德國際1946bv官網(wǎng)柴一棟研究員于2023年3月18日上午11點在主樓317會議室做了題為《考慮對抗攻擊威脅的魯棒人工智能方法研究》的學(xué)術(shù)報告。報告會由顏志軍書記主持，學(xué)院眾多師生參加了本次報告會。
報告開始，柴一棟首先通過圖片識別和文本識別等案例揭示了目前智能模型方法在安全性方面的漏洞。其中，對抗攻擊（Adversarial Attack）通過對原始樣本進行輕微擾動生成對抗樣本（Adversarial Samples），實現(xiàn)對智能模型的欺騙，從而對智能模型的安全造成嚴重威脅。為此，柴一棟基于技術(shù)威脅規(guī)避理論(TTAT)，從如何評估智能模型抵御對抗攻擊的能力（對抗魯棒性）以及如何提升智能模型的對抗魯棒性兩個方面展開了闡述。
柴一棟指出，評估智能模型抵御對抗攻擊的能力（對抗魯棒性）可以從指標的設(shè)計以及樣本的選擇入手，通過相對魯棒性(PerformanceRatio)以及曲線下面積(Area Under the Performance-perturbation Curve)對指標進行設(shè)計，并提出了一種新型的可解釋的對抗樣本生成框架(XATA)來進行樣本選擇。在提升智能模型的對抗魯棒性方面，柴一棟通過將多種模型進行融合，設(shè)計出了一種基于貝葉斯的集成模型，能夠抵御大多數(shù)的對抗攻擊。
最后，柴一棟對智能模型抵御對抗攻擊在管理方面的應(yīng)用進行了總結(jié)，并指出管理組織應(yīng)提高智能模型的模型設(shè)計信息和訓(xùn)練數(shù)據(jù)集的保密性，并通過限制訪問次數(shù)來提高智能模型抵御對抗攻擊的能力。
報告結(jié)束后，與會師生與柴一棟展開了積極的討論，受到了很多啟發(fā)。報告反響熱烈，得到了師生們的一致好評。
柴一棟簡介：
柴一棟，合肥工業(yè)大學(xué)研究員，博士生導(dǎo)師。博士畢業(yè)于清華大學(xué)經(jīng)管學(xué)院管理科學(xué)與工程系，本科畢業(yè)于偉德國際1946bv官網(wǎng)信息管理與信息系統(tǒng)專業(yè)，主要關(guān)注如何設(shè)計創(chuàng)新性的人工智能方法，更好地服務(wù)于個人、組織和社會的現(xiàn)代科學(xué)化管理，研究領(lǐng)域包括信息系統(tǒng)安全與網(wǎng)絡(luò)空間管理（醫(yī)聯(lián)網(wǎng)安全等）、智慧醫(yī)療管理、商務(wù)智能管理等。以第一作者或通訊作者發(fā)表研究成果于MISQ、ISR、JMIS、IEEE TDSC、IEEE TPAMI等國際管理學(xué)/計算機科學(xué)頂刊。榮獲國際信息系統(tǒng)權(quán)威會議WITS 2021 best paper award、清華大學(xué)優(yōu)秀博士論文等榮譽。
