應(yīng)管理與經(jīng)濟(jì)學(xué)院的邀請(qǐng)，合肥工業(yè)大學(xué)偉德國(guó)際1946bv官網(wǎng)柴一棟研究員于2023年3月18日上午11點(diǎn)在主樓317會(huì)議室做了題為《考慮對(duì)抗攻擊威脅的魯棒人工智能方法研究》的學(xué)術(shù)報(bào)告。報(bào)告會(huì)由顏志軍書(shū)記主持，學(xué)院眾多師生參加了本次報(bào)告會(huì)。
報(bào)告開(kāi)始，柴一棟首先通過(guò)圖片識(shí)別和文本識(shí)別等案例揭示了目前智能模型方法在安全性方面的漏洞。其中，對(duì)抗攻擊（Adversarial Attack）通過(guò)對(duì)原始樣本進(jìn)行輕微擾動(dòng)生成對(duì)抗樣本（Adversarial Samples），實(shí)現(xiàn)對(duì)智能模型的欺騙，從而對(duì)智能模型的安全造成嚴(yán)重威脅。為此，柴一棟基于技術(shù)威脅規(guī)避理論(TTAT)，從如何評(píng)估智能模型抵御對(duì)抗攻擊的能力（對(duì)抗魯棒性）以及如何提升智能模型的對(duì)抗魯棒性兩個(gè)方面展開(kāi)了闡述。
柴一棟指出，評(píng)估智能模型抵御對(duì)抗攻擊的能力（對(duì)抗魯棒性）可以從指標(biāo)的設(shè)計(jì)以及樣本的選擇入手，通過(guò)相對(duì)魯棒性(PerformanceRatio)以及曲線下面積(Area Under the Performance-perturbation Curve)對(duì)指標(biāo)進(jìn)行設(shè)計(jì)，并提出了一種新型的可解釋的對(duì)抗樣本生成框架(XATA)來(lái)進(jìn)行樣本選擇。在提升智能模型的對(duì)抗魯棒性方面，柴一棟通過(guò)將多種模型進(jìn)行融合，設(shè)計(jì)出了一種基于貝葉斯的集成模型，能夠抵御大多數(shù)的對(duì)抗攻擊。
最后，柴一棟對(duì)智能模型抵御對(duì)抗攻擊在管理方面的應(yīng)用進(jìn)行了總結(jié)，并指出管理組織應(yīng)提高智能模型的模型設(shè)計(jì)信息和訓(xùn)練數(shù)據(jù)集的保密性，并通過(guò)限制訪問(wèn)次數(shù)來(lái)提高智能模型抵御對(duì)抗攻擊的能力。
報(bào)告結(jié)束后，與會(huì)師生與柴一棟展開(kāi)了積極的討論，受到了很多啟發(fā)。報(bào)告反響熱烈，得到了師生們的一致好評(píng)。
柴一棟簡(jiǎn)介：
柴一棟，合肥工業(yè)大學(xué)研究員，博士生導(dǎo)師。博士畢業(yè)于清華大學(xué)經(jīng)管學(xué)院管理科學(xué)與工程系，本科畢業(yè)于偉德國(guó)際1946bv官網(wǎng)信息管理與信息系統(tǒng)專(zhuān)業(yè)，主要關(guān)注如何設(shè)計(jì)創(chuàng)新性的人工智能方法，更好地服務(wù)于個(gè)人、組織和社會(huì)的現(xiàn)代科學(xué)化管理，研究領(lǐng)域包括信息系統(tǒng)安全與網(wǎng)絡(luò)空間管理（醫(yī)聯(lián)網(wǎng)安全等）、智慧醫(yī)療管理、商務(wù)智能管理等。以第一作者或通訊作者發(fā)表研究成果于MISQ、ISR、JMIS、IEEE TDSC、IEEE TPAMI等國(guó)際管理學(xué)/計(jì)算機(jī)科學(xué)頂刊。榮獲國(guó)際信息系統(tǒng)權(quán)威會(huì)議WITS 2021 best paper award、清華大學(xué)優(yōu)秀博士論文等榮譽(yù)。
