江西師范大學(xué)計(jì)算機(jī)信息工程學(xué)院“AI安全與治理”科研團(tuán)隊(duì)在人工智能與消費(fèi)電子交叉領(lǐng)域取得重要進(jìn)展。團(tuán)隊(duì)題為《面向邊緣計(jì)算環(huán)境的高效可信AI模型安全部署與系統(tǒng)服務(wù)優(yōu)化研究》的學(xué)術(shù)論文，被國(guó)際權(quán)威學(xué)術(shù)期刊《IEEE Transactions on Consumer Electronics》正式接收并在線(xiàn)發(fā)表。該期刊是消費(fèi)電子與計(jì)算機(jī)工程領(lǐng)域的頂級(jí)期刊之一，具有廣泛的國(guó)際影響力，此次發(fā)表標(biāo)志著我校在人工智能安全應(yīng)用基礎(chǔ)研究方面邁上了新的臺(tái)階。

論文聚焦于人工智能技術(shù)在消費(fèi)電子與邊緣計(jì)算場(chǎng)景下面臨的核心安全挑戰(zhàn)與系統(tǒng)服務(wù)效能問(wèn)題。隨著智能家居、物聯(lián)網(wǎng)設(shè)備、自動(dòng)駕駛等消費(fèi)級(jí)電子產(chǎn)品的普及，AI模型越來(lái)越多地被部署在資源受限的邊緣設(shè)備上。邊緣環(huán)境固有的計(jì)算能力、存儲(chǔ)空間和能源限制，以及面臨的數(shù)據(jù)隱私泄露、模型對(duì)抗攻擊等安全威脅，嚴(yán)重制約了AI服務(wù)的可靠性與用戶(hù)體驗(yàn)。

本研究創(chuàng)新性地提出了一套針對(duì)邊緣計(jì)算環(huán)境的高效可信AI模型部署與系統(tǒng)服務(wù)框架。該框架的核心在于：設(shè)計(jì)了一種輕量級(jí)的模型動(dòng)態(tài)完整性驗(yàn)證機(jī)制，能夠在資源開(kāi)銷(xiāo)極低的前提下，實(shí)時(shí)檢測(cè)運(yùn)行在邊緣設(shè)備上的AI模型是否遭到篡改或注入后門(mén)；結(jié)合聯(lián)邦學(xué)習(xí)與安全多方計(jì)算技術(shù)，提出了一種隱私保護(hù)的協(xié)同模型更新方案，使得多個(gè)邊緣設(shè)備能夠在無(wú)需上傳原始數(shù)據(jù)的情況下共同優(yōu)化模型性能，有效保護(hù)了用戶(hù)數(shù)據(jù)隱私；團(tuán)隊(duì)構(gòu)建了一個(gè)自適應(yīng)的系統(tǒng)資源調(diào)度與服務(wù)質(zhì)量管理器，能夠根據(jù)設(shè)備實(shí)時(shí)負(fù)載、網(wǎng)絡(luò)狀況和任務(wù)優(yōu)先級(jí)，動(dòng)態(tài)調(diào)配計(jì)算資源，確保AI服務(wù)的響應(yīng)速度與穩(wěn)定性，優(yōu)化整體系統(tǒng)服務(wù)效能。

通過(guò)大量仿真實(shí)驗(yàn)與原型系統(tǒng)測(cè)試，該研究成果在多個(gè)標(biāo)準(zhǔn)數(shù)據(jù)集和真實(shí)邊緣計(jì)算場(chǎng)景下得到了驗(yàn)證。與傳統(tǒng)方法相比，新框架在保證模型預(yù)測(cè)準(zhǔn)確率的將模型驗(yàn)證開(kāi)銷(xiāo)降低了約35%，系統(tǒng)服務(wù)延遲平均減少了28%，并顯著提升了在面對(duì)多種已知對(duì)抗攻擊時(shí)的模型魯棒性。這項(xiàng)研究為在資源受限的消費(fèi)電子設(shè)備上安全、高效地部署和運(yùn)行人工智能服務(wù)提供了切實(shí)可行的理論依據(jù)與技術(shù)方案。

本論文的發(fā)表，是江西師范大學(xué)計(jì)算機(jī)學(xué)院“AI安全與治理”科研團(tuán)隊(duì)長(zhǎng)期深耕人工智能安全、隱私計(jì)算和邊緣智能等前沿方向的又一重要成果。團(tuán)隊(duì)負(fù)責(zé)人表示，未來(lái)將繼續(xù)圍繞國(guó)家在人工智能治理與安全方面的戰(zhàn)略需求，深化基礎(chǔ)理論研究，推進(jìn)產(chǎn)學(xué)研合作，致力于構(gòu)建更安全、更可靠、更高效的智能計(jì)算系統(tǒng)服務(wù)體系，為賦能數(shù)字經(jīng)濟(jì)健康發(fā)展貢獻(xiàn)學(xué)術(shù)力量。