阿里建立AI防御系統(tǒng)反抗黑灰產(chǎn)數(shù)據(jù)污染

大數(shù)據(jù)、計算和算法是人工智能的三大要素，如何保障數(shù)據(jù)安全和數(shù)據(jù)的清潔度，是提升智能產(chǎn)品安全性的 關(guān)鍵因素。近日，BAT等互聯(lián)網(wǎng)企業(yè)齊聚，在2021全球人工智能與機器人峰會(CCF-GAIR)上圍繞智能安全進(jìn)行深入探討。

作為受邀嘉賓，阿里巴巴安全部算法資深總監(jiān)路全指出，人工智能帶來更多可能的同時，也帶來了諸多安全風(fēng)險，尤其黑灰產(chǎn)正在使用“數(shù)據(jù)污染”、“數(shù)據(jù)中毒”等新型復(fù)雜化手段，與人工智能行業(yè)的正向發(fā)展進(jìn)行激烈對抗。

阿里巴巴安全部資深總監(jiān)路全表示，阿里已建成流量清洗智能防御系統(tǒng)治理“污染數(shù)據(jù)”問題。

他以人工智能汽車的安全問題舉例稱，除了“利用智能算法本身缺陷改變交通標(biāo)志”或以“傳統(tǒng)的黑客入侵滲透控制其他平民汽車”等方式，可以控制攻擊智能汽車外，通過向智能設(shè)備云端或系統(tǒng)輸入污染、“中毒”數(shù)據(jù)，同樣可以用來攻擊人工智能系統(tǒng)及設(shè)備。

其攻擊原理是，人工智能都基于大數(shù)據(jù)算法來實現(xiàn)精準(zhǔn)運算，很終產(chǎn)生實際行為，正是利用這一特性，對抗方可以輸入一些受污染的數(shù)據(jù)“喂養(yǎng)”、“練習(xí)”人工智能系統(tǒng)，使其偏離正常的運算目標(biāo)，很終產(chǎn)生失焦的運算行為，從而引發(fā)一系列安全風(fēng)險。

“黑灰產(chǎn)對抗方會用大量低級爬蟲或低級流量，來試圖爬取互聯(lián)網(wǎng)公司的數(shù)據(jù)信息，他們明知低級爬蟲很簡單被殺掉，但仍會不惜成本投入。”路全解釋稱，這些低級爬蟲樣本產(chǎn)生的“污染數(shù)據(jù)”會影響和扭曲算法模型，很終他們還會利用少量摻雜其中的高級爬蟲進(jìn)行攻擊。

“數(shù)據(jù)中毒的目的就是讓機器學(xué)習(xí)模型不能覆蓋正確的目標(biāo)，從而使其防護失效。”路全表示，阿里安全已經(jīng)建立起了雙層防護機制，專門防護系統(tǒng)安全和防護數(shù)據(jù)污染。

“所有互聯(lián)網(wǎng)公司必須警惕‘?dāng)?shù)據(jù)污染’這種攻擊手段，因為由黑灰產(chǎn)發(fā)起的機器流量是數(shù)據(jù)污染的源頭，為此阿里巴巴除了在傳統(tǒng)網(wǎng)絡(luò)安全上建立安全防御體系防御黑客入侵和滲透外，還建立了全新的流量清洗智能防御系統(tǒng)。”路全介紹，阿里巴巴建立的機器流量防控體系主要由三部分組成，其中包括相當(dāng)于“眼睛”的檢測模塊;以及等同“大腦”的分類模型，還有輔助系統(tǒng)。

基于阿里巴巴擁有的豐富業(yè)態(tài)，阿里安全實驗室在機器算法方面已有深入研究，由達(dá)摩院領(lǐng)銜的各大實驗室也已研發(fā)出各種優(yōu)秀算法，并應(yīng)用于阿里生態(tài)的搜索、廣告、IoT、客服等多個業(yè)務(wù)線。

“假如把AI視作一個正在茁壯成長的小孩，那么臟數(shù)據(jù)或數(shù)據(jù)污染就是病毒有害物，AI算法和機器學(xué)習(xí)是根據(jù)大量數(shù)據(jù)來進(jìn)行的，假如數(shù)據(jù)被污染，就像小孩吃了不健康的東西。”路全形象地比喻說，“要像呵護孩子一樣，去呵護我們的AI系統(tǒng)。”

文章來源：未知

文章標(biāo)題：阿里建立AI防御系統(tǒng)，反抗黑灰產(chǎn)“數(shù)據(jù)污染”

本文地址：www.brucezhang.com/seo/475.html