阿里建立AI防御系統(tǒng)反抗黑灰產(chǎn)數(shù)據(jù)污染

大數(shù)據(jù)、計(jì)算和算法是人工智能的三大要素，如何保障數(shù)據(jù)安全和數(shù)據(jù)的清潔度，是提升智能產(chǎn)品安全性的 關(guān)鍵因素。近日，BAT等互聯(lián)網(wǎng)企業(yè)齊聚，在2021全球人工智能與機(jī)器人峰會(huì)(CCF-GAIR)上圍繞智能安全進(jìn)行深入探討。

作為受邀嘉賓，阿里巴巴安全部算法資深總監(jiān)路全指出，人工智能帶來(lái)更多可能的同時(shí)，也帶來(lái)了諸多安全風(fēng)險(xiǎn)，尤其黑灰產(chǎn)正在使用“數(shù)據(jù)污染”、“數(shù)據(jù)中毒”等新型復(fù)雜化手段，與人工智能行業(yè)的正向發(fā)展進(jìn)行激烈對(duì)抗。

阿里巴巴安全部資深總監(jiān)路全表示，阿里已建成流量清洗智能防御系統(tǒng)治理“污染數(shù)據(jù)”問(wèn)題。

他以人工智能汽車的安全問(wèn)題舉例稱，除了“利用智能算法本身缺陷改變交通標(biāo)志”或以“傳統(tǒng)的黑客入侵滲透控制其他平民汽車”等方式，可以控制攻擊智能汽車外，通過(guò)向智能設(shè)備云端或系統(tǒng)輸入污染、“中毒”數(shù)據(jù)，同樣可以用來(lái)攻擊人工智能系統(tǒng)及設(shè)備。

其攻擊原理是，人工智能都基于大數(shù)據(jù)算法來(lái)實(shí)現(xiàn)精準(zhǔn)運(yùn)算，很終產(chǎn)生實(shí)際行為，正是利用這一特性，對(duì)抗方可以輸入一些受污染的數(shù)據(jù)“喂養(yǎng)”、“練習(xí)”人工智能系統(tǒng)，使其偏離正常的運(yùn)算目標(biāo)，很終產(chǎn)生失焦的運(yùn)算行為，從而引發(fā)一系列安全風(fēng)險(xiǎn)。

“黑灰產(chǎn)對(duì)抗方會(huì)用大量低級(jí)爬蟲(chóng)或低級(jí)流量，來(lái)試圖爬取互聯(lián)網(wǎng)公司的數(shù)據(jù)信息，他們明知低級(jí)爬蟲(chóng)很簡(jiǎn)單被殺掉，但仍會(huì)不惜成本投入。”路全解釋稱，這些低級(jí)爬蟲(chóng)樣本產(chǎn)生的“污染數(shù)據(jù)”會(huì)影響和扭曲算法模型，很終他們還會(huì)利用少量摻雜其中的高級(jí)爬蟲(chóng)進(jìn)行攻擊。

“數(shù)據(jù)中毒的目的就是讓機(jī)器學(xué)習(xí)模型不能覆蓋正確的目標(biāo)，從而使其防護(hù)失效。”路全表示，阿里安全已經(jīng)建立起了雙層防護(hù)機(jī)制，專門(mén)防護(hù)系統(tǒng)安全和防護(hù)數(shù)據(jù)污染。

“所有互聯(lián)網(wǎng)公司必須警惕‘?dāng)?shù)據(jù)污染’這種攻擊手段，因?yàn)橛珊诨耶a(chǎn)發(fā)起的機(jī)器流量是數(shù)據(jù)污染的源頭，為此阿里巴巴除了在傳統(tǒng)網(wǎng)絡(luò)安全上建立安全防御體系防御黑客入侵和滲透外，還建立了全新的流量清洗智能防御系統(tǒng)。”路全介紹，阿里巴巴建立的機(jī)器流量防控體系主要由三部分組成，其中包括相當(dāng)于“眼睛”的檢測(cè)模塊;以及等同“大腦”的分類模型，還有輔助系統(tǒng)。

基于阿里巴巴擁有的豐富業(yè)態(tài)，阿里安全實(shí)驗(yàn)室在機(jī)器算法方面已有深入研究，由達(dá)摩院領(lǐng)銜的各大實(shí)驗(yàn)室也已研發(fā)出各種優(yōu)秀算法，并應(yīng)用于阿里生態(tài)的搜索、廣告、IoT、客服等多個(gè)業(yè)務(wù)線。

“假如把AI視作一個(gè)正在茁壯成長(zhǎng)的小孩，那么臟數(shù)據(jù)或數(shù)據(jù)污染就是病毒有害物，AI算法和機(jī)器學(xué)習(xí)是根據(jù)大量數(shù)據(jù)來(lái)進(jìn)行的，假如數(shù)據(jù)被污染，就像小孩吃了不健康的東西。”路全形象地比喻說(shuō)，“要像呵護(hù)孩子一樣，去呵護(hù)我們的AI系統(tǒng)。”

文章來(lái)源：未知

文章標(biāo)題：阿里建立AI防御系統(tǒng)，反抗黑灰產(chǎn)“數(shù)據(jù)污染”

本文地址：www.brucezhang.com/seo/475.html