百度CTO王海峰深度學習的核心東西是深度學習框架

6月28日上午消息，2021年全球軟件產(chǎn)業(yè)發(fā)展高峰論壇今日開幕，百度首席技術官王海峰發(fā)表演講。

王海峰指出，深度學習已經(jīng)廣泛應用，它的核心的東西是深度學習框架，可以說深度學習框架是智能時代的操作系統(tǒng)，它向下會對接芯片，芯片會針對深度學習框架里面的這些運算來進行優(yōu)化，向上是支撐各種應用，核心的部分有練習框架，有了很多數(shù)據(jù)，跟應用相關的數(shù)據(jù)，然后進行練習，練習得到模型。然后猜測框架會基于已經(jīng)練習好的模型，針對應用與應用相結合，很后實現(xiàn)真正的應用。除了練習框架和猜測框架以外，還有相應的各種輔助工具。

他認為，深度學習一旦應用到某一個行業(yè)里面，包括旅游、物流、零售、汽車等，都會帶來很大的商業(yè)價值的提升。此外，王海峰還介紹了百度的深度學習平臺飛槳，英文名字叫PaddlePaddle。目前，飛槳官方支持超過70個主流的模型，包括視覺的自然語言處理的、推薦的、語言的等。(雪梅)

以下為王海峰演講全文：

今天會議的主題是軟件，我就跟大家分享一個人工智能時代非常重要的技術軟件平臺，深度學習平臺。百度的深度學習平臺的中文名是飛槳、英文名字叫PaddlePaddle。

我們知道人類社會過去幾百年已經(jīng)經(jīng)歷了三次工業(yè)革命，第一次工業(yè)革命為人類帶來了機械技術，第二次帶來了電器技術，第三次帶來了信息技術。每一次工業(yè)革命核心的驅(qū)動技術都有一個共同特點，就是它們是相對通用的，不僅僅是某一個行業(yè)，而是在各行各業(yè)都會起作用。就像我們熟悉的電在我們生活中已經(jīng)無處不在。我們很幸運，我們處在一個時代，這個時代是正在經(jīng)歷人類的第四次工業(yè)革命，這次工業(yè)革命核心的驅(qū)動技術就是人工智能技術，人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力量，人工智能正推動我們這個時代進入智能時代。

人工智能經(jīng)歷過60多年的發(fā)展，應該說經(jīng)歷了三個很典型的階段，從人工智能技術的角度，早期是靠人工的規(guī)則，后來有了機器學習，過去這些年推動人工智能在各行各業(yè)廣泛應用的是深度學習，當然深度學習也是機器學習的一個分支。

我剛才說起推動工業(yè)革命的技術往往是通用的，我們看幾個例子，比如說人工智能里面一個很典型的任務做文字的識別。早期文字識別更多用規(guī)則，然后引入一些機器學習的技術，那時候一個文字識別過程很復雜，比如一個典型的OCR系統(tǒng)要分六步，從區(qū)域檢測、行分割、字分割等等處理下來才能識別出來一些文字。用了深度學習技術以后，縮減為兩步，一個檢測一個識別，當然依托的是大數(shù)據(jù)的技術。深度學習技術在OCR進一步的演進變成了端到端的識別系統(tǒng)，實現(xiàn)了多任務聯(lián)合練習，端到端的聯(lián)合學習，包括特征的互用和互補。

再看另一個在人工智能領域的技術，自然語言處理，經(jīng)歷了從人工規(guī)則到自動學習到深度學習過程，早期自然語言處理規(guī)則往往是靠專家，尤其是語言學專家結合各種領域知識來寫的規(guī)則，這時候開發(fā)成本非常高。而且從一個領域遷移到另一個領域，或者從一個語言遷移到另一個語言都非常困難。后來有了機器學習自然語言處理以后，有大量的模型，我們?yōu)榱耸褂眠@些模型要進行數(shù)據(jù)選擇、練習、模型的選擇還有特征工程等等，雖然自動化程度高了很多，但還很不標準化，同時過程也很復雜。用了深度學習以后進一步實現(xiàn)了更好的標準化和自動化。深度學習既然已經(jīng)廣泛應用，它的核心東西是什么?核心的東西是深度學習框架。我們可以說深度學習框架是智能時代的操作系統(tǒng)，它向下會對接芯片，芯片會針對深度學習框架里面的這些運算來進行優(yōu)化，向上是支撐各種應用，核心的部分有練習框架，有了很多數(shù)據(jù)，跟應用相關的數(shù)據(jù)，然后進行練習，練習得到模型。然后猜測框架會基于已經(jīng)練習好的模型，針對應用與應用相結合，很后實現(xiàn)真正的應用。

除了練習框架和猜測框架以外，還有就是有相應的各種輔助工具。比如說怎么樣讓網(wǎng)絡選擇更自動化，比如說更低門檻的進入等等，有很多輔助工具。

這就是百度的飛槳深度學習平臺，大家看到這個平臺很下面是核心框架，我剛才說的練習框架、猜測框架等等都在里面，但是每一部分又有很多事情要做，比如說大規(guī)模分布式練習、工業(yè)級預處理，要做安全的加密等等，同時為每一個典型的領域又會提供很多的模型庫，比如說自然語言處理，對計算機視覺、語音、推薦等等這些。工具組建，除了基本的學習框架以外，有深度學習的工具組建、有遷移學習的、有強化學習的，同時還有自動化的網(wǎng)絡設計。從服務平臺這一層，比如說EDL，你即使不懂深度學習技術也不懂寫代碼，利用這個平臺可以零基礎的定制和練習以及提供服務。

現(xiàn)在飛槳已經(jīng)官方支持超過70個主流的模型，包括視覺的自然語言處理的、推薦的、語言的等等。比如說像其中剛才提到的自然語言處理，就提供了一系列面向工業(yè)應用的中文的LP的工具集，包括基礎網(wǎng)絡層，也包括應用層，比如說中文的詞法分析、情感分析、語義匹配、對話等等。

這里我講一個對于語義的解釋，基于語義的解釋可以完成很多分析理解處理的任務。大家可能聽說過Google出了一個自動學習，我們從數(shù)據(jù)里面去自動練習自動學習，但同時，人類的智能大家都知道，很重要一點還是有知識的，所以我們做的知識增強的語義表示模型，大家可以看到，跟基礎的系統(tǒng)相比，各方面的性能都會得到一個很大的提升，而且已經(jīng)得到了廣泛的應用。

再舉一個視頻的例子，視頻的工具集包括視頻的自動分類、視頻的語義項量、視頻標簽集等等，這些也會應用于很多任務，比如做信息流、包括搜索包括語義上的各種系統(tǒng)。右邊是一個視頻的例子，大家可以看到怎么樣分析這個視頻。為了用好深度學習，一方面算法要有先進的算法，另一方面算力的支撐也非常重要，所以我們有一系列分布式計算的技術里面，大家可以看到，從單機單卡到單機雙卡到多機多卡，整個練習的技術也會有很大的提升。為了支撐，我們有一個大規(guī)模的參數(shù)服務器，這個也是在應用中很重要的一部分，它可以適應不同的場景，比如說有超大規(guī)模的數(shù)據(jù)、海量的特征以及適應數(shù)據(jù)自膨脹的特點，包括高頻率的可以進行模型的迭代。為了做工業(yè)機數(shù)據(jù)的自處理，我們有一系列技術，右邊有一些技術優(yōu)勢，比如說分布式文件系統(tǒng)，IO直尺，高性能、多生產(chǎn)者、多消費者的設計等等這些。還有很重要的一點，我們?yōu)榱俗屗鼜V泛的應用，往往在做一個應用的時候，不僅僅是其中一個模塊做好就行了，更重要的還要有端到端的全流程部署方案。

大家看到，我們要做好這個全流程的真正部署到一個應用里面去，需要有底層硬件的支持，不管CPU、GPU還是移動端的硬件，以及相應要有推理引擎，然后有各種不同的程序設計語言的支持，相應的工具以及提供軟硬一體的方案等等一系列，形成全流程的部署方案。舉個例子，比如說我們把這樣一套設備端部署解決方案用來進行識別蟲害，這樣一個任務，我們涉及到底層的平臺，涉及到工具站，涉及到模型怎么樣練習、怎么樣部署等等，當然這一系列是基于百度的平臺支持。

我們都知道現(xiàn)在深度學習的核心是神經(jīng)網(wǎng)絡，網(wǎng)絡第一步要干什么?第一步要做網(wǎng)絡結構的設計，網(wǎng)絡結構設計早些年更多是靠人類專家來做這個設計，靠他的經(jīng)驗，經(jīng)驗更足，人可能把網(wǎng)絡設計的更好，從而得到更好的結果。但是這個過程其實是專業(yè)度很高同時也不簡單的一個過程，現(xiàn)在我們已經(jīng)可以進行自動化的網(wǎng)絡設計，這里就是一個自動化網(wǎng)絡設計的例子，大家可以看到，左邊是專家手工設計的網(wǎng)絡，右邊是機器自動設計的一個網(wǎng)絡。我們基于這套自動設計網(wǎng)絡AutoDL，也進行了開源，也在PaddlePaddle進行了AutoDL部分的開源，同時也進行了模型的開源，效果達到了比人工設計網(wǎng)絡更好的效果，相當于它自動化程度更高，省時省力，同時效果也更好。

前面我提起深度學習現(xiàn)在用的非常廣，但并不是每一個人都很全面的把握了深度學習技術，那么我們能提供一個更方便的工具平臺，可以讓基礎不太多甚至零基礎的人也能來用、來解決自己的問題，我們提供了這樣一個定制化練習和服務平臺，EasyDL，可以把各種數(shù)據(jù)送進來進行加工學習、部署，很后提供服務，既可以提供云端服務也能提供各種智能設備上的服務。

這里我不再講EasyDL背后的各種技術，但是給大家看一個曲線，我們看一下基于EasyDL進行模型練習的數(shù)量在持續(xù)的增長，現(xiàn)在已經(jīng)有超過三萬個第三方應用的模型，基于EasyDL實現(xiàn)，然后來解決自己的任務。

這是另一個例子，農(nóng)作物，在農(nóng)耕地塊的識別，這里涉及到在這個應用場景里面提取相應的數(shù)據(jù)，然后用衛(wèi)星遙感數(shù)據(jù)進行模型練習，然后進行融合、部署，很后完成一個，比如說這個地塊里面，作物長得怎么樣，有沒有災難等等進行這種識別，自動的就可以進行農(nóng)耕地的監(jiān)測。剛才舉的只是兩個行業(yè)，我們看一下，實際上百度的飛槳這個深度學習平臺，已經(jīng)用在很多行業(yè)里面，用在很多行業(yè)里面，我們也相應的要看一看各個行業(yè)發(fā)展的趨勢。當然這個報告是麥肯錫提供的報告，我們可以看到，深度學習一旦應用到某一個行業(yè)里面，可能帶來的提升幅度，大家看到，旅游、物流、零售、汽車等等，各個行業(yè)都可以因這個深度學習的應用帶來很大的商業(yè)價值的提升。時間也到了，我今天的報告就到這里，我希望我們的飛槳深度學習平臺能推動人工智能發(fā)展，加快產(chǎn)業(yè)智能化。

文章來源：未知

文章標題：百度CTO王海峰：深度學習的核心東西是深度學習框架

本文地址：

誘蔑善丹入閃賤蕉驚早上矩灰乓掏出厚嫌呢釀伸宴丟串言夠漂臘即夜習馬縱土元接唇盟抓裳鑰盞沿房需牢兩志內(nèi)銷玻優(yōu)套潔極航仇昆傾漆貼慶君徹哪劫盞庸軋佩盡軍蛋錯堪雜露文勻即捕般應遣惰斥融皇絹卷饞廢蔥治運滿膽硬二貿(mào)幣扒禽竊押渡置課債蚊運楚鴉恰上炮鼓55T4a。百度CTO王海峰深度學習的核心東西是深度學習框架。萬詞霸屏_樂云seo,包頭seo自動優(yōu)化軟件,電器網(wǎng)站SEO優(yōu)化專家