電子發燒友網 > 人工智能 > 正文

深度學習前饋神經網絡技術分析

2020年02月08日 19:03 ? 次閱讀

Index

多層感知機(MLP)介紹

深度神經網絡的激活函數

深度神經網絡的損失函數

多層感知機的反向傳播算法

神經網絡的訓練技巧

深度卷積神經網絡

前饋神經網絡(feedforward neural network)是一種最簡單的神經網絡,各神經元分層排列。每個神經元只與前一層的神經元相連。接收前一層的輸出,并輸出給下一層.各層間沒有反饋。是目前應用最廣泛、發展最迅速的人工神經網絡之一。研究從20世紀60年代開始,目前理論研究和實際應用達到了很高的水平。

——百度百科

深度學習模型,類似的模型統稱是叫深度前饋網絡(Deep Feedforward Network),其目標是擬合某個函數f,由于從輸入到輸出的過程中不存在與模型自身的反饋連接,因此被稱為“前饋”。常見的深度前饋網絡有:多層感知機、自編碼器、限制玻爾茲曼機、卷積神經網絡等等。

01 多層感知機(MLP)介紹

說起多層感知器(Multi-Later Perceptron),不得不先介紹下單層感知器(Single Layer Perceptron),它是最簡單的神經網絡,包含了輸入層和輸出層,沒有所謂的中間層(隱含層),可看下圖:

也就是說,將輸入向量賦予不同的權重向量,整合后加起來,并通過激活函數輸出1或-1,一般單層感知機只能解決線性可分的問題,如下圖:

我選擇了0個隱含層,也就是我們介紹的單層感知機,對于可以線性可分的數據,效果還是可以的。如果我換成線性不可分的數據集,如下圖,那么跑半天都跑不出個什么結果來。

這個時候就引入多層感知器,它相比單層感知器多了一個隱含層的東西,同樣的數據集,我加入兩層 隱含層,瞬間就可以被分類得很好。

對于上面直觀的了解,我這里還是要深入介紹一下多層感知機的原理。MulTI-Layer Perceptron(我們后面都叫MLP),MLP并沒有規定隱含層的數量,因此我們可以根據自己的需求選擇合適的層數,也對輸出層神經元沒有個數限制。

02 深度神經網絡的激活函數

感知機算法中包含了前向傳播(FP)和反向傳播(BP)算法,但在介紹它們之前,我們先來了解一下深度神經網絡的激活函數。

為了解決非線性的分類或回歸問題,我們的激活函數必須是非線性的函數,另外我們使用基于梯度的方式來訓練模型,因此激活函數也必須是連續可導的。 @ 磐創 AI

常用的激活函數主要是:

Sigmoid激活函數

Sigmoid函數就是LogisTIc函數,其數學表達式為:

對應函數圖像為:

對應的導函數為:

可以看出,Sigmoid激活函數在定義域上是單調遞增的,越靠近兩端變化越平緩,而這會導致我們在使用BP算法的時候出現梯度消失的問題。

Tanh激活函數

Tanh激活函數中文名叫雙曲正切激活函數,其數學表達式為:

對應函數圖像為:

對應的導函數為:

同樣的,tanh激活函數和sigmoid激活函數一樣存在梯度消失的問題,但是tanh激活函數整體效果會優于Sigmoid激活函數。

Q:為什么Sigmoid和Tanh激活函數會出現梯度消失的現象?

A:兩者在z很大(正無窮)或者很小(負無窮)的時候,其導函數都會趨近于0,造成梯度消失的現象。

ReLU激活函數

ReLU激活函數又稱為修正線性單元或整流性單元函數,是目前使用比較多的激活函數,其數學表達式為:

對應函數圖像為(a):

對應的導函數為:

ReLU激活函數的收斂速度要比上面兩種要快得多,ReLU激活函數的X軸左側值恒為0,使得網絡具有一定的稀疏性,從而減少參數之間的依存關系,緩解了過擬合的情況,而且它的導函數有部分為常數1,因此不存在梯度消失的問題。但ReLU激活函數也有弊端,那就是會丟失一些特征信息。

LReLU激活函數

上面可以看到LReLU激活函數的圖像了,它和ReLU激活函數的區別在于當z<0時,其值不為0,而是一個斜率為a的線性函數(一般a會是一個十分小的正數),這樣子即起到了單側抑制,也不完全丟失負梯度信息,其導函數表達式為:

03 深度神經網絡的損失函數

損失函數(Loss FuncTIon)又被稱為Cost FuncTIon,作用是用來表示預測值與真實值之間的誤差,深度學習模型的訓練是基于梯度的方法最小化Loss Function的過程,下面就介紹幾種常見的損失函數。

均方誤差損失函數

均方誤差(Mean Squared Error,MSE)是比較常用的損失函數,其數學表達式如下:

交叉熵損失函數

交叉熵(Crocs Entropy)損失函數使用訓練數據的預測值與真實值之間的交叉熵來作為損失函數,其數學表達式如下:

適用場景

一般來說,MSE更適合輸出值為連續值,并且最后一層不含Sigmoid或Softmax激活函數的神經網絡;而交叉熵則適合二分類或者多分類的場景。

04 多層感知機的反向傳播算法

在MLP中,輸入信號通過各個網絡層的隱節點產生輸出的過程,我們稱之為“前向傳播“,而前向傳播最終是產生一個標量損失函數。而反向傳播算法(Backpropagation)則是將損失函數的信息沿著網絡層向后傳播用以計算梯度,達到優化網絡參數的目的。

05 神經網絡的訓練技巧

神經網絡的訓練,常常會遇到的問題就是過擬合,而解決過擬合問題的方法也有很多,簡單羅列下:Data Augmentation(數據增廣)、Regularization(正則化)、Model Ensemble(模型集成)、Dropout等等。此外,訓練深度學習網絡還有學習率、權重衰減系數、Dropout比例的調參等。還有Batch Normalization,BN(批量歸一化)也可以加速訓練過程的收斂,有效規避復雜參數對網絡訓練效率的影響。

Data Augmentation

Data Augmentation也就是數據增廣的意思,就是在不改變數據類別的情況下,這里主要針對圖像數據來說,主要包括但不限于:

1)角度旋轉

2)隨機裁剪

3)顏色抖動:指的是對顏色的數據增強,包括圖像亮度、飽和度、對比度變化等

4)增加噪聲:主要是高斯噪聲,在圖像中隨機加入

5)水平翻轉

6)豎直翻轉

參數初始化

考慮到全連接的深度神經網絡,同一層中的任意神經元都是同構的,所以擁有相同的輸入和輸出,如果參數全部初始化為同一個值,無論是前向傳播還是反向傳播的取值都會是一樣的,學習的過程將無法打破這種情況。因此,我們需要隨機地初始化神經網絡的參數值,簡單的一般會在

的均勻分布中去隨機抽取,其中d是一個神經元接受的輸入維度。

學習率

學習率我們通常設為0.1,但是如果在實踐中驗證集上的loss或者accuracy不變的時候,可以考慮增加2~5倍的學習率。

Dropout原理

Dropout在深度學習網絡訓練中是十分常用的,指的是以一定的概率p隨機丟棄一部分神經元節點,而這個“丟棄”只是臨時的,是針對每一次小批量的訓練數據而言,由于是隨機丟棄,所以每一次的神經網絡結構都會不一樣,相當于每次迭代都是在訓練不同結構的神經網絡,有點像傳統機器學習中的Bagging方法。

具體實現上,在訓練過程中,神經元的節點激活值以一定的概率p被“丟棄”,也就是“停工”。因此,對于包含N個神經元節點的網絡,在Dropout的作用下可以看做是生成 2的N次方個模型的集合,這個過程會減弱全體神經元之間的聯合適應性,減少過擬合的風險,增強泛化能力。

Batch Normalization原理

因為神經網絡的訓練過程本質就是對數據分布的學習,因此訓練前對輸入數據進行歸一化處理顯得很重要。我們知道,神經網絡有很多層,每經過一個隱含層,訓練數據的分布會因為參數的變化而發生改變,導致網絡在每次迭代中都需要擬合不同的數據分布,這樣子會增加訓練的復雜度以及過擬合的風險。

因此我們需要對數據進行歸一化處理(均值為0,標準差為1),把數據分布強制統一再一個數據分布下,而且這一步不是一開始做的,而是在每次進行下一層之前都需要做的。也就是說,在網路的每一層輸入之前增加一個當前數據歸一化處理,然后再輸入到下一層網路中去訓練。

Regularizations(正則化)

這個我們見多了,一般就是L1、L2比較常見,也是用來防止過擬合的。

L1正則化會使得權重向量w在優化期間變得稀疏(例如非常接近零向量)。 帶有L1正則化項結尾的神經網絡僅僅使用它的最重要的并且接近常量的噪聲的輸入的一個稀疏的子集。相比之下,最終的權重向量從L2正則化通常是分散的、小數字。在實踐中,如果你不關心明確的特征選擇,可以預計L2正則化在L1的性能優越。

L2正則化也許是最常用的正則化的形式。它可以通過將模型中所有的參數的平方級作為懲罰項加入到目標函數(objective)中來實現,L2正則化對尖峰向量的懲罰很強,并且傾向于分散權重的向量。

Model Ensemble(模型集成)

模型集成在現實中很常用,通俗來說就是針對一個目標,訓練多個模型,并將各個模型的預測結果進行加權,輸出最后結果。主要有3種方式:

1)相同模型,不同的初始化參數;

2)集成幾個在驗證集上表現效果較好的模型;

3)直接采用相關的Boosting和Bagging算法。

06 深度卷積神經網絡(CNN)

終于來到了我們耳熟能詳的CNN了,也就是卷積神經網絡(Convolutional Neural Network,CNN),它也是屬于前饋神經網絡的一種,其特點是每層的神經元節點只響應前一層局部區域范圍內的神經元(全連接網絡中每個神經元節點則是響應前一層的全部節點)。

一個深度卷積神經網絡模型,一般由若干卷積層疊加若干全連接層組成,中間包含各種的非線性操作、池化操作。卷積運算主要用于處理網格結構的數據,因此CNN天生對圖像數據的分析與處理有著優勢,簡單地來理解,那就是CNN是利用濾波器(Filter)將相鄰像素之間的輪廓過濾出來。

Convolution(卷積)

卷積的濾波器(Filter)我們可以看做是一個window,可以觀察下面的案例,有一個6X6的網絡以及一個3X3的Filter,其中Filter的每個格子上有權值。拿著FIlter在網絡上去移動,直到所有的小格子都被覆蓋到,每次移動,都將Filter“觀察”到的內容,與之權值相乘作為結果輸出。最后,我們可以得到一個4X4的網格矩陣。(下面的6張圖來自參考文獻5,侵刪)

Padding(填充)

卷積后的矩陣大小與一開始的不一致,那么我們需要對邊緣進行填充,以保證尺寸一致。

Stride(步長)

也就是Filter移動的步伐大小,上面的例子為1,其實可以由我們自己來指定,有點像是學習率。

Depth(深度)

深度指的是圖片的深度,一張6X6X3大小的圖片經過3X3X3的Filter過濾后會得到一個4X4X1大小的圖片,因此深度為1。我們也可以通過增加Filter的個數來增加深度,如下:

Pooling(池化)

因為濾波器在進行窗口移動的過程中會有很多冗余計算,效率很慢,池化操作的目的在于加速卷積操作,最常用的有Maxpooling,其原理如下圖所示:

完整的深度CNN網絡

卷積操作的本質

1)Sparse Interaction(稀疏交互)

因為卷積核的尺度會小于輸入的維度,也就是我們的FIlter會小于網絡大小一樣,這樣子每個輸出神經元僅僅會與部分特定局部區域內的神經元存在連接權重(也就是產生交互),這種操作特性我們就叫稀疏交互。稀疏交互會把時間復雜度減少好幾個數量級,同時對過擬合的情況也有一定的改善。

2)Parameter Sharing(參數共享)

指的是在同一個模型的不同模塊使用相同的參數,它是卷積運算的固有屬性。和我們上面說的Filter上的權值大小應用于所有網格一樣。

下載發燒友APP

打造屬于您的人脈電子圈

關注電子發燒友微信

有趣有料的資訊及技術干貨

關注發燒友課堂

鎖定最新課程活動及技術直播

電子發燒友觀察

一線報道 · 深度觀察 · 最新資訊
收藏 人收藏
分享:

評論

相關推薦

深度學習和神經網絡

David,加州大學物理博士,美國著名電商數據科學家。本課程介紹什么是深度學習, 深度學習與機器學習的關系,幾種神經網絡
發燒友學院發表于 2017-11-08 00:00? 7724次閱讀
深度學習和神經網絡

天地偉業推出口罩佩戴智能預警系統,特色及優勢對比...

在疫情依舊嚴峻的局勢下,天地偉業最新推出未戴口罩智能預警系統,為抗擊疫情助力。
發表于 2020-02-08 17:11? 7次閱讀
天地偉業推出口罩佩戴智能預警系統,特色及優勢對比...

人工智能的發展歷史是怎么樣的

人工智能是結合數學、計算機、心理學等學科理論發展起來的新學科,人工智能的目標是讓機器模擬人類行為,代....
發表于 2020-02-06 15:16? 198次閱讀
人工智能的發展歷史是怎么樣的

英特爾已決定終止其Nervana神經網絡處理器的...

Habana已經開發了兩款自己的AI芯片,即Habana Gaudi和Habana Goya(如圖)....
發表于 2020-02-06 15:06? 247次閱讀
英特爾已決定終止其Nervana神經網絡處理器的...

人工智能進入工業大生產階段

人工智能從概念到落地,經歷了六十余年的探索。1956年,達特茅斯會議首次提出“人工智能”的概念,成為....
發表于 2020-02-06 14:59? 219次閱讀
人工智能進入工業大生產階段

人工智能緩解氣候異常的四種方式

微軟堅信,在機器學習和深度學習的幫助下,人工智能將會成為生態系統困境的破局者。微軟發起了地球人工智能....
發表于 2020-02-06 14:31? 184次閱讀
人工智能緩解氣候異常的四種方式

神經網絡有什么天生的性質

谷歌大腦研究人員通過精簡神經網絡結構,在前幾代中發現了最小架構的神經網絡能夠控制此處所示的雙足機器人....
發表于 2020-02-05 16:55? 50次閱讀
神經網絡有什么天生的性質

人工智能技術讓老電影變4K分辨率

插值的過程本身是一個計算過程,那么人工智能就有了用武之地,通過使用深度神經卷積網絡
發表于 2020-02-05 16:15? 75次閱讀
人工智能技術讓老電影變4K分辨率

人工智能怎么樣才能與醫療領域相結合

隨著人工智能與各個領域的結合不斷地在加強與相互促進,推動了很多新興學科領域的研究和發展,人工智能研究....
發表于 2020-02-05 15:13? 226次閱讀
人工智能怎么樣才能與醫療領域相結合

構建生產機器學習系統需要注意些什么

從快速發展的庫中提取代碼并將其寫入使用該庫的修改過的舊版本的生產系統是很困難的。如何修改一個快速發展....
發表于 2020-02-04 13:35? 39次閱讀
構建生產機器學習系統需要注意些什么

區塊鏈行業的未來將會如何?

區塊鏈行業的未來將會如何?目前的市場應用將呈現出何種態勢?又有哪些問題?我們又該如何理性看待?今天就....
發表于 2020-02-04 13:10? 689次閱讀
區塊鏈行業的未來將會如何?

AI是如何來檢測貧血的

盡管深度學習模型最初是主要用于白人參與者組成的數據,從而集合開發的,但為了解決持續存在的算法偏差問題....
發表于 2020-02-03 17:23? 54次閱讀
AI是如何來檢測貧血的

如何使用Python應用軟件實現車牌檢測和識別

車牌的檢測和識別的應用非常廣泛,比如交通違章車牌追蹤,小區或地下車庫門禁。在對車牌識別和檢測的過程中....
發表于 2020-02-03 15:21? 258次閱讀
如何使用Python應用軟件實現車牌檢測和識別

英特爾收購Habana 或將砍掉Nervana ...

 HabanaGaudi 芯片是為訓練神經網絡而設計的,包括支持 ROCE 以實現遠程存儲訪問的片上....
發表于 2020-02-03 14:59? 74次閱讀
英特爾收購Habana 或將砍掉Nervana ...

AI的下一個戰場將會是在哪里

當前的人工智能很多的研究,并不在于理解,是一個非常表象的匹配。
發表于 2020-02-03 13:54? 43次閱讀
AI的下一個戰場將會是在哪里

醫學成像領域的人工智能

隨著人工智能(Artificial Intelligence,AI)在成像技術中的應用興起,醫療行業....
發表于 2020-01-29 10:35? 306次閱讀
醫學成像領域的人工智能

深度學習算法對于自動駕駛汽車上路到底有多重要

自動駕駛作為一種高度模仿人類駕駛的技術,實現無人駕駛分為感知、理解、決策和執行四個層次,由ECU、執....
發表于 2020-01-20 16:36? 140次閱讀
深度學習算法對于自動駕駛汽車上路到底有多重要

深度學習模型常用的數據增強方法

人工智能,或者說計算機視覺的一個最終目標在于構建一個真正可適用于真實世界復雜環境的系統。而就目前所應....
發表于 2020-01-19 17:03? 188次閱讀
深度學習模型常用的數據增強方法

智慧安防以后的趨勢走向是怎樣的

在前端設備智能化的同時,智能安防發展進程呈云邊結合勢態,系統逐漸形成“云邊端”三級結構。
發表于 2020-01-17 15:40? 173次閱讀
智慧安防以后的趨勢走向是怎樣的

5G與AI將給數據中心帶來了什么

隨著2020年的到來,數據中心開始采用更新、更成熟的技術。具體來說,我們不僅將看到5G對邊緣計算需求....
發表于 2020-01-17 15:18? 266次閱讀
5G與AI將給數據中心帶來了什么

AI如何給教育領域系統帶來改善

隨著物聯網技術、5G技術、云計算網絡技術的不斷進步,人工智能正推動人類社會迎來人機協同、跨界融合、共....
發表于 2020-01-17 13:43? 179次閱讀
AI如何給教育領域系統帶來改善

人臉識別行業一個如何發展趨勢是怎么樣的

跟著智慧城市建設的腳步加速,人臉辨認、人工智能等新技能突破,智能化人臉辨認的發展趨勢逐漸被各個職業喜....
發表于 2020-01-16 17:13? 386次閱讀
人臉識別行業一個如何發展趨勢是怎么樣的

基于3D數據卷積神經網絡的物體識別

FusionNet的核心是全新的、應用于3D物體的三維卷積神經網絡(Convolutional Ne....
發表于 2020-01-16 16:36? 1153次閱讀
基于3D數據卷積神經網絡的物體識別

2020年,人工智能在網絡安全領域的預算將平均增...

通常情況下,人們在網絡安全中使用的通常不是人工智能,而是機器學習及其相關子領域:有監督、無監督、強化....
發表于 2020-01-16 15:54? 260次閱讀
2020年,人工智能在網絡安全領域的預算將平均增...

智芯科微發布AT610x深度學習語音識別芯片

杭州智芯科微電子科技有限公司將AI、模擬計算芯片技術相結合,推出了一種低功耗、高性能的深度神經網絡處....
發表于 2020-01-16 11:20? 121次閱讀
智芯科微發布AT610x深度學習語音識別芯片

人工智能全球2000位具有影響力的學者有哪一些

而當前人工智能領域熱點研究話題位居前十的是:神經網絡、卷積神經網絡、機器學習、計算機視覺、移動設備、....
發表于 2020-01-16 09:47? 148次閱讀
人工智能全球2000位具有影響力的學者有哪一些

機器學習如何做好分布外異常檢測?

近些年來,隨著新細菌種類不斷被發現,雖然基于已知分類訓練的神經網絡分類器通過交叉驗證達到了很高的測量....
發表于 2020-01-16 09:39? 546次閱讀
機器學習如何做好分布外異常檢測?

CFA二級思維導圖分享:機器學習

在機器學習中,訓練模型的算法數據集包括:訓練樣本(Trainning Sample),檢驗樣本(va....
發表于 2020-01-16 09:25? 536次閱讀
CFA二級思維導圖分享:機器學習

應聘機器學習工程師崗位你需要知道的12個基礎面試...

假設一個簡單的層計算公式 y = (Wx + b),y 在 W 上的導數就是這樣:dy=dWx。因此....
發表于 2020-01-16 08:17? 349次閱讀
應聘機器學習工程師崗位你需要知道的12個基礎面試...

機器學習預測計算機芯片執行來自各種應用程序的代碼...

研究人員通過一種特殊的神經網絡模型,它以“基本塊”(計算指令的基本摘要)形式訓練標記的數據,以自動預....
發表于 2020-01-16 08:13? 307次閱讀
機器學習預測計算機芯片執行來自各種應用程序的代碼...

Rokid新一代Rokid Glass 2 AR...

Rokid于今日發布了最新一代AR眼鏡Rokid Glass 2。
發表于 2020-01-15 17:13? 1050次閱讀
Rokid新一代Rokid Glass 2 AR...

人工智能浪潮中的計算社會科學

計算社會科學的發展。后工業化時代的復雜社會問題催生了計算社會科學的誕生。正是其所在的大數據時代使“我....
發表于 2020-01-15 14:32? 467次閱讀
人工智能浪潮中的計算社會科學

人工智能這幾個領域的熱度相對比較高

隨著產業互聯網的快速發展,大型科技公司紛紛推出了自己的人工智能平臺,所以近幾年有很多計算機專業的研究....
發表于 2020-01-15 11:05? 425次閱讀
人工智能這幾個領域的熱度相對比較高

人工智能可以解決“三體問題”嗎

研究人員并未打算讓這套神經系統獨挑大梁,他們認為最好讓Brutus之類的程序做大部分“苦力活”,而神....
發表于 2020-01-15 10:55? 112次閱讀
人工智能可以解決“三體問題”嗎

人工智能賦能傳媒技術,實現流程再造

隨著5G時代的到來,內容供給,尤其是視音頻內容的供給實現了智能化。5月,《人民日報》也推出了自己的人....
發表于 2020-01-15 10:55? 534次閱讀
人工智能賦能傳媒技術,實現流程再造

清華人工智能研究院院長張鈸:從“讓數據說話”到引...

深度學習興起之后,學界將目標轉移至數據,提出“讓數據說話”。張鈸認為,這種強調對深度學習的發展起到積....
發表于 2020-01-15 10:41? 527次閱讀
清華人工智能研究院院長張鈸:從“讓數據說話”到引...

人工智能的介入在文學藝術圈制造了持久的喧嘩

工智能的介入在文學藝術圈制造了持久的喧嘩,各種觀點錯雜交疊。欣然接受人工智能的作家不多,反對人工智能....
發表于 2020-01-15 10:37? 777次閱讀
人工智能的介入在文學藝術圈制造了持久的喧嘩

大盤點:巨頭企業在2019是如何發展人工智能的

人工智能發展如火如荼,在人工智能賦能下的各個領域均取得了突破性的進展。
發表于 2020-01-14 16:49? 211次閱讀
大盤點:巨頭企業在2019是如何發展人工智能的

人工智能如何和加密貨幣創造新的商機

隨著加密貨幣的興起,以及可能與人工智能結合在一起,因而人工智能越來越受歡迎,不但進入主流媒體,也成為....
發表于 2020-01-13 16:02? 95次閱讀
人工智能如何和加密貨幣創造新的商機

清華大學發布人工智能全球2000位最具影響力學者...

從國家角度看,美國學者人數的占比最高,有1128人,占比61.4%,超過總人數的一半,獨自領跑第一梯....
發表于 2020-01-13 15:12? 556次閱讀
清華大學發布人工智能全球2000位最具影響力學者...

新理論框架助力AI看見更高維度

計算機能駕駛汽車,打敗圍棋和世界象棋的冠軍,甚至還能寫文章。今天的 AI 革命很大程度上是來自于被稱....
發表于 2020-01-13 14:18? 348次閱讀
新理論框架助力AI看見更高維度

人工智能的下一個前沿在哪里

傳統上,深度學習算法(例如深度神經網絡 DNN)以有監督的方式進行訓練,以識別特定類別的事物。
發表于 2020-01-13 11:53? 106次閱讀
人工智能的下一個前沿在哪里

如何讓人工智能和人類共存

人工智能不但顯著提高了生產效率,也讓人類生活變得更加舒便捷。
發表于 2020-01-10 14:36? 403次閱讀
如何讓人工智能和人類共存

人工智能人文反思熱成為焦點

人工智能的認知與情感問題。這方面的研究大致可分為三類。一是重視價值語境,針對人工智能的發展是否會出現....
發表于 2020-01-08 14:55? 486次閱讀
人工智能人文反思熱成為焦點

專為高中生打造的人工智能教材今年出版

為推動完善人工智能教育體系,清華大學交叉信息研究院在圖靈獎得主、院長姚期智院士的帶領下,在計算機科學....
發表于 2020-01-08 14:45? 557次閱讀
專為高中生打造的人工智能教材今年出版

如今的人工智能已經可以識別醫療死亡風險

根據Geisinger的發布,Geisinger研究人員最近發現,人工智能可以檢查心電圖(ECG)測....
發表于 2020-01-08 11:12? 318次閱讀
如今的人工智能已經可以識別醫療死亡風險

人工智能2019:爭議依然如影隨形

如果說,人工智能剛開始落地時,人們還充滿惶恐,記者與寫稿機器人等人工智能輔助工具的關系,還曾一度被渲....
發表于 2020-01-08 10:09? 970次閱讀
人工智能2019:爭議依然如影隨形

人工智能失去安全會導致什么的發生

深度學習需要大量的數據與強大的運算力才可能達成高準確度仿真模型,而大量的數據,在很多方面就必須依靠物....
發表于 2020-01-07 17:15? 148次閱讀
人工智能失去安全會導致什么的發生

如何讓汽車有自我思考的能力

世界各國的各地政府正在朝著一個長期目標邁進,那就是讓智慧城市擁有自動駕駛和高度自動化的車輛,并將其集....
發表于 2020-01-07 15:32? 142次閱讀
如何讓汽車有自我思考的能力

在多方推動下 自動駕駛技術將取得更多新成果

自動駕駛作為一種高度模仿人類駕駛的技術,實現無人駕駛分為感知、理解、決策和執行四個層次,由ECU、執....
發表于 2020-01-07 14:11? 106次閱讀
在多方推動下 自動駕駛技術將取得更多新成果

BP模糊神經網絡純電動汽車電機控制

針對傳統比例積分(PI)控制在電機控制中控制效果不良的問題,設計了一種基于向后傳播算法(BP)模糊神經網絡的P...
發表于 2019-12-10 16:32? 434次閱讀
BP模糊神經網絡純電動汽車電機控制

深度學習入門

發表于 2019-12-03 18:11? 330次閱讀
深度學習入門

BiLSTM模型的CRF層是怎么工作的?

BiLSTM模型中CRF層的運行原理-1
發表于 2019-11-06 09:26? 157次閱讀
BiLSTM模型的CRF層是怎么工作的?

平衡Winnow算法在短信過濾系統上有什么應用?

手機短信以其短小、迅速、簡便、價格低廉等優點成為一種重要的通信和交流方式,受到眾多人士的青睞。然而, 手機短信與...
發表于 2019-11-01 07:04? 180次閱讀
平衡Winnow算法在短信過濾系統上有什么應用?

淺析監督學習算法MLPClassifier

sklearn 神經網絡 MLPClassifier簡單應用與參數說明...
發表于 2019-10-23 10:46? 191次閱讀
淺析監督學習算法MLPClassifier

如何設計基于FPGA的通用CNN加速?

隨著互聯網用戶的快速增長,數據體量的急劇膨脹,數據中心對計算的需求也在迅猛上漲。同時,人工智能、高性能數據分析...
發表于 2019-10-23 07:17? 234次閱讀
如何設計基于FPGA的通用CNN加速?

FPGA和深度學習有什么關系?

人工智能的風潮從技術一路蔓延到硬件,讓“芯片”成為今年行業里盛極一時的主題。人們關注通用芯片領域里CPU和GP...
發表于 2019-10-18 08:30? 244次閱讀
FPGA和深度學習有什么關系?

用代碼實現人工神經網絡原理

學習筆記CB014TensorFlow seq2seq模型步步進階
發表于 2019-10-12 07:34? 171次閱讀
用代碼實現人工神經網絡原理

為什么說FPGA是機器深度學習的未來?

  最近幾年數據量和可訪問性的迅速增長,使得人工智能的算法設計理念發生了轉變。人工建立算法的做法被計算機從大量...
發表于 2019-10-10 06:45? 318次閱讀
為什么說FPGA是機器深度學習的未來?

阿里媽媽的深度學習演進之路

深度學習如何應用在廣告、推薦及搜索業務?阿里媽媽實踐案例解讀...
發表于 2019-09-29 14:15? 192次閱讀
阿里媽媽的深度學習演進之路
莉莉影院-莉莉影院手机在线