您的當前位置：首頁基于局部感知遞歸神經(jīng)網(wǎng)絡(luò)的字符級語言模型預(yù)測方法[發(fā)明專利]

基于局部感知遞歸神經(jīng)網(wǎng)絡(luò)的字符級語言模型預(yù)測方法[發(fā)明專利]

來源：九壹網(wǎng)

?專利內(nèi)容由知識產(chǎn)權(quán)出版社提供

專利名稱：基于局部感知遞歸神經(jīng)網(wǎng)絡(luò)的字符級語言模型預(yù)測

方法

專利類型：發(fā)明專利發(fā)明人：劉惠義,,陶穎申請?zhí)枺篊N201810398231.0申請日：20180428公開號：CN108629401A公開日：20181009

摘要：本發(fā)明公開一種基于局部感知遞歸神經(jīng)網(wǎng)絡(luò)的字符級語言模型預(yù)測方法，使用遞歸神經(jīng)網(wǎng)絡(luò)的處理形式，將三層網(wǎng)絡(luò)按層次組合在一起，低層次獲取局部字符間的特征，高層次獲取文本的語義特征，從而使新模型具有更強的信息綜合能力，且更容易處理較長的數(shù)據(jù)序列。該方法使用BPTT?RNN(遞歸神經(jīng)網(wǎng)絡(luò)反向傳播算法)有監(jiān)督的方法訓(xùn)練；首先使用adadelta(自適應(yīng)學(xué)習(xí)率調(diào)整)優(yōu)化訓(xùn)練至測試集BPC低于1.45，使之快速收斂，再使用學(xué)習(xí)速率0.0001、動量為0.9的SGD(隨機梯度下降)優(yōu)化方法訓(xùn)練，以獲得較好的測試結(jié)果。

申請人：河海大學(xué)

地址：211106 江蘇省南京市江寧開發(fā)區(qū)佛城西路8號

國籍：CN

代理機構(gòu)：南京縱橫知識產(chǎn)權(quán)代理有限公司

代理人：董建林

更多信息請下載全文后查看

因篇幅問題不能全部顯示，請點此查看更多更全內(nèi)容

查看全文

成熟丰满熟妇高潮XXXXX,人妻无码AV中文系列久久兔费 ,国产精品一国产精品,国精品午夜福利视频不卡麻豆

基于局部感知遞歸神經(jīng)網(wǎng)絡(luò)的字符級語言模型預(yù)測方法[發(fā)明專利]