基于BERT-CNN的新聞文本分類(lèi)的知識(shí)蒸餾方法研究
所屬分類(lèi)：技術(shù)論文
上傳者：aetmagazine
文檔大小：3576 K
標(biāo)簽： 新聞文本 BERT CNN
所需積分：0分積分不夠怎么辦？
文檔介紹：近年來(lái)，隨著大數(shù)據(jù)時(shí)代進(jìn)入人類(lèi)的生活之后，人們的生活中出現(xiàn)很多無(wú)法識(shí)別的文本、語(yǔ)義等其他數(shù)據(jù)，這些數(shù)據(jù)的量十分龐大，語(yǔ)義也錯(cuò)綜復(fù)雜，這使得分類(lèi)任務(wù)更加困難。如何讓計(jì)算機(jī)對(duì)這些信息進(jìn)行準(zhǔn)確的分類(lèi)，已成為當(dāng)前研究的重要任務(wù)。在此過(guò)程中，中文新聞文本分類(lèi)成為這個(gè)領(lǐng)域的一個(gè)分支，這對(duì)國(guó)家輿論的控制、用戶(hù)日常行為了解、用戶(hù)未來(lái)言行的預(yù)判都有著至關(guān)重要的作用。針對(duì)新聞文本分類(lèi)模型參數(shù)量多和訓(xùn)練時(shí)間過(guò)長(zhǎng)的不足，在最大限度保留模型性能的情況下壓縮訓(xùn)練時(shí)間，力求二者折中，故提出基于BERT-CNN的知識(shí)蒸餾。根據(jù)模型壓縮的技術(shù)特點(diǎn)，將BERT作為教師模型，CNN作為學(xué)生模型，先將BERT進(jìn)行預(yù)訓(xùn)練后再讓學(xué)生模型泛化教師模型的能力。實(shí)驗(yàn)結(jié)果表明，在模型性能損失約2.09%的情況下，模型參數(shù)量壓縮約為原來(lái)的1/82，且時(shí)間縮短約為原來(lái)的1/670。
現(xiàn)在下載
VIP會(huì)員，AET專(zhuān)家下載不扣分；重復(fù)下載不扣分，本人上傳資源不扣分。
主站蜘蛛池模板： 日本强好片久久久久久aaa| 国产91po在线观看免费观看| 国产麻豆入在线观看| 成人综合激情另类小说| 日韩福利在线视频| 欧美zoozzooz在线观看| 激情综合丝袜美女一区二区| 色噜噜狠狠色综合日日| 99re6在线视频精品免费下载 | 在线免费黄色网址| 在线观看国产一区二区三区| 国产色无码精品视频国产| 国产极品粉嫩泬免费观看| 国产AV午夜精品一区二区三区| 伊人一伊人色综合网| 亚洲av无码之日韩精品| 不卡一区二区在线| 奇米影视777色| 经典三级在线播放线观看| 欧美日韩国产精品自在自线| 日本乱妇bbwbbw| 国内精品国语自产拍在线观看55| 国产在线中文字幕| 依恋影视在线观看韩国| 久久精品国产99国产精偷| caoporm在线| 黑冰女王踩踏视频免费专区| 看大片全色黄大色黄| 日韩精品中文字幕无码专区| 外国成人网在线观看免费视频| 国产亚洲婷婷香蕉久久精品| 亚洲天堂中文网| 一区二区三区在线视频播放| 黄+色+性+人免费| 玖玖资源站无码专区| 日韩精品中文字幕无码专区 | 杨幂一级做a爰片性色毛片| 成人免费视频网站| 国产男人午夜视频在线观看| 免费黄色小视频网站| 久青草影院在线观看国产|