華潤數(shù)字科技有限公司王偉獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉華潤數(shù)字科技有限公司申請的專利自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN114781611B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-05-06發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202210423601.8,技術(shù)領(lǐng)域涉及:G06F40/30;該發(fā)明授權(quán)自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備是由王偉;張黔;陳煥坤;鄭毅設(shè)計研發(fā)完成,并于2022-04-21向國家知識產(chǎn)權(quán)局提交的專利申請。
本自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備在說明書摘要公布了:本申請涉及人工智能技術(shù)領(lǐng)域,揭露了自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備,所述語言模型訓(xùn)練方法包括:獲取語料集;利用多種特征提取模型對語料集進(jìn)行特征提取,得到語料集中各文檔對應(yīng)的多個特征向量;基于各文檔對應(yīng)的多個特征向量,得到各文檔對應(yīng)的語義向量;將語料集中各文檔對應(yīng)的語義向量利用聚類模型進(jìn)行聚類,得到多個語義簇;根據(jù)各語義簇分別對語言模型采用強化學(xué)習(xí)進(jìn)行訓(xùn)練,最終得到各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù);根據(jù)各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù),以確定最終語言模型。本申請實現(xiàn)了提高語言模型的訓(xùn)練效率以及降低了訓(xùn)練過程中的資源消耗。
本發(fā)明授權(quán)自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備在權(quán)利要求書中公布了:1.一種語言模型訓(xùn)練方法,其特征在于,所述方法包括:獲取語料集;利用多種特征提取模型對所述語料集進(jìn)行特征提取,得到所述語料集中各文檔對應(yīng)的多個特征向量;基于各所述文檔對應(yīng)的多個所述特征向量,得到各所述文檔對應(yīng)的語義向量;將所述語料集中各文檔對應(yīng)的語義向量利用聚類模型進(jìn)行聚類,得到多個語義簇;根據(jù)各語義簇分別對語言模型采用強化學(xué)習(xí)進(jìn)行訓(xùn)練,最終得到各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù);根據(jù)各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù),以確定最終語言模型;其中,所述多種特征提取模型包括隱含特征提取模型、主題特征提取模型和實體特征提取模型,所述利用多種特征提取模型對所述語料集進(jìn)行特征提取,得到所述語料集中各文檔對應(yīng)的多個特征向量包括:通過所述隱含特征提取模型對所述語料集中的各所述文檔進(jìn)行隱含特征提取,得到各所述文檔對應(yīng)的第一特征向量;利用所述主題特征提取模型對所述語料集中的各文檔進(jìn)行主題特征提取,得到各所述文檔對應(yīng)的第二特征向量;利用所述實體特征提取模型對所述語料集中的各文檔進(jìn)行實體特征提取,得到各所述文檔對應(yīng)的第三特征向量;所述基于各所述文檔對應(yīng)的多個所述特征向量,得到各所述文檔對應(yīng)的語義向量包括:根據(jù)各所述文檔對應(yīng)的所述第一特征向量、所述第二特征向量和所述第三特征向量進(jìn)行加權(quán)求和,得到各所述文檔對應(yīng)的語義向量。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人華潤數(shù)字科技有限公司,其通訊地址為:518000 廣東省深圳市福田區(qū)梅林街道梅都社區(qū)中康路136號深圳新一代產(chǎn)業(yè)園2棟801;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 株式會社斯庫林集團川口賢士獲國家專利權(quán)
- 江蘇泰泉電子自動化設(shè)備有限公司季文泉獲國家專利權(quán)
- 索尼公司F·盧塞克獲國家專利權(quán)
- 哈爾濱商業(yè)大學(xué)劉冰獲國家專利權(quán)
- 上海市政工程設(shè)計研究總院(集團)有限公司魏明光獲國家專利權(quán)
- 廣合科技(廣州)有限公司萬小亮獲國家專利權(quán)
- 華為技術(shù)有限公司鄭娟獲國家專利權(quán)
- 意法半導(dǎo)體國際有限公司S·庫馬爾獲國家專利權(quán)
- 上海金鵬源輻照技術(shù)有限公司董凱豐獲國家專利權(quán)
- 廣州汽車集團股份有限公司陳宗明獲國家專利權(quán)