買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉華潤數(shù)字科技有限公司申請的專利自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN114781611B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-05-06發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202210423601.8，技術(shù)領(lǐng)域涉及：G06F40/30；該發(fā)明授權(quán)自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備是由王偉;張黔;陳煥坤;鄭毅設(shè)計研發(fā)完成，并于2022-04-21向國家知識產(chǎn)權(quán)局提交的專利申請。

本自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備在說明書摘要公布了：本申請涉及人工智能技術(shù)領(lǐng)域，揭露了自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備，所述語言模型訓(xùn)練方法包括：獲取語料集；利用多種特征提取模型對語料集進(jìn)行特征提取，得到語料集中各文檔對應(yīng)的多個特征向量；基于各文檔對應(yīng)的多個特征向量，得到各文檔對應(yīng)的語義向量；將語料集中各文檔對應(yīng)的語義向量利用聚類模型進(jìn)行聚類，得到多個語義簇；根據(jù)各語義簇分別對語言模型采用強化學(xué)習(xí)進(jìn)行訓(xùn)練，最終得到各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù)；根據(jù)各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù)，以確定最終語言模型。本申請實現(xiàn)了提高語言模型的訓(xùn)練效率以及降低了訓(xùn)練過程中的資源消耗。

本發(fā)明授權(quán)自然語言處理方法、語言模型訓(xùn)練方法及其相關(guān)設(shè)備在權(quán)利要求書中公布了：1.一種語言模型訓(xùn)練方法，其特征在于，所述方法包括：獲取語料集；利用多種特征提取模型對所述語料集進(jìn)行特征提取，得到所述語料集中各文檔對應(yīng)的多個特征向量；基于各所述文檔對應(yīng)的多個所述特征向量，得到各所述文檔對應(yīng)的語義向量；將所述語料集中各文檔對應(yīng)的語義向量利用聚類模型進(jìn)行聚類，得到多個語義簇；根據(jù)各語義簇分別對語言模型采用強化學(xué)習(xí)進(jìn)行訓(xùn)練，最終得到各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù)；根據(jù)各語義簇對應(yīng)的訓(xùn)練后的語言模型的參數(shù)，以確定最終語言模型；其中，所述多種特征提取模型包括隱含特征提取模型、主題特征提取模型和實體特征提取模型，所述利用多種特征提取模型對所述語料集進(jìn)行特征提取，得到所述語料集中各文檔對應(yīng)的多個特征向量包括：通過所述隱含特征提取模型對所述語料集中的各所述文檔進(jìn)行隱含特征提取，得到各所述文檔對應(yīng)的第一特征向量；利用所述主題特征提取模型對所述語料集中的各文檔進(jìn)行主題特征提取，得到各所述文檔對應(yīng)的第二特征向量；利用所述實體特征提取模型對所述語料集中的各文檔進(jìn)行實體特征提取，得到各所述文檔對應(yīng)的第三特征向量；所述基于各所述文檔對應(yīng)的多個所述特征向量，得到各所述文檔對應(yīng)的語義向量包括：根據(jù)各所述文檔對應(yīng)的所述第一特征向量、所述第二特征向量和所述第三特征向量進(jìn)行加權(quán)求和，得到各所述文檔對應(yīng)的語義向量。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人華潤數(shù)字科技有限公司，其通訊地址為：518000 廣東省深圳市福田區(qū)梅林街道梅都社區(qū)中康路136號深圳新一代產(chǎn)業(yè)園2棟801；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。