近日，騰訊科技(深圳)有限公司在大語言模型訓練領域取得了新的技術突破，并成功申請了一項名為“大語言模型的訓練方法、裝置、計算機設備及存儲介質”的專利。

據(jù)天眼查App顯示，該專利摘要詳細介紹了騰訊在大語言模型訓練過程中的創(chuàng)新方法。具體而言，騰訊引入了第一摘要文本和第二摘要文本，為模型訓練提供了更為豐富的學習信息。這兩個摘要文本所包含的信息量不同，且第一摘要文本中既包含正確語句也包含錯誤語句。

在訓練過程中，騰訊通過對比學習同一樣本文本的兩個不同摘要文本，并區(qū)分學習第一摘要文本中的正確語句和錯誤語句，從而避免了由于摘要文本單一而導致的模型過擬合和生成不準確等問題。這種創(chuàng)新性的訓練方法不僅有助于提升模型的泛化性能，還能顯著提高模型的準確性。

騰訊的這一新專利無疑為其在大語言模型訓練領域樹立了新的技術標桿。通過不斷優(yōu)化和升級訓練技術，騰訊有望為用戶提供更加智能、準確的大語言模型服務。