搜狗搜索霸榜CLUE任務比賽第一名,彰顯NLP技術領域強大實力
2022-09-12 21:15:42 來源:
(原標題:搜狗搜索霸榜CLUE任務比賽第一名,彰顯NLP技術領域強大實力)
近日,搜狗搜索技術團隊在CLUE(中文語言理解測評基準)的任務比賽中,擊敗來自騰訊、華為、美團、阿里、oppo、中科院等知名科技公司和高校,在CLUE總榜、分類總榜、閱讀理解榜單、小模型榜單均獲得第一名,刷新業(yè)界記錄。
![]()
“BERTSG”為搜狗搜索自研模型,“HUMAN”為人類成績(不計入選手)
搜狗搜索霸榜CLUE任務比賽第一名,彰顯強大技術創(chuàng)新實力
據(jù)了解,國際上常用GLUE作為評估通用 NLP 模型的基準,其比賽排名已成為衡量自然語言理解技術水平的重要指標。然而,GLUE基準目前只能針對英文任務,無法評價NLP模型處理中文的能力。為填補這一空白,CLUE(ChineseGLUE)應運而生,可謂是“中文版GLUE”,已經(jīng)成為中文語言理解領域最具行業(yè)權威的測評基準之一。
目前,CLUE基于原始的中文文本語料共開設了7個方向的比賽,由文本相似度、分類、上下文推理、閱讀理解等共11個子任務組成。CLUE希望集合各大科技企業(yè)和科研團隊的技術力量,推動NLP(自然語言處理)基準預訓練模型技術的不斷進步和突破。
據(jù)了解,搜狗搜索技術團隊此次在CLUE總榜、分類總榜、閱讀理解榜單、小模型榜單均獲得冠軍,得益于其在自然語義理解領域強大的技術能力,以及對學術界最新算法的持續(xù)跟蹤。搜狗搜索技術團隊的預訓練模型采用了多種自研預訓練技術,基于自身海量優(yōu)質(zhì)語料構建的訓練數(shù)據(jù),利用大規(guī)模分布式訓練平臺,訓練出了包括從千萬參數(shù)量級的小模型到數(shù)十億參數(shù)的大模型。此外,搜狗搜索技術團隊還探索了一套適用語義匹配、分類、和閱讀理解等不同任務的算法,均表現(xiàn)出了優(yōu)異的效果。
搜狗搜索NLP技術成果豐碩,加速人工智能持續(xù)向?qū)嶋H場景落地
那么,預訓練模型的技術突破到底意味著什么?我們知道,NLP(自然語言處理)技術作為人工智能領域的一個重要發(fā)展方向,其目的是使得計算機具備人類的聽、說、讀、寫、譯、問、答、搜索、摘要、對話和聊天等能力,并可利用知識和常識進行推理和決策,最終支持客服、診斷、法律、教學等場景,因此,被業(yè)界譽為 “人工智能皇冠上的明珠”。但同時它也具有很高的技術難度,而目前技術難點主要集中在對標注數(shù)據(jù)依賴性較高,導致其難以在標注數(shù)據(jù)稀缺的任務、語言或領域內(nèi)發(fā)揮作用。尤其是在中文自然語言模型領域,更是缺乏大規(guī)模高質(zhì)量的標注數(shù)據(jù),因此目前業(yè)界主流采用的一個方法就是采用基于大規(guī)模無監(jiān)督數(shù)據(jù)的預訓練模型,來作為通用語言模型測評的有效補充,從而促進中文自然語言處理模型的完善發(fā)展,最終來加速NLP技術在產(chǎn)業(yè)的應用和落地。
搜狗搜索在NLP技術領域的優(yōu)勢由來已久。除了此次奪冠的預訓練模型外,搜狗搜索技術團隊還在多模態(tài)預訓練模型也進行了深入的研究,并在整個搜索場景中落地從而提升用戶體驗。此外,搜狗搜索在語義理解、長文本和短文本分類、閱讀理解、問答等NLP技術領域更擁有長期領先業(yè)界的表現(xiàn)。在此次獲得CLUE榜單冠軍之前,搜狗搜索已先后在國際閱讀理競賽CoQA等競賽中取得了冠軍的成績。
預訓練模型技術已被證實給多個下游任務如文本匹配、文本分類、文本抽取、閱讀理解、機器問答等任務帶來大幅的提升。因此,搜狗搜索在CLUE任務比賽中的“霸榜”成績,既展現(xiàn)了在預訓練模型領域的豐碩成果和技術突破,也更全面彰顯了搜狗搜索處于行業(yè)領先水平的NLP技術實力。目前,搜狗搜索已經(jīng)將自研預訓練模型運用在搜索查詢理解、文本語義匹配,內(nèi)容理解等方面,有效提升了搜狗搜索的使用體驗。相信在未來,搜狗搜索的相關技術將有能力在語言翻譯、聊天機器人、知識圖譜等領域進行廣泛的落地,有助于推動人工智能技術在國內(nèi)的發(fā)展和應用。
-
長征五號瞄準7月發(fā)射火星探測器,工程按計劃推進
(原標題:長五瞄準7月發(fā)射火星探測器,工程按計劃推進) 趙聰 中國航天科技集團微信公眾號 中國航天科技集團微信公眾號5月24日
2022-09-12 04:06
-
新希望乳業(yè)“菌種獵人”:自有菌種的探尋之旅
(原標題:新希望乳業(yè)菌種獵人:自有菌種的探尋之旅) 中國傳統(tǒng)發(fā)酵食品種類眾多,包括了食醋、黃酒、白酒、醬油、豆腐乳、豆瓣醬、
2022-09-12 00:50
-
5.5G,實現(xiàn)從萬物互聯(lián)到萬物智聯(lián)——華為徐文偉在IEEE旗艦大會發(fā)言
(原標題:5。5G,實現(xiàn)從萬物互聯(lián)到萬物智聯(lián)——華為徐文偉在IEEE旗艦大會發(fā)言) 華為董事、戰(zhàn)略研究院院長徐文偉受邀在近日舉辦的I
2022-09-11 23:51
-
iPhone自帶防偷窺功能!適用于手機所有界面
(原標題:原來iPhone自帶防偷窺功能:適用于手機所有界面 再也不怕別人亂翻微信、相冊) 近日,一則 原來iPhone自帶防偷窺功能 的話
2022-09-11 14:42
-
不只存儲食材!海爾冰箱:從買到做都能干
中秋佳節(jié),一桌豐盛的團圓宴必不可少,不少人已經(jīng)為團聚提前備好了高端鮮貨。蘇寧超市中秋節(jié)前消費數(shù)據(jù)顯示,僅大閘蟹單日就賣出超50萬
2022-09-10 11:42













