1月10日,2021開源知識運動線上研討會成功舉辦。EpiK邀請清華大學信息技術研究院副院長邢春曉、中國計算機學會知識圖譜SIG主席、著名知識圖譜專家王昊奮、著名數據及知識圖譜公司創始人及項目負責人王會珍等重量級嘉賓參與,各位專家學者紛紛發表主題演講,為開源知識運動做了不同角度的解讀。
今天我們來分享東北大學計算機應用專業博士、小牛思拓(北京)科技有限公司,董事長兼CEO王會珍主題演講《數據標注助力知識獲取》,全文如下:
謝謝主持人的介紹,感謝Epik的邀請,很高興參加今天的研討會,今天我的演講題目是數據標注助力知識獲取,王昊奮老師提到了知識圖譜的構建和審核,邢老師講解了區塊鏈的發展趨勢,同時也提及了數據體系的構建融合,這種跨領域的數據的挖掘應用,包括知識體系的構建,實際上所有工作,我是認為都是離不開數據標注的。
小牛思拓已做了三年的數據標注服務了,今天跟大家分享這些年我們在數據標注方面的經驗。
我是東北大學自然語言處理實驗室的老師,實驗室從80年開始做自然語言處理。我從碩士博士都是做ROP方向的,在做算法時,在研究方向上發現,基本上都是在少數例題做驗證。但是2012年成立公司做產學研落地時,團隊發現實際上小數據是很難進行落地的,比如說機器翻譯。以小牛思拓的一個產品小牛翻譯為例,當前可以支持304種語言的互譯,而且翻譯質量非常好,這得益于有中英兩億個聚對后臺支撐,用深度學習的方法去訓練機器翻譯引擎。因此,在做算法或人工智能方法技術落地實踐中,數據標注就顯得更加重要。只有高質量的帶標注的數據才能支撐算法學習。
Web3數字音樂項目Hibiki Run完成百萬美元種子輪融資:7月24日消息,Web3數字音樂項目Hibiki Run發推稱,已完成百萬美元種子輪融資,參與機構及個人投資者包括Synergis Capital、NEAR Foundation、BitMart、TKX Capital、String Capital、Gravity Venture Capital、Yi Lu(微博聯合創始人)、AAG Ventures、Future Money Group等。本輪融資資金將用于加速項目的研發和增長。[2023/7/24 15:55:11]
什么是數據標注?
什么是數據標注?數據標注是小牛思拓的重要業務之一。公司一開始定位的是做文本的標注。在這個層面,其實大家對圖像和聲音的標注會更熟悉,比如人臉識別標注出來加在圖片里;比如,在線會議可以直接同屏有字幕,這種可以由語音自動轉換成文字的標注。
下面是文本標注的兩個例子,其中一個是從一句話里面能標注出來實體,并要找到兩個實體間的關系;另一個是智能語音對話形式很火,如發布一個問題,首先,我們要理解出來這個問題的意圖是什么,這個問題還有很多種方法,不管是哪種方式去提問,我們都可以找到它對應的答案,所以這里面是我們一個問句復述的例子,給出一個問句,我們標注師要能夠寫出來十個句子,不同的說法,但是跟這個句子的問題都是一致的,這個是復述的例子。
接下來是從圖像、聲音、文字不同的處理對象,進行一些標注的樣例,實際上最終的都是要有大量的人工去標注好的,或者是半人工標注好的帶標數據來供機器訓練和學習。
比特幣網絡平均交易費用飆升至19.2美元:金色財經報道,比特幣交易費用在過去24小時內大幅飆升,平均每次轉賬費用達到19.20美元。據bitinfocharts數據顯示,比特幣網絡中位數交易費用為0.0004 BTC或每次轉賬11.05美元。高優先級交易每筆交易需支付22.90美元以上,中等優先級交易需支付19.95美元。[2023/5/9 14:50:30]
當前有幾千家數據標注的公司比如京東百度等都有眾包平臺,通常都是群體智慧,包括區塊鏈也是加入了很多的群體智慧。這就不得不提數據標注的重要角色—標注師,來了數據任務的時候,我們就需要給他進行任務分配,這是傳統模式。
現在我們新的模式,在兩方面進行處理,第一個,在任務層面,由于有ROP的技術,我們會做一些相似任務的訓練分析,我們認為把相似的問題都給同樣的一批人,會提高效率。另一方面,利用一些自動的技術,比如說我剛才提到的去做關系抽取,可以做出來一個關系抽取的模型,對數據進行預處理,然后我去用模型先預標注,預標注的結果再扔給標注師,他們在里面進行審核校正,就可以提高標注的效率。這個是我們從數據模型和人員方面進行的新模式嘗試。
經過三年打磨,目前,我們團隊已形成了完善的數據標注工作流程。當我們拿到任務需求時,我們需要與用戶明確標注規范,去試標,用戶認可標注的方案和報價,彼此達成一致則正式開始標注任務。
首先,我們會對標注師進行培訓,因為每個數據標注任務都是不同的,都需要重新進行培訓。
其次,培訓合格后,開始實施任務。實施的過程中我們就會有各種的質量的監控,有去完善標注的規范,再培訓。
Jump Trading自1月26日以來已將近70萬枚LDO轉入幣安和Kucoin:2月12日消息,鏈上分析師Lookonchain披露鏈上數據顯示,Jump Trading自1月26日以來已將681,218枚枚LDO轉入幣安和Kucoin,價值約合170萬美元。歷史數據顯示,Jum Trading在2021年5月10日以1207 ETH購入5,587,963枚LDO,截止目前仍持有約360萬枚LDO,價值約合900萬美元。
行情顯示,LDO現報2.5119 USDT,24H漲幅為7.53%。[2023/2/12 12:02:14]
再次,并非達成一致后就原封不動地按照客戶給確認的規范執行,小牛團隊與客戶是強溝通關系,我們不斷的從規范迭代更新,規范重新定義好以后,我們再培訓,再質檢,不合格的實時淘汰。
在標注的實施過程,我們有自己的標注工具,我們會有一些抽檢和埋雷,及時的發現標注師哪塊可能會存在質量的不合格風險。再后面還會有一些抽檢,這是在標注過程中隨時做得。在確認標注質量合格后會提交給客戶,客戶這邊進行驗收,最終結算,銷毀數據。
當前也在考慮是否可通過采用區塊鏈的技術保證數據的安全,我們現在的處理方式就是提交完客戶以后,我們會把數據進行銷毀,這個是現在整個的標注工作流程。
數據標注如何助力知識獲取?
數據標注如何來助力知識獲取呢?知識獲取簡單的說,就是我們要用機器獲取知識,有廣義的知識獲取,如機器里通過不斷的程序運行,不斷的進行知識的積累,它能夠自動的,像人有理解和舉一反三的能力一樣,不斷的對這個知識進行擴充;同時也有狹義的是如我們一直在做得,包括我們知識圖譜的人員也在做的一件事,通過程序和人機交互或者是很多的知識圖譜的工具,通過專家或者是領域專家來去構建知識庫的過程。
歐盟立法者投票對加密貨幣和其他金融加強網絡保護:金色財經報道,歐盟立法者周四以612票對18票支持對加密貨幣提供商和其他金融公司實施嚴格的網絡安全規則。歐盟委員會在 2020 年提出了該法案,因為人們擔心銀行會將數據外包給少數幾家主要的、不受監管的云計算公司,但它對受到網絡攻擊和其他攻擊的加密行業的影響仍然存在爭議。
歐盟專員Mairead McGuinness在周三晚間關于該法律的辯論中表示,數字運營復原力法案(Dora)是我們在歐盟數字金融方面工作的基石,確保我們支持創新并以安全的方式進行。保護金融系統免受網絡攻擊和網絡欺詐是至關重要的。[2022/11/10 12:44:17]
知識獲取的本質就是從這種爆炸性的信息里,去甄別判斷,來提取對我們有用的知識。數據標注就是知識獲取的一個過程,舉個例子,比如說你被蒙上眼睛,讓你看到瓶里是空的還是盛滿水,你會怎么做?一種方式是不用把面罩揭開,把手伸到桶里試一下,這個是一種嘗試的方法,另外一種方式是我往里面扔一個東西,聽聽發出了什么樣的聲音,就能感覺到里面應該是有東西的,是一個推理的方式。還有一種,我也不用做什么,我就詢問一下,向值得信任的人問:這個桶里是有水嗎?對方告知有水,我相信他。
不同的知識的獲取方法,實際上可以對應不同的標注類型。比如需要基于感知,把手伸進去判斷是否有水,這是一個分類標注問題;基于推理的過程需要識別理解篩選歸納,可以對應到實體的標注;比如說我從一句話里面把人名地名結構名標注出來,這是實體的標注;在句子里看到內容進行推理判斷,如這個到底是人名還是地名,這是閱讀理解的標注;還有一個,信任,這個可以對應信息檢索,我們養成了用搜索引擎的習慣,這個也是第三個標注的類別。
Rocket Pool上質押數占ETH2.0質押總數的0.952%:金色財經消息,據Dune Analytics數據,目前Rocket Pool上質押194,868枚以太坊,占ETH2.0質押總數的0.952%。此前消息,以太坊質押協議Rocket Pool宣布完成自推出主網以來的第一次重大升級——Redstone升級。升級內容包括:優先費用分配器、新的獎勵系統、可選的Smoothing Pool、rETH轉賬延遲等。[2022/8/29 12:55:14]
人們會問現在的技術這么發達了,當前的手段很先進,有爬蟲和自動抽取自動分類,還需要標注嗎?實際上我們可以靠爬蟲對數據的來源關鍵詞怎么得到的,爬取數據要怎么驗證,剛才也提到了驗證也有開源知識圖譜審核的過程,怎么歸類,怎么表示,還有自動抽取和分類之前的算法訓練數據從哪來,這個是我們現在數據標注存在的非常重要的意義,能夠去支撐前面的這些問題。
數據標注是構建知識庫必須的手段,也是知識獲取的一個基礎和保證,我可以人工標注的結果做算法訓練,通過人工標注進行知識的校驗。
如何進行數據標注?
今天想給大家分享的是從另一個角度來給大家介紹,一個是什么樣的標注服務是專業的。標注的速度快,標注的質量好,這個就是專業嗎?實際上我們覺得不完全是。專業的標注服務是什么樣的呢?
首先服務前建立合理的標注體系;不是用戶提了一個需求以后,就完全按照客戶的需求或者是客戶給的標注說明,原封不動的做這個數據標注,我們會在看數據的過程中會跟客戶商量,不斷的完善標注體系。
之前,我們做過上百個項目,發現實際上在最早建立標注規范的時候,客戶并沒有審查數據,因此在真實的數據場景里,這個標注規范會有千奇百怪覆蓋不到的,為此,我們會跟客戶一同構建標注體系。
其次,標注的原始數據;有一些客戶給我們提供的帶標的數據,其實里面會有一些問題,比如說會有重復的,數據標注是按條計費的,這對客戶來說是損失,包括里面相似的句子比較多,或者說句子里面覆蓋的領域或者行業不太充分,這些我們都會給客戶進行一些建議。
再次,標注服務建立完善的流程,這個流程也非常重要,是質量的一個保證。
最后,為客戶提供強有力的保障;如客戶需要兩天就出標注的結果,從理解規范培訓,前面的整個一大套的流程,就需要兩天完成;當然客戶有各種各樣的需求,因此要給用戶提供一個強有力的保障,我們達到這四點,才認為數據標注是一個專業的。
事實上,不僅僅是服從和服務的過程,我們的標注團隊還希望和客戶構建一個深度信任的合作伙伴的關系,來共同做好這件事情,使得標注出來的數據有價值。
在數據標注過程中有以下幾個環節構成,每個環節都在扮演不同的角色,比如標注師、標注規范、標注系統等等。
有人會問,什么樣的標注師是好的?標注師的學歷分布,背景,這個雖然重要,但不是最重要的。公司里面有300多個比較穩定的兼職標注師。這是我們從兩三千人里經過培訓做任務篩選下來的。專業的標注師一定是熱愛標注行業,同時充分理解用戶需求。
標注流程,標注流程不是固定的,它會根據客戶的或者我們的任務場景需求不斷的去變化,如果比較繁雜的數據,我們可能會先給他一個聚類的環節,給他聚成堆,比如軍事領域聚在一起,有一些標注人員比較擅長理解這個領域的這些數據,我們就給他分配這樣的標注師。比如說項目進度比較緊張,像剛才那么一大堆的流程,可能至少有一周的時間,我們需要根據客戶的需求來簡化流程,保障進度。
除此之外,標注規范也是比較一個需要關注的節點。這是一個必須要經過反復驗證的過程,之前客戶給我們一個規范半頁紙,在我們做完的時候標注規范已經寫了三十多頁了。因此標注規范是標注過程中不斷去完善的。標注規范要保證它的全面,也要保證標注效果。
還有一個就是標注規范的呈現形式,客戶給我們的往往都是實際上是技術人員寫的,比如說算法工程師寫的,如果讓不懂算法的人去看的時候,就會非常的麻煩,所以我們在里面還會有一個過程,就是原始規范的改寫,我們會把標注規范呈現的方式,讓標注師更容易理解。因此,在整個標注服務過程中,我們專業的標注規范,要有明確的標注內容,標注時候的規律,基本的處理原則,還有一些注意事項,所以這些都要在規范里把它都表述的非常清楚,而且要用通俗易懂的語言來描述出來。
接著是標注系統,知識圖譜構建的工具,我們這個標注系統實際上之前也開放過。標注系統可以完成各種標注任務的,當前標注系統支持圖象的二倍拉框,語音轉文字的標注,還有文本方面的標注,如實體的標注,關系標注,事件的標注,包括分類,類型的標注,問句的意圖標注,包括對話的生成等等。
標注系統實際上是為了提高我們標注效率的,這個系統的構建實際上就是需要減少標注人員在系統外的操作,會根據任務在標注系統里嵌很多,比如嵌入搜索結果,從百度搜索還有各種搜索引擎的結果,幫助標注師去理解概念,提高標注的效率和一致性,這些都會在標注系統里進行考慮。
標注過程一定是不斷的反饋更新培訓和淘汰的過程,單純的一次質檢是保證不了質量的,所以在整個的標注服務過程中,構建了四重機制,比如說質量的把控,抽檢,埋雷,多人標注,數據安全的機制,應急的預案,包括人員預留,突發事故的應急組等等,另外,我們還會有一些考慮,包括過程的控制,比如說規范的適用性,規范的確認改寫,包括培訓測試,包括狀態項目進度的監控,包括反饋機制,包括實施過程等方面,總之,通過各種機制,我們來保證標注的質量。
EpiK?Protocol?銘識協議
EpiKProtocol致力于去中心化的超大規模知識圖譜構建,通過去中心化存儲技術、去中心化自治組織和通證經濟模型,組織并激勵全球社區成員將人類各領域知識梳理成知識圖譜,共建共享并持續更新這一人類永恒知識庫,從而將人工智能(AI)的視野拓展到更智能的未來。
通證名稱:EPK
EPIK官網?:
https://www.epik-protocol.io/
EPIK白皮書?:
https://www.epik-protocol.io/EPIK-whitepaper-cn.pdf
EPIK經濟白皮書:
https://www.epik-protocol.io/EPIK-whitepaper-economy-cn.pdf
EPIKGitHub:
https://github.com/EpiK-Protocol
EPIK電報群:
https://t.me/EpikProtocol
來源:金色財經
Tags:EPIKPROPROTTOCEpiK ProtocolHorizon ProtocolFountain ProtocolYield Protocol
?Filecoin不是一個純挖礦項目,下一階段的打造就是有效數據存儲,所以大家看到幣價跌了,也只是暫時的!???前不久,FenbushiCapital與ProtocolLabs合作.
1900/1/1 0:00:00市場中的洗盤是漫長而又枯燥的,雨神繼續在圈子中為大家捕捉信號,抓住突破機會以及規避下跌風險。今天國內外有兩件大新聞,其一,比爾蓋茨收購了24.2萬英畝農地,成為美國最大的地主.
1900/1/1 0:00:00已經遠去的背影,突然間變的很陌生,已經單邊的行情,突然間變的很刺激,朋友間剩下了冷清和寂靜,市場間留下了瘋狂與喧鬧.
1900/1/1 0:00:00認真為幣圈朋友提供高質量文章,內容全網公布,微信公眾號首發市場行情雖然變化多端,但在一定的程度上還是有規律可循的,這也是技術分析存在的基礎.
1900/1/1 0:00:00前言? 別說自己看不清方向是你已經迷途了,我從沒怪過你,只是偶爾失望,可以選擇放棄,但不能放棄選擇,在最悲傷的時候不能失去信念,在最幸福的時候不能忘記挫折.
1900/1/1 0:00:00放縱的快樂很簡單,但是克制的快樂很難。心中立下過多少拿住的誓言,最終都因為小利而跑路,賬戶變藍時,自己便開始找借口,所有的K線看起來都是逃跑的跡象,但事實上預期都不曾改變過.
1900/1/1 0:00:00