VR、AR和腦機接口,誰是人類通往元宇宙的合適入口?
VR/AR/腦機接口是集合了微顯示、傳感器、芯片和算法等多項技術在內的下一代人機交互平臺。回顧整個人機交互發展歷程,我們看到人機交互的指令輸入形式和反饋輸出形式都在朝著更低的操作門檻和更高的交互效率演變。當前我們正站在智能手機時代和下一個交互形態的交界處,我們認為盡管VR/AR在輸入技術和輸出技術方面均較上一代交互設備有顯著飛躍,但目前仍處于發展的早期階段。隨著元宇宙應用的發展和內容生態的完善,元宇宙對硬件的需求逐步清晰,將推動VR/AR/腦機接口設備的逐步升級,最終有望出現可以和PC、智能手機媲美的下一代硬件。
本期的智能內參,我們推薦華泰證券的報告《人機交互系統是通往元宇宙的入口》,分析VR、AR和腦機接口設備在元宇宙時代的發展趨勢。如果想收藏本文的報告,可以在智東西回復關鍵詞“nc605”獲取。??
來源華泰證券
原標題:
《人機交互系統是通往元宇宙的入口》
作者:黃樂平等
元宇宙場景落地
定義下一代人機交互升級方向
隨著元宇宙應用場景的清晰化,未來VR/AR/腦機接口的發展方向逐漸明確。早期的硬件設備受制于應用場景和內容單一化、用戶對硬件設備的體驗不完善等缺陷,初代VR/AR并未實現大規模增長。
現在,我們看到游戲、電商、協同辦公、社交、健身、醫療、視頻和等元宇宙應用場景正逐漸清晰,這對VR/AR/腦機接口硬件端提出了更高的需求,有望驅動包括微顯示技術、三維重建、生物傳感器、肌電/腦電處理、全身追蹤、空間定位在內的多項底層技術不斷完善。
▲元宇宙各大應用場景對沉浸感和交互感的要求
1、游戲:強調“沉浸感”的元宇宙游戲需要多平臺/VRAR/云原生技術作為底層技術支撐
當前游戲已具備元宇宙所擁有的虛擬身份、朋友、經濟系統等特點,但未能給玩家完全帶來“沉浸感”,硬件方面主要受制于近眼顯示和多維感官傳感技術不夠成熟。未來,元宇宙游戲將朝著更強的沉浸感與更豐富的內容生態方向發展,需要借助成熟的場景渲染和沉浸聲場技術增強聲畫效果,借助全身運動追蹤、傳感器、空間定位等技術增強臨場感。優質的游戲內容創新將與VR/AR硬件升級互相形成正反饋效應,促進元宇宙游戲生態的發展,并為高性能計算芯片、硅基OLED、MicroLED以及相關設備組裝企業帶來增量空間。
▲元宇宙游戲發展方向及底層技術
2、電商:虛實交融的沉浸式購物模式為近眼顯示、AI芯片、傳感器帶來發展機遇
傳統電商平臺仍主要以圖片和視頻等平面化形式展示商品。盡管近年來電商直播、AR試妝等形式興起,一定程度上彌補了傳統電商在購物時較為單薄的觀感體驗,然而對于服飾等SKU豐富的非標品類商品,用戶仍然無法對其進行在線試品。在“在線即在場”的終極需求驅動下,元宇宙時代的電商有望進一步突破物質世界屏障,通過AR/VR/MR等新一代人機交互平臺實現視聽甚至觸覺等多感官交互的購物體驗,創造如3D虛擬商場、數字展館等消費者購買場景。我們認為這一進程主要依賴于近眼顯示、三維重建、觸覺傳感乃至虛擬人等技術的成熟,將為相關微顯示、傳感器、芯片企業帶來增長空間。
俄羅斯憲法修正案投票系統漏洞可使用戶計票前對結果進行解密:俄羅斯的基于區塊鏈的憲法修正案投票系統有一個漏洞,這使得在官方計票前破譯選票成為可能。根據當地媒體Meduza的研究,投票系統依賴于所謂的確定性加密,即使用相同的參數產生相同的密文。發送方和接收方都接收到一個共享密鑰,該密鑰可用于對消息進行加密或解密。這意味著,在選舉委員會解密之前,任何選民理論上都可以破譯自己的選票,甚至允許第三方這樣做。為了做到這一點,投票者必須保存他們的私鑰。Meduza進行了一項實驗,所有參與者都檢索了他們的私鑰,據報道他們能夠解密所有選票。根據這篇文章,理論上,這個漏洞可以讓雇主確保他們的雇員投了票,甚至可以誘使他們保存自己的私鑰,然后檢查他們投的票。另一方面,在選舉委員會拒絕公布每一張選票的解密信息的情況下,同樣的漏洞也可以用來增加投票的透明度。(Cointelegraph)[2020/7/2]
▲元宇宙電商有望借助VR/AR/MR實現“在線即在場”的沉浸式購物體驗
3、協同辦公/社交:借助手勢追蹤、語音識別、眼動追蹤、虛擬化身實現互動感
未來元宇宙辦公/社交有望突破物理空間的局限,將帶來最接近實地面對面的工作和交友體驗,提升辦公生產、溝通、協作效率。當前移動互聯網階段的遠程辦公距離理想模式有一定差距,工作效率與溝通效果仍存在局限性。而元宇宙辦公/社交則強調互動感,例如,用戶可以全程通過手勢操作,即可滿足在VR虛擬空間中舉手、豎大拇指點贊等功能,顯著降低人機交互平臺操作門檻,同時實現無距離感互動。這一場景的實現將主要借助手勢讀取、眼動追蹤、語音識別、空間定位等VR/AR底層技術。
4、醫療與健康:VR/AR/腦機硬件將搭載先進生物監測以及腦電信號處理技術
在生物監測方面,當前隨著心率監測、血氧檢測技術的成熟,已有部分智能手環和手表產品中引入了醫療級功能,向著更專業的醫療設備進化將是智能穿戴重要發展方向。未來,智能穿戴產品有望大規模搭載ECG心電圖以及無創血糖檢測等新功能,針對老年群體、慢病群體提供更專業的服務,這也對血糖、血氧等生物監測技術提出了更高的要求。長期來看,人機交互硬件在醫療與健康領域有望拓展到服務神經系統和肌肉系統癱瘓的患者,這一需求將為腦機接口技術創造可觀的發展前景。
▲生物檢測與輔助健身場景
5、視頻:VR/AR技術帶來高沉浸感的流媒體觀賞體驗
傳統影視作品、長視頻與短視頻仍主要通過電視、影院、視頻平臺等媒介傳播,受制于平面化的表現形式,內容的表現力仍有較大提升空間。元宇宙時代,觀眾有望使用先進VR/AR設備更沉浸地觀看電影、現場實況、音樂會等內容,娛樂性與體驗感將迎來質的飛躍。目前包括Netflix和愛奇藝在內的長視頻平臺已對“元宇宙+視頻”的落地做出了積極探索。
6、模擬訓練/教育:將實現虛擬空間中對實體環境的仿真映射
模擬訓練是指將現實中的場景復刻到虛擬世界中,應用于軍事訓練、工業設計、教學訓練、安全應急演練等較為復雜或具有高危險系數的領域。工業領域中,制造業企業將在仿真虛擬空間中充分利用各類數據,優化工業生產環節中的設備工藝和作業流程。
軍事和安全應急領域均有進行模擬演練的需求,未來有望在虛擬場景開展更大規模和更復雜的軍事和應急訓練,實現節省訓練成本、提高安全性的目的。鑒于模擬訓練用途的特殊性,其對沉浸感和交互感的要求相對而言較低,無需依賴高端硬件設備加成,目前已有曼恒科技、壹傳誠等企業實現了商業化。
下一代人機交互平臺
VR是VirtualReality的縮寫,指計算機圖形技術、計算機仿真技術、傳感器技術、顯示技術等多種科學技術,在多維信息空間上創建一個虛擬信息環境,提供使用者關于視覺、聽覺、觸覺等感官的模擬,能使用戶具有身臨其境的沉浸感,具有與環境完善的交互作用能力的一種嶄新的人機交互手段。
西班牙電信集團推出免費工具以解密受VCryptor勒索軟件影響的文件:金色財經報道,總部位于西班牙的電信集團Telefónica發布了免費工具,用于恢復被VCryptor勒索軟件加密的數據。該工具VCrypt Decryptor是國際倡議“不再有勒索軟件”的一部分,是旨在解密近134種勒索軟件的幾種工具之一。該聯盟是由McAfee、Europol、Politie和Kaspersky建立的。。[2020/6/4]
VR頭顯經歷VR盒子、VR頭盔、VR一體機三階段,爆款產品持續主導硬件消費市場。2Q21全球VR產品出貨量達212.6萬臺,同比增長136.4%,其中OculusQuest2出貨量占75%,持續主導市場。從2014年開始,行業銷量由爆款產品主導的特點仍然沒有變化。
▲VR歷史銷量:VR盒子、VR頭盔、VR一體機持續迭代
▲主流VR產品比較
2022年VR將迎來一波創新技術潮流,MetaVR產品迎來升級,蘋果推出高端產品。根據digitimes,推測Meta下一代VR升級產品將于明年推出,將引入pancake光學模組和更多傳感器,以實現產品輕量化,并升級手勢識別、眼動跟蹤等功能;而蘋果也將在2022年底推出一款高端VR方案,這款高端產品能夠會重新定義VR這個產品形態。預計這款產品將配備Micro-OLED顯示屏,復合菲涅爾透鏡pancake方案,全彩影像透視、搭載更多傳感器,為消費者帶來全新混合現實體驗。
在Meta較早的pancake技術專利中,我們可以看見一個顯示組件包括具有四分之一波片和部分反射表面的第一透鏡、具有反射偏振器的第二透鏡和顯示器,實現頭顯的輕薄化。我們認為,蘋果同樣在探索使用三個菲涅爾透鏡堆疊,形成輕薄透鏡組的方案。改進光學透鏡后的VR產品將實現輕薄化,頭顯重量或由原來的500g降低至200-300g。
Meta下一代VR產品與蘋果MR產品將會增加傳感器,主要是攝像頭的種類與數量。高通在其官網上披露,高通驍龍XR2芯片算力最多可支持7顆攝像頭,并可以此實現MR混合現實功能。我們認為Meta下一代或充分利用驍龍XR2算力,為產品進行功能升級。
根據digitimes等雜志2022年1月中旬的報道,蘋果或將搭載與M1芯片相似算力高階處理器和一個負責傳感器的低階處理器,支持5-8個外置相機模組,2個內置眼動追蹤相機模組,1-2個ToF攝像頭,以實現全彩RGB影像透視和眼動追蹤、手勢追蹤等功能,實現內容與應用邊界的拓展,也為內容生產商提供更多的數據支持。
為Meta下一代或沿用FastLCD屏幕,與quest2分辨率差別不大,但具有像素級控制的先進背光,可以展示和OLED一樣的純黑底色;而蘋果或使用高分辨率、高對比度、寬色域、快速響應的Micro-OLED顯示屏,隨之而來的或是高昂的售價,根據Digitimes等媒體2022年1月中旬的報道,新一代蘋果MR產品售價可能達到1500-3000美元,高于當前Oculusquest2的最低售價299美元。
AR:新技術強勢推動
AR是促使真實世界信息和虛擬世界信息內容之間綜合在一起的較新的技術內容,與VR不同的是,AR能夠將真實環境和虛擬物體之間重疊之后,在同一個畫面以及空間中同時存在。AR中的關鍵技術包括跟蹤定位技術、虛擬與現實合并技術、顯示技術與交互技術。
根據IDC,2020-2021年AR年出貨在20-30萬之間,增速波動大。從品牌來看,除Epson和微軟外,其他較多品牌并沒有實現AR的持續大規模銷售,常常在1-2個季度的爆發后銷聲匿跡,消費端市場上沒能出現標桿性的品牌,我們認為AR作為一款消費電子產品仍然處于概念期階段。
動態 | 維基解密比特幣捐款地址追蹤:一地址累計接收4042枚BTC并全部轉出:維基解密目前有兩個公開的比特幣地址接受外界捐助。截止4月19日,其中一個較老的地址(1HB5XMLmzFVj8ALj6mfBsbifRoD4miY36v)已經累計接收了超過兩萬筆捐贈,累計接收4042.85649978枚BTC,并已經全部轉出;另一個較新的地址(36EEHh9ME3kU7AZ3rUxBCyKR5FhR3RbqVo)共接受了261筆捐款,余額為4.69532962枚BTC,從接收的捐款地址來看,除個人地址外,有10筆來源于礦池Eligius,其余來自于諸如Bittrex.com、Xapo.com、HaoBTC.com等交易所。需注意的是,這并非意味著這些機構組織直接向維基解密捐款,很可能是其個人用戶通過提幣功能直接將比特幣提到維基解密的捐款地址之下。(北京鏈安)[2019/4/23]
長期來看AR終端有望替代手機,實現年出貨量超過10億臺,但目前來看實現這個目標時日尚早。從應用看,AR產品仍未出現殺手級的應用場景。從技術角度看,雖然OLED+Birdbath方案已經比較成熟,但因透光性差等原因,形似墨鏡的設計不能支持全環境的使用。而其他微顯示系統如LBS/LCoS/DLP等搭配光波導的方案仍在探索過程中。
一款合格AR眼鏡需要怎樣的配置?
顯示:由于AR像源產生的圖像將與太陽光一起進入人眼,戶外若不加墨鏡,入眼亮度需超過2,000nits,甚至達到5,000nits,才能在各種天氣狀況下清楚的顯示圖像。目前一款光波導眼鏡的光效率大約為3-5%,即像源亮度至少要在10萬nits左右,才能滿足AR眼鏡的亮度需求。此外,75Hz以上的刷新率、25°視場下720P的分辨率、支持局部刷新及低功耗狀態下靜態圖像的維持,是一款AR眼鏡的及格線。
人、機、環境的有效交互:為了實現虛擬信息和真實場景的疊加,需要實現使用者的空間定位追蹤和虛擬物體在真實空間中定位。除此之外,為了將虛擬信息與輸入的現實場景無縫結合在一起,增強AR使用者的體驗,還需要考慮虛擬事物與真實事物之間的遮擋關系以及實現幾何一致、模型真實、光照一致和色調一致。從上世紀80年代發展到現在,SLAM傳感器、算法、技術框架等持續改進,是實現自我姿態評價以及虛擬圖像反饋,構建人與虛擬內容的有效交互的主要手段。
當前已提出的微顯示技術包括OLED/LCoS/DLP/LBS等待,但這些技術均無法兼顧成熟性、性能、成本等指標。MicroLED是業內公認的AR顯示最佳解決方案,但存在技術尚不成熟、量產難度大等問題,真正大面積商用可能要到2025年左右。
▲微顯示技術一覽
LCoS——限制較多,逐漸淡出。LCoS作為微顯示技術存在比較明顯的限制,逐漸淡出微顯示領域。LCoS的優勢在于技術成熟,成本低廉,像素密度高且功耗低,在早期的AR設備中應用較多,如靈犀微光靈犀AR(LCoS+幾何光波導),MagicLeapOne(LCoS+衍射光波導)。但劣勢也相對明顯,大量廠商都在積極尋求使用LBS/DLP等方案代替LCoS,2018年以后搭載LCoS的新機型逐漸淡出。
硅基OLED——亮度較低,目前難以應用于戶外AR場景。硅基OLED的缺點也比較明確,應用局限于VR及類似設備。目前市場上主流的硅基OLED產品亮度均小于3000nits,與10萬nits的要求相去甚遠,難以應用于戶外AR場景。同時,由于產品的生產工藝更加復雜,其價格比LCoS貴50%以上,但使用壽命在高亮度模式下將低于3000小時且極有可能出現燒屏的情況,整體性價比更低。因此,雖已有部分AR廠商使用硅基OLED替代LCoS,但其仍不是AR像源的最佳解決方案。
動態 | 維基解密官方在線零售商店宣布采用Dash:據Today’s Gazette消息,在Coinbase要求關閉維基解密商店后的一年,維基解密的官方在線零售商店宣布采用Dash。據此前消息,維基解密創始人Jullian Assange已被英國逮捕,隨后政客、演員和模特等業界名流紛紛捐款,呼吁釋放Assange。在維基解密的捐款頁面上,詳細說明除接受傳統支付方式外,還包括BTC和Zcash。目前該組織的比特幣錢包余額達到8.2枚BTC。[2019/4/14]
LBS——激光二極管對溫度敏感、分辨率較差。與LCoS等其他顯示技術相比,LBS技術優勢明顯。LBS系統主要由激光、光學器件和MEMSMirror組成由于LBS使用激光光源進行逐像素渲染,相較其他非激光、逐幀渲染方案天然具有延遲低、畫面滯留時間短、亮度高、能耗低、色彩豐富的優勢。
當前主流的LBS產品分辨率約720P,提高分辨率可能需要較高的成本。AR硬件/軟件企業Rave首席科學家KarlGuttag將搭載LBS光機的HoloLens2代和搭載LCoS光機的HoloLens1代進行對比測試后發現,雖然HoloLens2的垂直視場角較1代提升近一倍,但其在分辨率、色彩均勻性等方面的表現均更差。此外,HoloLens2實拍圖色彩飽和度更低,觀感模糊,霧度也更大。
DLP——對溫度敏感,難以小型化。DLP由于成本高、體積大等缺陷,在AR場景中的應用有一定限制。DLP系統的核心是TI專利的DMD芯片,它由數百萬個高反射的鋁制獨立微型鏡片組成,每個鏡片通過數量龐大的超小型數字光開關控制角度。這些開關可以接受電子訊號代表的資料字節,然后產生光學字節輸出,將輸入DMD的視頻或圖形信號轉換成高清晰度的、高灰度等級的圖像。
MircoLED——仍處在早期階段,較多技術問題需要解決。MicroLED產品性能絕佳,是業內公認的AR顯示最佳解決方案。MicroLED即LED微縮技術,通過將傳統LED陣列化、微縮化后定址巨量轉移到電路基板上形成超小間距LED,可將毫米級別的LED長度進一步縮小到微米級。相較其它技術,MicroLED產品性能在亮度、對比度、工作溫度范圍、刷新率、分辨率、色域、功耗、延時、體積、壽命等多方面具備較大優勢,被期望為下一代主流顯示技術的重要路徑。
MicroLED的發展瓶頸在于微米級的像素尺寸和間距給量產和全彩方案所帶來的巨大挑戰。MicroLED的生產包括芯片和背板制造、巨量轉移、接合、驅動和檢測維修等環節,由于其晶粒尺寸在微米級,生產單個成品即需要處理數百萬甚至數千萬晶粒,對技術的效率和良率提出了極為嚴苛的要求,現有技術水平還無法滿足其量產需求。而MicroLED晶粒的發光效率、波長一致性和良率也尚未達到MicroLED彩色化顯示的要求。基于此,現有MicroLED屏幕價格高昂,單片售價即大于1000美金。2018年三星演示的采用microLED技術的TheWall電視,146寸版報價高于10萬美元。
光學模組:從幾何光學到納米光學。與VR的不同之處在于,AR眼鏡需要透視,既要看到真實的外部世界,也要看到虛擬信息,所以成像系統不能擋在實現前方,這就需要多加一個或一組光學組合,通過層疊的方式,將虛擬信息和真實場景融為一體,設計包括自由曲面,光波導等。
▲AR光學模組梳理
光波導技術是應AR需求而生的一個比較有特色的光學組件。因它的輕薄與外界光線的高穿透特性而被認為是消費級AR眼鏡的必選光學方案。
AR眼鏡中光的傳輸關鍵在于“全反射”。其實,波導技術并不是新發明,光纖就是波導的一種,只不過傳輸的是我們看不見的紅外波段的光。光機完成成像過程后,波導將光耦合進自己的玻璃基底中,通過“全反射”原理將光傳輸到眼睛前方再釋放出來,就完成了圖像的傳輸。
動態 | 阿桑奇逮捕后,維基解密已收到近3萬美元的比特幣:據Crypto Globe消息,維基解密創始人Julian Assange被捕后,政客、演員和模特等業界名流紛紛捐款,呼吁獲釋Assange。在維基解密的捐款頁面上,詳細說明除接受傳統支付方式外,還包括BTC和Zcash。目前,該組織的比特幣錢包余額在幾天內從2.3枚BTC躍升至超7.9枚BTC。[2019/4/13]
越是大的視場角,就需要越高折射率的玻璃基底來實現。因此傳統玻璃制造商比如康寧和肖特,近年來都在為近眼顯示市場研制專門的高折射率并且輕薄的玻璃基底,還在努力不斷增大晶元尺寸以降低波導生產的單位成本。
具體來看,當前光波導技術可以分為下面三種:
1)幾何/列陣光波導。該概念和專利一直由以色列公司Lumus提出并持續優化迭代,基本原理是耦合光進入波導的一般是一個反射面或者棱鏡。在多輪全反射后光到達眼鏡前方時,會遇到一個“半透半反”鏡面陣列,將光耦合出波導。幾何/列陣光波導目前大都只能實現一維擴瞳。這里的“半透半反”鏡面陣列相當于將出瞳沿水平方向復制了多份,每一個出瞳都輸出相同的圖像,這樣眼睛在橫向移動時都能看到圖像,這就是一維擴瞳技術(1DEPE)。
2)浮雕光柵衍射光波導。傳統的光學結構被平面的衍射光柵取代,通過材料表面浮雕出來的高峰和低谷,在材料中形成了一個折射率的周期性變化。通過設計光柵的參數(材料折射率、光柵形狀、厚度、占空比等)可以將某一衍射級(即某一方向)的衍射效率優化到最高,從而使大部分光在衍射后主要沿這一方向傳播。
用衍射光柵可以實現二維擴瞳,digilens和WaveOptics分別具有兩種技術方案。HololensI,VuzixBlade,MagicLeapOne,Digilens等使用的方法是,當入射光柵將光耦合入波導后,會進入一個轉折光柵的區域,這個區域內的光柵溝壑方向與入射光柵呈一定角度,那么它就像一個鏡子一樣將X方向打來的光反射一下變成沿Y方向傳播。另外一種實現二維擴瞳的方式是直接使用二維光柵,即光柵在至少兩個方向上都有周期,將單向“溝壑”變為柱狀陣列。WaveOptics就是采用的這種結構,從入射光柵耦合進波導的光直接進入一個具有二維柱狀陣列發區域,可以同時將光線在X和Y兩個方向實現擴束,并且一邊傳播一邊將一部分光耦合出來進入人眼。
3)布拉格光柵衍射光波導。利用光全息術在記錄材料薄膜上記錄點光源的干涉條紋,再經過處理制成光柵條紋結構的薄膜光學元件,具有光束準直、聚焦、偏轉等功能。其對光的衍射符合布拉格定律,只有滿足布拉格條件的入射光才會被衍射,不滿足布拉格條件的入射光不被衍射。目前在做全息體光柵(VHG)波導方案的廠家比較少,包括十年前就為美國軍工做AR頭盔的Digilens,曾經出過單色AR眼鏡的Sony,還有由于被蘋果收購的Akonia。
SLAM:理解環境與使用者,實現虛擬信息和現實世界的結合。SLAM,同步定位與地圖構建,指在運動過程中通過重復觀測到的環境特征定位自身位置和姿態,再根據自身位置構建周圍環境的增量式地圖,從而達到同時定位和地圖構建的目的。
現代流行的SLAM系統大概可以分為前端和后端。前端通過傳感器實現數據關聯,研究幀與幀之間變換關系,主要完成實時的位姿跟蹤,對輸入的圖像進行處理,計算姿態變化。后端主要對前端的輸出結果進行優化,得到最優的位姿估計和地圖。
SLAM在ARVR中有較多應用,AR中主要是1)現實物體與虛擬物體的有效交互,2)實現語義理解,優化智能輔助功能:
實現虛擬世界和現實世界之間坐標疊加、實現幾何物理信息交互。與電腦、平板、手機的3D顯示不同,AR更注重虛擬信息與真實信息的無縫融合,即圖像出現的平面位置與景深準確、帶來沉浸感的良好體驗。這就需要利用SLAM算法,準確疊加虛擬坐標系和真實坐標系。同時,真實環境中有高低起伏、有障礙物、有遮擋關系,AR可以讓虛擬信息跟這些真實環境中的物理信息進行交互。
隨著機器學習和深度學習的發展,虛擬信息可以“理解”真實世界,讓二者的融合更趨于自然。當前計算機已經可以已經可以認出圖片上的內容,但沒有理解內容之間的關系,當前的一項研究方向是,應用SLAM+AI技術,通過特征提取,實現機器的語義理解,優化AR系統的輔助功能。
傳感器:交互方式與應用場景升級推動傳感器升級。AR中交互方式的升級,帶來更多樣信息需求。隨著人機交互由2D走向3D,交互方式逐漸多樣化,向人類本能發展,手勢交互、姿勢交互、眼動交互、語音交互,甚至結合生物信號、周圍環境交互的方式不斷進化,這對更多種類的信息提出了要求,用戶運動類、生物類信息,以及其他環境信息都將為人機交互提供底層支持。
大量信息需求為運動類、生物類、環境類各型傳感器提供增量機會。當前蘋果手機、手表廣泛運用多種運動、生物型傳感器,與之對比,VR爆款產品Oculusquest2頭顯僅搭載了4顆黑白攝像頭,手柄配備了兩組陀螺儀加速度計傳感器。未來,為實現更深度沉浸和更便捷交互,測距攝像頭、眼動追蹤攝像頭、精細化壓力傳感器,甚至生物型、環境型傳感器,都將逐漸配備。
腦機接口
離現實還有多遠?
腦機接口1976年由加州大學洛杉磯分校的雅克·維達爾(JacquesJ.Vidal)提出。一個完整的腦機接口過程包括信號采集、信息解碼處理、信號?輸出/執行、反饋四個步驟實現。腦機接口可以通過電、磁、光、聲進行信號采集與反饋,而腦電技術是目前主流探索方向。事實上采集中樞神經信號以監測大腦活動的方法有很多種,包括腦電、功能近紅外光譜、功能磁共振成像等,反饋技術也同樣包括電、磁、聲、光多種。
馬斯克提出的一個經典論述是“人類不能被AI淘汰,要與AI融合,在大腦和電腦之間創建一個接口”。隨著我們對腦科學的不斷認識和腦機接口技術下對人類肢體限制的不斷突破,人腦的潛能或得到釋放。
在各種監測技術中,腦電因為時間分辨率高、設備價格低廉且便攜等優點,逐漸成為腦機接口研究最主流的探索方向。腦機接口主要包括以下幾種技術:
1)腦電采集:腦電采集是BCI的關鍵步驟,采集的效果、信號強弱、穩定性及帶寬大小直接決定后續的處理及輸出。由于大腦的中樞神經元膜電位的變化會產生鋒電位,或動作電位,并且神經細胞突觸間傳遞的離子移動會形成場電位,通過在大腦皮質的運動神經位置外接或植入微型電極,可以采集并放大這些神經生理信號。
2)信號解碼處理:信號處理是將轉化為電信號的大腦活動,去除干擾電波以及其他信號,并將目標分類并處理,轉化為可以執行輸出的對應信號。
3)信號輸出及執行:信號輸出指將收集并處理后的腦電波信號傳輸至已連接的設備器材,作為數據基礎加工內容,或反饋到終端機器以形成指令,甚至實現直接交互。
4)反饋:在信號執行后,設備將產生動作或顯示內容,參與者將通過視覺、觸覺或聽覺感受到第一步產生的腦電波已被執行,并觸發反饋信號。
根據腦電的采集方式,當前的腦機接口又可以分為侵入式、非侵入式。
非侵入式是在人/動物大腦外部佩戴腦機接口設備,通過采集腦電、神經電獲取腦部信息,但信息精度及分辨率較低,可用于簡單的信號判斷與反饋,但較難傳達復雜指令,如幫助肢體殘障人士通過意念操控機械骨骼,或用于VR/AR游戲應用的基礎手勢控制。非侵入式根據收集信息的不同可以分為EEG和MEG兩種。
1)EEG:通過導電凝膠將Ag/AgCI電極固定在頭皮上,以測量頭皮腦電信號,但一般只能監測到0-50Hz相對較窄頻帶中的信息。
2)MEG:通過測量細胞內離子電流引起的小磁場獲得信號,但由于高昂的成本和操作方法的繁瑣,MEG并不是一個理想的解決方案。
侵入式腦機接口主要應用于醫療康復領域。侵入式將設備直接植入到人/動物大腦灰質或顱腔內,能夠獲取相對高頻、準確的神經信號,不僅能夠通過讀取腦電信號來控制外部設備,還能夠通過精確的電流刺激讓大腦產生特定感覺。侵入式腦機接口可以分為ECoG、LFP、SUA等類型。
1)ECoG:測量大腦皮層電位,與EEG技術相似,但能夠監測到更大帶寬的信息;
2)LFP、SUA:測量大腦皮層場電位與鋒電位,可以通過Mircowirearray,Michiganarray,Utaharray,Neurotrophicelectrode等多種傳感器實現。
侵入式采取電信號的方法,具有較高的空間分辨率、良好的信噪比和更寬的頻帶,但目前仍然面臨著有創帶來的安全問題、難以獲得長期穩定的記錄、需要醫護人員長時間連續的觀察等問題,目前應用仍局限于醫療康復領域。
隨著人們對大腦的認知、電極設計、和人工智能算法的精進,腦機接口領域應用也持續拓展,并向更加精細化發展。腦機接口相關的研發已經在仿生學、醫療診斷與干預、消費電子等多個領域進行持續探索,相關產品可能將在未來20-30年內陸續商業化,支撐起近千億美元的市場規模。
目前來看,腦機接口在以下三個場景最有希望率先落地:
應用場景1:醫療健康領域是腦機接口當前最接近商業化的領域。腦機接口可以幫助實時監控和測量神經系統狀態,輔助臨床判讀。“監測”型腦機接口應用方向十分多樣,包括評測陷入深度昏迷患者的意識等級,測量視/聽覺障礙患者神經通路狀態協助醫生定位病因等等。除此之外,通過結合腦電、視頻等多元信息進行診
監測到的腦電信息可以用于加工、反饋,針對多動癥、中風、抑郁癥等做對應的恢復訓練。例如,對于運動皮層相關部位受損的中風病人,腦機接口可以從受損的皮層區采集信號,然后刺激失能肌肉或控制矯形器,改善手臂運動;運動想象類腦機接口可以用于孤獨癥兒童的康復訓練,提升他們對于感覺運動皮層激活程度的自我控制能力,從而改善孤獨癥的癥狀,也可以通過腦電信號的反饋,訓練使用者的專注力。療,能夠輔助醫生判讀腦損傷、腦發育等多種臨床適應癥。
基于電、聲、光、磁刺激進行神經調控的腦機接口已經實現商業化。相關應用包括:通過電刺激治療進行神經康復,主要針對腦卒中、帕金森等中樞神經或周圍神經損傷所致的運動功能障礙,如偏癱、肌萎縮、肌力低下、步行障礙、手功能障礙;通過顱磁刺激治療抑郁癥,以及對腦卒中所致的言語功能障礙、吞咽障礙、認知功能障礙進行治療。國內外多家公司包括偉思醫療,Neuronetics,Brainsway等公司已經推出相關產品。
BrainCo強腦科技在2019年推出世界上第一款可以意識控制每一根手指的非侵入式智能仿生手后,在今年再次推出一款適合不同傷殘等級的仿生腿產品。根據公司介紹,這款產品每秒可提取2萬個肌電神經電數據,因此能快速、準確地識別用戶意圖,并根據環境、肌肉情況調整步態防止摔倒,實現高仿生體驗,還能夠支持攀巖、涉水等多種復雜操作,為殘障人士創造高品質生活,拓展了腦機接口技術在義肢方向的應用。
應用場景2:消費電子與AIoT領域展開消費端應用。腦機接口技術可以與消費產品相結合,提供更直覺交互體驗。早在2014年,加難道公司ThalmicLabs就推出了一款臂帶式控制器Myo,通過感知肌肉的生物電活動,可以讓使用者只需要動動手指就可以無線控制身邊的計算機和其他數字產品。隨著技術的持續升級,當前臂帶式控制器可以實現通過識別活動意念帶來的電流進行控制,意念打字、意念操作玩具等已經不是幻想。
在腦機接口的支持下,游戲玩家可以用意念來控制VR界面的菜單導航和選項控制,獲得了獨立于傳統游戲控制方式之外的新的操作體驗;同時人們也可以用意念控制開關等,甚至控制家庭服務機器人,實現全新意義上的智能家居。
滲透率或隨AR及其他可穿戴產品普及持續提升。當前更加簡單形式的控制,比如眼動追蹤攝像頭、觸摸控制等或限制腦機接口交互需求。我們認為未來隨著一系列可穿戴設備比如AR眼鏡的普及,以及元宇宙的持續建設,基于腦機接口技術的消費電子產品滲透率將持續提升。
應用場景3:實現大腦強化,運用于國防軍事領域2020年美國蘭德公司發布了一份名為《腦機接口:美國軍事應用和意義的初步評估》的報告,指出雖然存在一定風險,“腦機接口”很可能在改進未來作戰中提供相應的支持,腦機接口在軍事領域用途包括保證更高效和保密的軍事通信、提高決策速度與準確性,允許操作員同時控制多個平臺等。
進行更高效和更保密的軍事通信。2019年,DARPA就選擇了6個團隊來開發N3神經技術研究計劃,旨在為美國軍方提供高精度的雙向腦機接口系統,使服役人員能夠與計算機系統進行通信。未來若腦機接口用于軍事通信的技術獲得成功,將顛覆現有通信技術的運轉模式。此前的通信解密都是在得到對方通信信號的基礎上,依據共同、公開的技術知識進行解密。理論上只要有足夠的時間,任何加密算法都可以被破譯。而腦機接口通信可能在雙方的主體意識尚未明確時就已經完成;所以,不僅通信信號難以得到,即使得到信號,也缺乏解密所需的技術知識。
腦機接口或用于處理大量數據來提高決策效率。未來作戰中,智能設備、士兵穿戴式傳感器和無人機可向士兵提供大量的行動數據,大量的信息融合將增加決策的復雜性。通過腦機接口能夠使得機器與人之間連通性增強,促進數據在作戰人員和決策者之間快速而廣泛地流動,使得相互連接的軍事系統能夠順利運行。同時人工智能工具可能融入決策流程,幫助人類作戰人員評估環境,管理數據,并最終消化更大容量的信息。
▲全球主要腦機接口公司
智東西認為,人機交互是人類通往元宇宙的入口,借助于自然用戶界面,AR/VR帶來了遠遠高于圖形化展示更自然的交互模式,也是最有望實現元宇宙的第一個入口。但長遠來看,腦機接口才是元宇宙入口的真正形態,而其中的非侵入式腦機接口在未來或許成為元宇宙入口的一張“王炸”。
3月4日,Coinbase聯合創始人兼CEOBrianArmstrong在推特上針對“是否可以使用加密貨幣來避免制裁的問題/討論”發表看法.
1900/1/1 0:00:002月14日,中國國家知識產權局發布《關于依法打擊惡意搶注“冰墩墩”“谷愛凌”等商標注冊的通告》,依法駁回“冰墩墩”“谷愛凌”等429件商標注冊申請.
1900/1/1 0:00:00全國兩會時間已正式開啟。這是黨的二十大召開之年的兩會, 意義非凡, 也與我們每個人的生活息息相關.
1900/1/1 0:00:001.俄羅斯能通過加密貨幣規避制裁嗎?此前,有分析認為,近年來迅速發展的比特幣及其他加密貨幣,可能為俄羅斯提供一種逃避制裁的手段.
1900/1/1 0:00:00本文有公號“老雅痞”laoyapicom授權轉發NFTs正在改變我們理解互聯網所有權的方式,社區管理的所有權有很多好處,但如果創作者想為他/她的創作獲得永久的收益.
1900/1/1 0:00:00讓我們把時間的齒輪撥回到2010年,澳大利亞人阿桑奇公開了7.7萬份關于阿富汗戰爭的機密文件,世界一時嘩然.
1900/1/1 0:00:00