AIGC演進：奇異軌跡和超級智能_GHT

1999年，RayKurzweil曾做出以下預測：2009年，計算機將是平板電腦或更小尺寸的設備，高質量但傳統顯示屏；2019年，計算機將“基本上不可見”，大部分圖像直接投射到視網膜中；2029年，計算機將通過直接神經通路進行通信。在觀察近20年人工智能、機器人技術和制造的發展，尤其是近期的AIGC的進展，有一些指標已表明，技術正在加速向奇點發展。技術奇點

奇點原意還有“奇異、突出、稀有”的意思，而這些意思逐漸被引申到自然科學中，先是應用于數學領域，后被引申至物理學界、天文學界等。不同版本的“技術奇點”預測便隨之而來。

技術奇點“1.0版”：

1958年，“技術奇點”這個概念第一次被波蘭數學家斯塔尼斯拉夫·烏拉姆提出：“科技迭代的加速與人類生活方式的改變，似乎將把我們的歷史進程帶往一個重要的‘奇點’，在那之后，人類所熟知的事物將無法延續”，世界將會發生翻天覆地的變化。技術奇點“2.0版”：

1993年，計算機科學家、科幻小說家文奇在《即將到來的技術奇點》一文中寫道，“技術奇點”這一時間點的到來將標志著人類時代的終結，而超級智能是“技術奇點”出現的前提，因為新的超級智能將繼續自我升級，并以不可思議的速度取得技術進步。技術奇點“3.0版”：

2005年，奇點大學創始人兼校長、谷歌技術總監雷·庫茲韋爾在《奇點臨近》一書中將“技術奇點”的概念再一次調整，也更接近于我們所熟知的概念，并在當時預測技術奇點將會在2045年出現。他認為“技術奇點”是指技術變革迅速而深遠的發展將對未來人類生活造成的不可逆轉的變化，主要指代人工智能的快速發展。奇點將允許我們超越生物身體和大腦的限制，未來人類和機器之間將沒有區別。技術奇點“4.0版”：

經濟日報：AIGC有規范才有美好未來:4月16日消息，據經濟日報文章指出，對AIGC這樣快速發展的新技術新應用來說，各類風險顯而易見，入局企業尤其擔心重金投入后遭遇政策風險導致投資損失。

首個AIGC管理辦法公開征求意見，本身就是一個重大信號，說明我國非常重視此輪AI發展所引領的科技變革，期待促進AIGC技術的健康發展。

與新技術開發幾乎同步的監管規范，必將隨著技術發展和時代變遷而更新調整。此次AIGC管理辦法的征求意見稿是開局的第一步，它將促進AIGC產業健康可持續發展。無規矩不成方圓，AIGC有規范才有美好未來。?[2023/4/16 14:06:38]

2013年，牛津大學人類未來研究所高級研究員桑德伯格將“技術奇點”的影響范圍擴大，他認為“超級智能”未必是必須的，任何新技術都有可能給人類社會帶來的根本變化，而這樣的技術發展和變化都可以稱之為“技術奇點”。GPT用戶，夢想有一個同伴嗎？

2022年11月30日，OpenAI發布了ChatGPT，一種會話界面和大型語言模型。對許多人來說，這是一個革命性的時刻。它的輸出讓人震驚，節省時間并且答案令人信服地真實。

非常了不起的是，你今天在幾秒鐘內可以通過LLM得到一個不完美但有效的答案，而這個答案將花費領域專家幾分鐘的考慮和在線論壇幾個小時的辯論。聊天機器人一直是人們渴望的陪伴對象。圖靈測試背后的動機可能是想要一個不會打破沉浸感的聊天機器人。仍有待測試的是，作為社會動物的人類是否能通過數字大腦得到增強。我們一起打獵，一起耕種，現在社會可以被描述為工業規模機器的管理人員和操作員的巨大緩沖區，比以往任何時候都更加社會化。人類會優化阻力最小的路徑，選擇復制或“谷歌”他們可能通過批判性思維和反復失敗獲得的不同知識。ChatGPT的出現：學生可能會使用LLM為他們寫論文，取得好成績。StackOverflow可能會為了個人利益而受到女巫攻擊，而觀眾可能會以某種方式遵守deepfakes的交響曲。腳本小子可能會提示ChatGPT存在惡意軟件。LLM的主流使用是否會削弱我們的生產能力，尤其是在健全、有效和發散性思維方面？奇點之前的最后傀儡師

“澳本聰”Craig Wright起訴比特幣開發者案即將開庭:金色財經報道，有“澳本聰”之稱的Craig Wright在英國起訴了16名比特幣開發者，該案件即將在倫敦開庭審理。

Craig Wright起訴包括Roger Ver、Blockstream聯合創始人Matt Corallo和Greg Maxwell等16名開發者，要求其賠償因丟失或被黑客盜取的價值40億美元的比特幣。該案曾于2022年3月被駁回。[2023/2/4 11:47:01]

人工智能可以產生的最深遠的影響在于人力資本分配的文化。最近的一個觀點很好地描述了人們對ChatGPT的反應：最高興的是那些發現機器顯然可以勝任書面委托而目瞪口呆的人。到目前為止，一切都在預料之中。如果回看歷史會發現，人們通常高估了新的通信技術的短期影響，而嚴重低估了它們的長期影響。印刷、電影、廣播、電視和互聯網也是如此。在試圖理解AI的影響時，我們試圖分離出短期的破壞，以猜測中期和長期的后果。話雖如此，也許通過市場動態來描述這種反彈是一個好方法。AI助手改變了內容創作的稀缺性，從而在某種程度上成為做市商。每當一個眾所周知的“精靈”離開“瓶子”時，消費者通過重新定價市場和逐步淘汰次優供應商而獲得不對稱的利益。反過來，基于AI生產的供應商隨著時間的推移，積累了更多的資本。有人可能會爭辯說，存在能夠負擔得起爬取整個互聯網以生成訓練數據集的公司的寡頭壟斷。可能只有有限數量的SaaS能夠負擔得起消耗此類資源來生成新穎的ML模型。如果基于ML的商業變得足夠不穩定，那么能夠實現和保持PMF的人可能會更少。在過去，我們被像HAL9000、Skynet和ButlerianJihad這樣的心理戰術哄騙。許多公司和智能代理在AI經濟中就稀缺性進行合作。我們現在的資本主義社會產生一個沒有負面反饋的技術官僚的可能性有多大，它可以逐步淘汰社會經濟階層，基本原則，如人權/財產權，或加速某種形式的大規模毀滅的可能性?這聽起來可能很陳詞濫調，但需要注意的即將到來的拐點將對社會運作方式產生根本性影響。一年后，有人可能會寫下關于特定AI依賴產品的快速立法或郁金香狂熱。在5-10年內，將實現對獨資經濟、現有政府形式和個人自主/消費的清算。“Megacorp”模式可能在整個顛覆過程中仍占主導地位，我們可能會發現自己處于“網絡狀態”，或者更像奧威爾式的狀態。這一切都是因為計算機將編譯我們對自然語言的集體使用，以包含當今社會的許多操作和經濟功能。無論時間線是什么，這都將是遠在“奇點”之前的一個明顯拐點。方法與技術

Hodlonaut贏得針對自封“中本聰”Craig Wright的訴訟:金色財經報道，挪威法官裁定，周四，在推特上被稱為“Hodlonaut”的Magnus Granath贏得了針對Craig Wright的誹謗案。經過一周的審判，Wright將支付Granath的律師費。Granath在挪威起訴Wright，試圖搶占Wright計劃在英國提起的誹謗訴訟。

金色財經此前報道，自稱是比特幣創造者的澳本聰（Craig Wright）在對加密人士Hodlonaut（真名Magnus Granath）提起的訴訟案中表示，他故意踩壞了包含中本聰錢包私鑰信息的硬盤，這使得從密碼學上證明他是比特幣的創造者“極其困難”。他在挪威法庭上稱，銷毀硬盤是避免其被迫這種方式證明自己身份的“唯一方法”，而他希望以學術成就等傳統方式確認他是中本聰，如果不這么做“人們最終會強迫我做我不想做的事情”。據悉，澳本聰自稱為中本聰一事，Hodlonaut一直持反對態度并提出懷疑。澳本聰對Hodlonaut發起訴訟，稱其涉嫌誹謗。[2022/10/21 16:33:16]

InstructGPT的核心是一群人來策劃最好的模仿。但InstructGPT是一個LLM，有點靜態且易于重置。一個提示界面，幕后的模型經過反復訓練，以猜測對提示的最簡單的獎勵反應。

OpenAI的RLHF圖解然而，要“完善”NLP也存在挑戰。雖然這些技術極具前景和影響力，并引起了人工智能領域最大研究實驗室的關注，但仍然存在明顯的局限性。這些模型可以毫無不確定性地輸出有害或實際上不準確的文本。這種不完美代表了RLHF的長期挑戰和動力——在一個固有的人類問題領域中運行意味著永遠不會有一條明確的終點線可以跨越，使模型被標記為完整。在使用RLHF部署系統時，由于強制性和深思熟慮的人為因素，收集人類偏好數據非常昂貴。RLHF性能僅與其人工注釋的質量一樣好，人工注釋有兩種：人工生成的文本，例如微調InstructGPT中的初始LM，以及模型輸出之間的人類偏好標簽。生成寫得很好的人工文本來回答特定的提示是非常昂貴的，因為它通常需要雇用兼職人員。值得慶幸的是，用于訓練大多數RLHF應用的獎勵模型的數據規模并不那么昂貴。然而，它仍然比學術實驗室可能負擔得起的成本更高。目前，只有一個基于通用語言模型的RLHF大規模數據集和幾個較小規模的任務特定數據集。RLHF數據挑戰是標注者的偏見。幾個人類標注者可能有不同意見，導致了訓練數據存在一些潛在差異。RLHF可以應用于自然語言處理(NLP)之外的機器學習。例如，Deepmind探索了將其用于多模態代理。同樣的挑戰適用于這種情況：可擴展強化學習(RL)依賴于查詢成本低廉的精確獎勵函數。當RL可以應用時，它已經取得了巨大的成就，創造了可以匹配人類才能分布極值的AI。然而，對于人們經常參與的許多開放式行為，這種獎勵功能并不為人所知。例如，考慮一種日常互動，要求某人“將杯子放在你附近”。對于能夠充分評估這種交互的獎勵模型，它需要對以自然語言提出請求的多種方式以及滿足請求的多種方式具有魯棒性，同時對不相關的變化因素和語言固有的歧義不敏感。因此，為了通過RL灌輸更廣泛的專家級能力，我們需要一種方法來生成精確的、可查詢的獎勵函數，以尊重人類行為的復雜性、可變性和模糊性。除了對獎勵函數進行編程之外，一種選擇是使用機器學習來構建它們。我們可以要求人類評估情況并提供監督信息以學習獎勵函數，而不是嘗試預測和正式定義獎勵事件。對于人類可以自然、直觀、快速地提供此類判斷的情況，使用此類學習獎勵模型的RL可以有效地改進智能體導致奇點的許多因素有待進一步發展，我們可以比實施它們所花費的時間框架更有把握地確定它們是什么。ChrisLattner從他的POV中提到了“稀疏門控的專家組合”：簡單地描述一下，也許有一個中介可以策劃和組合許多“專家”的輸入。

聲音 | Ira Kleiman方律師：Craig Wright僅提供了1.6萬多個BTC地址清單，但無中間人信息:在由Coindesk上傳的一份新文件中，Ira Kleiman的律師稱，Craig Wright只提供了16,404個比特幣地址清單，但沒有關于“保稅快遞”中間人的信息。原告要求Craig Wright在10天之內回應7條關于中間人的質詢，之后原告將利用這些答復來獲取有關“保稅快遞”中間人的信息。在此期間，原告正在請專家審查和分析這份清單。據此前CoinDesk報道，根據1月14日向美國佛羅里達州南部地區法院提交的一份法庭文件，第三方“提供了解鎖加密文件所需的信息和密鑰片段”，似乎是指此前提及的備受期待的“保稅快遞員”中間人，表示CSW擁有解鎖96億美元比特幣所需的私鑰。Bloom法官對保稅快遞公司的存在和比特幣爭議的數量表示懷疑。CSW此前因未能出示其所持比特幣的完整清單而被判藐視法庭。[2020/1/15]

這為進一步研究提供了廣闊的設計空間。也許中間層應該以不同的方式進行選擇。

如，利用空間數據。

一項特別引人入勝的工作是NethackLearningEnvironment。就像TwitchPlaysPokemon是可行的，因為JRPG是回合制的，輸入相對簡單，NLE也是回合制的，只需要鍵盤輸入。此外，它在游戲的不同階段的多個環境中具有程序生成，使其成為訓練AI的極其有用的熔爐。根據我自己玩這個游戲的經驗，你必須在回合制的基礎上策劃和組合許多策略。借助polypiling和bonesharvesting等元博弈策略，AI可以通過多種方式在逐場游戲的基礎上進一步學習。

聲音 | Money Button首席執行官：Craig Wright是真正的中本聰:據ambcrypto報道，Money Button首席執行官Ryan Charles近日稱，澳本聰Craig Wright有17個學位，即將獲得兩個博士學位，同時還有一份全職工作，是其一生中聽說過的最嚴肅的終身學習者和科學家。此外，基于在線證據和他與澳本聰的個人互動，他認為Wright是“真正的中本聰”，Charles稱，澳本聰解釋了許多沒有人解釋過的事情。[2019/5/4]

*拍擊界面*“這個Unicode可以容納這么多對象”如Tesla和Neuralink最近開發的企業級機器學習。工業規模的生產需要工業規模的反饋增強強化學習。Optimus可能是一個噱頭，但它可能比Atlas在過去9年中對機器人的改進更多。Neuralink植入物可能會殺死受試者，但它們會推動極其精確的手術機械和零件的發展。制造業的反饋很好，但衛生部門的需求最大。現在，我們是零售生物傳感器的早期采用者。隨著時間的推移，同態密碼學將使機器學習能夠利用大量健康數據。數萬年來，我們已經將藥物消費眾包，但我們如何與人工智能共存仍有待觀察，人工智能可以在任意時間跨度內管理任意物質的劑量。與此同時，同態加密因效率問題仍然沒有被使用。GoogleBrain剛剛發布了RoboticsTransformer-1。在第一個版本中它可能只是一個執行簡單任務的手臂，但顯然有可能在常見的構建環境中使用更多的標記化操作進行迭代。由于全球經濟以貨運為中心，與目前全球約6000艘集裝箱船相比，如果最終在這樣的設施中建造100多艘“零排放”集裝箱船，也屬于正常。這也將是住房危機中一個巨大的潮流變化，分區條例允許它完全生效。另外，不得不提阿爾伯塔計劃，12個合理的AGI能力發展步驟。“路線圖”一詞暗示繪制一條線性路徑，即應按順序采取和通過的一系列步驟。這并非完全錯誤，但它沒有認識到研究的不確定性和機遇。我們在下面概述的步驟具有多重相互依賴性，而不是從頭到尾的步驟。路線圖建議一種自然的順序，但在實踐中通常會偏離這種順序。可以通過進入或附加到任何步驟來進行有用的研究。舉個例子，我們中的許多人最近在集成架構方面取得了有趣的進展，盡管這些進展只出現在排序的最后一步。首先，讓我們嘗試全面了解路線圖及其基本原理。共有十二個步驟，標題如下：1.表示I：具有給定特征的持續監督學習。2.表示II：監督特征發現。3.預測一：連續廣義價值函數預測學習。4.控制I：持續的演員-評論家控制。5.預測二：平均獎勵GVF學習。6.控制II：持續控制問題。7.計劃I：平均獎勵的計劃。8.原型-AII：具有連續函數逼近的基于模型的一步強化學習。9.規劃二：搜索控制與探索。10.原型-AIII：STOMP進程。11.原型-AIIII：Oak。12.原型-IA：智能放大。這些步驟從開發用于核心能力的新型算法，發展到將這些算法組合起來，為持續的、基于模型的AI生成完整的原型系統。簡而言之，從ANI到AGI再到ASI的方法和技術的轉折點將是不言自明的。

ChatGPT的輸出“指數級進步”

上述阿爾伯塔計劃是一種理想情況。人類已經很復雜，作為個體使用稀疏神經網絡工具；作為團體，具有自組織的、社會學習和環境工程特性。在密碼學和分布式計算的最新發展中，人類的自治程度僅可以維持圖靈完備的全局狀態。還有一種被稱為機械土耳其人的現象。關鍵是，AI產品在任意時間跨度內的下降，都會有一個成熟的開發人員生態系統，可以通過協調執行超越現有的水平，并通過同期的AI工具和可驗證的工作得到增強。這促成了當前的思想實驗：我們甚至需要在TheSingularity?之前實現每個預測的拐點嗎？對于商業化模型訓練中的每一項專有改進，都可能有一種可行的方法在公共領域實現。StableDiffusion已經引發了圍繞這一概念的對話。眾包在過去十年中已經充分加速，奇點已經是一個轉移注意力的問題。正如以太坊擴展解決方案嘗試使用像zk-SNARKs這樣的密碼學為了減少網絡的基礎設施需求，我們將嘗試實施輕量級解決方案，以減少現有大型企業對AI進行暴力破解和貨幣化的需求。事實上，反駁OpenAI模型最好方法之一是，金融市場和社交網絡上類似的社會資本系統在某種程度上是可預測的行為。Twitter匯總新聞是因為它的用戶可以在全球范圍內通過合法人物進行廣播和放大。隨著COVID封鎖和央行貨幣政策等全球趨勢，成長型股票可能會大幅上漲和下跌。不需要太多想象力就能在很短的時間內想象出一家初創公司，它可以將類似人工智能的PMF表現為一個自我調節、自我編排的社區。可能有數千億美元的運營成本可以通過現有技術和進一步的業務發展在許多部門中釋放出來。在電視劇《西部世界》中，名為Rehoboam的人工智能系統通過分析大型數據集來操縱和預測未來，從而對人類事務施加秩序。自工業革命以來，顛覆性創新一再出現在官僚機構之外；今天，它們正在以越來越快的速度發生。近幾十年來，公共領域的深度和范圍不斷擴大，許多技術無論其商業化程度如何都在被迫開源。

Tags：AIGGHTRAICRAAIG幣SAFELIGHTSAITAMURAI幣CRA幣

AVAX