人類精英呼吁暫停AI實驗 ChatGPT：合理但謹慎考慮_HAT

3月29日，非營利組織“未來生命研究所”發表了一封題為“暫停巨型AI實驗”的公開信，呼吁全球的AI實驗室暫停訓練比GPT-4更強大的系統至少6個月，并在此期間開發出一份針對AI的共享安全協議，必要時需要政府介入。?

1000多名科技人士在這份公開信上簽名，包括特斯拉CEO馬斯克、StabilityAI?的CEOEmadMostaque等企業掌門人，也包括Alphabet旗下DeepMin的研究人員，還有諸如圖靈獎得主YoshuaBengio這樣的重量級學者。當然，也有人表達了不同意見，認為這是在阻礙技術進步。

開發出GPT-4模型的OpenAI公司內還沒有人簽名，該公司目前也沒有對這封公開信予以回應。但我們向卷入紛爭中的ChatGPT要了個回應。

這個AI自然語言大模型產品倒是表現出了善解人意的一面：暫停實驗存在合理性，但需要謹慎考慮這么做帶來的技術發展滯后問題。它還給出了關于AI的六大風險和十個管理制度建議。

人類精英：暫停實驗確立規則

截至今日，掛在“未來生命研究所“官網上的《暫停巨型AI實驗》公開信，已經收集了1130人的簽字，名單里精英云集，不乏特斯拉、蘋果等科技公司的高管，也有政客和作家，當年，更多的是全球多所高校的教授以及人工智能領域的專家。??????

Coinbase CEO與Blake Byers合作創辦目標延長人類健康壽命的新公司NewLimit:12月12日消息，Coinbase首席執行官Brian Armstrong宣布與Blake Byers合作創辦新公司NewLimit，其使命是延長人類的健康壽命。NewLimit將從深入探究衰老的表觀遺傳驅動因素開始，并開發能夠再生組織的產品，以治療特定的患者群體。NewLimit表示，將首先使用原始人類細胞和參考物種來開發機器學習模型，研究染色單體的特征隨年齡變化，這些變化中的哪些可能是導致衰老過程的原因，最后開發可以減緩、停止或逆轉這一過程的治療方法。

NewLimit表示，最初從創始人那里籌集了1.05億美元，幫助公司起步，在合理進展的情況下，還會有額外的資金。我們預計，未來幾年資本不會是限制因素。今后，我們可能還會籌集外部資金。除了提供資金和擔任董事會成員，Blake Byers和Brian Armstrong目前正在面試和招聘創始團隊。最初的團隊將由科學、臨床和操作團隊成員組成。[2021/12/12 7:33:39]

那么精英云集簽字的這封公開信到底說了什么？以下是這封信的全文

聲音 | 中科院院士鄭志明：區塊鏈是人類歷史上首次構建的相對成熟的可信評價系統:中國科學院院士鄭志明在接受采訪時表示，區塊鏈是人類歷史上首次構建的相對成熟的可信評價系統，其核心是可提升各個維度的治理能力。從區塊鏈的興起來看，它的“風口”無疑自“比特幣”始。鄭志明將數字資產的喧囂歸為區塊鏈發展的1.0階段。他認為，2.0階段則以智能合約和局部應用為典型特征。鄭志明表示，有一些很重要的應用，但還遠不夠。實際上，區塊鏈技術應該慢慢滲透到大量人類經濟社會生活的整個產業、生態中，這便是3.0階段，或者叫做“可編程社會”。（新華網）[2019/12/3]

廣泛的研究表明，具有能與人類競爭的智能的AI系統會對社會和人類構成深刻的風險，頂尖的AI實驗室也承認這一點。正如廣受認可的阿西洛馬人工智能原則原則所述，高級AI可能代表著地球生命歷史的深刻變化，應該以合適的態度和資源去進行規劃和管理。不幸的是，這種水平的規劃和管理并沒有發生。盡管最近幾個月AI實驗室陷入了一場失控的競賽，以開發和應用越來越強大的數字思維，然而沒有人能夠理解、預測或可靠地控制這些思維，甚至他們的創造者也不能。

聲音 | 經濟日報：人類生產進入“智能時代”，將形成區塊鏈等一系列新業態:9月26日，經濟日報發文《新時代民營經濟發展機遇體現為三個“前所未有”》。 文中指出，人類生產進入“智能時代”，醫學、生物工業、新材料、新能源等領域的新產業革命，將形成智能制造、人機交互、3D技術、區塊鏈、物聯網、大數據、機器自組織、云計算、高度數字化個性化定制等一系列新產業、新技術、新業態、新模式。[2019/9/26]

當代AI系統在一般任務上正在擁有與人類競爭的能力，我們必須問問自己：

我們應該讓機器在我們的信息渠道中充斥宣傳和謊言嗎？

我們是否應該自動化所有的工作，包括那些有成就感的工作？

我們是否應該培養出可能比我們數量更多、比我們更聰明、最終超越并取代我們的非人類思維？

我們是否應該冒著失去對我們文明控制的風險？

此類決策決不應該委托給未經選舉產生的技術領導人。只有當我們確信AI的效果是積極的，風險是可控的時候，AI系統才應該被開發。這種對AI的判斷必須是合理的，并隨著系統潛在影響的變化而變化。

聲音 | 李開復：區塊鏈不可篡改的技術對人類未來是有相當價值的:李開復在一次采訪中表示，我覺得今天在國內很不幸的是大家說到區塊鏈，大部分人都把它跟虛擬貨幣混在一起了。區塊鏈，其實他的核心是一種技術，是不可篡改的技術，這個對人類應該未來是有相當價值的，但是我覺得在我們擁抱區塊鏈之前，其實還是有一個核心的問題需要解決，他之所以能夠確保數據不可篡改，是靠著大量的算力，那這個大量的算力，現在已經耗掉了人類相當多的電了，還沒有看到相對應的福利，可能我們要更了解清楚區塊鏈是不是能夠在不要耗費那么大的算力，依然能確保數據不被篡改，否則的話，我們的人類的算力和電都是不夠的。

如果未來區塊鏈找到了更好的應用，創造真實價值的應用，而且被普遍的使用起來，而且又不會帶來太大的資源浪費，那個時候我覺得區塊鏈和AI有很多可以結合的地方。比如說區塊鏈里面有智能協議，其實就是AI，這些可能是最容易結合的地方，另外的話，我覺得AI需要大量的數據，大數據可能會有造假的問題，也可能被非法出售的問題，如果一旦區塊鏈是可運營的，那我們靠這個方法來管理我們的數據，這樣我們就可以確保AI拿到的數據是真實的也是被授權的，這個我覺得也是一個很好的機會。[2019/2/16]

OpenAI最近關于人工通用智能的聲明指出，“在開始訓練未來的系統之前，進行獨立審查可能很重要。同時對于最前沿的工作而言，人們應該在合適的時間點限制用于創建新系統的計算增長率。我們同意這一說法，并認為現在就是合適的時間點。

動態 | 德勤報告：區塊鏈還可能改變人類交易和參與的方式:據Coinjournal消息，德勤年度技術趨勢報告探討了將在未來18-24個月重塑業務和政府的技術。據稱，在未來五年內，區塊鏈，數字現實和認知可能會變得像今天的數字體驗，分析和云計算一樣重要。該報告強調了區塊鏈的“極具破壞性”性質，它不僅可能改變商業，還可能改變人類交易和參與的方式。[2019/1/18]

因此，我們呼吁所有的AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。這種暫停應該是公開的和可核實的，所有關鍵的參與者也能暫停相關工作。如果這種暫停不能迅速開始，政府應該介入并實施暫停。

AI實驗室和獨立專家應利用這一暫停的時段，共同開發一套AI設計和開發的共享安全協議，這些協議需要由獨立的外部專家嚴格審計和監督。這些協議應確保所有遵守它們系統的AI是安全的。這種暫停并不意味著總體上暫停AI開發，只是讓人們從具有新興功能的、不可預測的危險競賽中后退一步。

AI的研究和開發應該重新聚焦于使當今強大、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、可信和可靠。

與此同時，AI開發人員必須與政策制定者合作，大幅加快強大的AI管理制度的開發。管理制度至少應包括以下內容：

?針對AI的新的、有能力的監管機構；

?監督和跟蹤能力強大的AI系統和計算能力池；

?幫助區分真實和合成數據的溯源、水印系統，并跟蹤模型泄露；

?提供健全的審計和認證生態系統；

?對AI造成的損害進行責任認定；

?為AI技術的安全研究提供充足的公共資金；

?資源充足的機構以應對AI將造成的巨大經濟和破壞。

人類可以通過AI享受一個繁榮的未來。在成功創建了強大的AI系統后，我們現在可以享受一個“AI之夏”。

在這個AI的夏天，我們可以收獲回報，為所有人的利益設計這些系統，并給社會一個適應的機會。人類社會曾經暫停使用一些可能會對社會造成災難性影響的技術，我們現在也可以在AI領域這樣做。讓我們享受一個漫長的AI之夏，不要在沒有準備的情況下匆忙進入秋天。

事實上，這封公開信是近期人類精英們對人工智能風險擔憂的總爆發。自ChatGPT高速迭代后，擔憂從未停止，特別是當微軟、谷歌、百度、華為等科技巨頭們在自然語言模型上展開“軍備競賽”之后。

日前，“深度學習之父”杰弗里·辛頓在媒體采訪中表示，人工智能正處于“關鍵時刻”，毀滅人類“并非不可能”。AI領域內的“大牛”蓋瑞·馬庫斯發推特支持辛頓，甚至發出靈魂一問：“用百分之一的人類毀滅風險換取和機器對話帶來的樂趣，這值得嗎？”

而馬庫斯在轉發FLI這封公開信時表示，“這封信并不完美，但精神是正確的。我們需要放慢腳步，直到我們更好地理解AI帶來后果……他們可能會造成嚴重傷害……主要參與者對他們正在做的事情越來越保密，這使得社會很難抵御可能發生的任何傷害。”

也有科技圈人士對這封信的觀點持不同意見。

Writer的創始人Waseem以諷刺的語氣表達了他對權威們的不滿，“讓我們停止建設和發展我們的公司，因為來自硅谷的億萬富翁說我們有風險。一定要喜歡那些比我們人類更聰明的人，因為他們告訴我們如何生活。當我們有他們神圣的指引時，誰還需要進步？”?

OSSCapital的創始人JosephJacks態度更是簡潔明了：強烈反對，絕對不簽這個。

?ChatGPT：暫停合理但小心阻滯技術

目前，OpenAI還沒有就FLI的這封公開信做出回應。而我們把人類精英們的擔憂與建議甩給了ChatGPT，引發這場紛爭的這個對話機器人不但認可了FLI要求暫停實驗的合理性，還補充了六大AI風險。

ChatGPT的答案中也包含了暫停實驗帶來弊端：導致技術發展的滯后。這也和輿論場上很多普通大眾的想法趨同。????????????????????

那么，問題擺在眼前，如果要讓研究人員和政府制定規則，該包含哪些內容呢？ChatGPT給出了十大建議，相當于給包括自己在內AI發展畫了一個規范圈。

連ChatGPT自己都這么說了，可見，“AI失控”、”替代人類“無論是在意見領袖圈層還是輿論場上都有探討的意義。

最近，微軟的創始人比爾·蓋茨在大力肯定人工智能帶來生產力提升的同時，也強調過風險，“AI失控的可能性是存在的，一臺機器會認為人類是自己的威脅嗎？它們會得出結論認為自身利益與人類的利益不同進而不在意我們嗎？”他預測，隨著算法、算力的提升，超級智能AI會在未來出現。

連OpenAI的CEOSamAltman都表示，超級智能AI的風險可能會遠遠超出我們的預料。此前，他在技術研究員LexFridman的播客中表達他的擔憂，包括AI造成的虛假信息問題，帶來的經濟沖擊等等，“危害可能遠遠超過了人類能應對的程度”，他舉了個例子，“我們怎么會知道，大語言模型沒有在推特上指揮大家的思想流動呢？”

這正應了那封公開信中所說的：沒有人能夠理解、預測或可靠地控制這些數字思維，“甚至他們的創造者也不能”。

雖然通用人工智能還遠遠沒有到來，但就像比爾·蓋茨說得那樣，在這之前，世界需要建立規則以使AI帶來的正面影響遠遠超過其負面影響。

換句話說就是，別讓人類造出的東西把人類自己滅了。畢竟，戰爭、核事故帶來的災難還歷歷在目。

Tags：區塊鏈GPTATGHAT區塊鏈專業大學排名gpt幣更換成啥幣了ATG幣CHAT價格

加密貨幣