谷歌痛失大將：“AI教父” Geoffrey Hinton離職，只為給人類敲響警鐘？_HINT

文|Juny??編輯|VickyXiao

進入2023年以來，科技界里彷佛沒有了大事，只剩下了人工智能。人人都在談論ChatGPT、科技圈開卷大模型、OpenAI估值節節攀升、大公司你追我趕硝煙四起……

而這一切繁榮的背后，其實都離不開三位人工智能研究者的工作———曾因提出和發展深度學習神經網絡，在2019年獲得計算機界最高榮譽“圖靈獎”的GeoffreyHinton、YoshuaBengio、YannLeCun。

可以說，沒有這三位學者的研究，我們今天根本看不到ChatGPT、Bard的出現，也不會這么快的就能在日常生活中使用語音識別、人臉識別、圖片檢索、機器翻譯、自動駕駛等技術。

其中，GeoffreyHinton是“三巨頭”中最核心的人物，被業界譽為“人工智能教父”。他在2013年加入谷歌，把深度學習技術帶進了谷歌的多項業務，直接推動谷歌成為了AI技術最出色的公司之一。同時，他還親自培養了一大批機器學習相關的人才，包括了如今OpenAI的聯合創始人和首席科學家IlyaSutskever。

谷歌云為礦工提供高達100萬美元的保護:金色財經報道，谷歌云為礦工提供高達 100 萬美元的保護，以補償在未檢測到的加密挖礦攻擊期間產生的費用。 Bues 在一份聲明中表示，對于那些在云環境中沒有正確的預防控制和威脅檢測能力的組織來說，加密攻擊仍然是一個嚴重的安全和財務問題。[2023/6/9 21:25:13]

“深度學習三大先驅”，圖片來自于推特

而就在加入谷歌的第十年、深度學習迎來爆發式發展的當下，幾周前，現年75歲的GeoffreyHinton辭去了他在谷歌的工作。而離職的原因，用他的原話來講，是想要沒有任何負擔的給所有人講一些他關于人工智能發展的“真心話”。

來自“人工智能教父”的擔憂和警告

如果說誰最熱愛深度學習相關的人工智能研究，GeoffreyHinton一定是最有發言權的那一位。從上個世紀70年代至今，GeoffreyHinton作為計算機神經網絡的開拓者，已經在這個領域默默耕耘了近50年。

對于GeoffreyHinton來說，從無到有的創造一個全新概念和技術的過程曾經無比艱難。

從上個世紀80年代他提出神經網絡理論開始，一直到本世紀初，長達20多年的時間里，學術界對神經網絡理論都充滿質疑，同時，受制于當時數據集規模限制以及計算機算力的不足，相關研究的進展也一度非常緩慢。在這個漫長的過程中，一些人放棄了、一些人轉了研究方向，但GeoffreyHinton從未放棄過關于深度學習神經網絡的研究。

谷歌商店再次出現11個偽裝成合法加密應用的Chrome擴展插件:上個月中旬，谷歌已經從其線上商店移除了49個仿冒成合規加密應用的Chrome擴展插件。然而僅僅過了三周，11個類似的插件再次被發現，其中一些仍然可以下載。MyCrypto安全主管Harry Denley表示，最近的11個仿冒插件中，至少有8個已經被刪除，這些假冒的插件偽裝成加密貨幣錢包軟件KeyKeep、Jaxx、Ledger和MetaMask等，旨在竊取加密錢包私鑰、助記詞和其他原始密碼。（The Register）[2020/5/7]

但如今，深度學習終于守得云開見月明，所有人都開始向深度學習里瘋狂砸人力、砸資金，堅守了多年的GeoffreyHinton這時卻想要大家都暫停腳步，甚至對自己付出了一生心血的研究感到有些后悔，為什么？

在最近接受紐約時報的專訪中，GeoffreyHinton表示，自己此次從谷歌離職并不是因為要批判谷歌，而是他能夠在不影響谷歌的情況下，去真實地談論AI的潛在風險。

在他看來，作為AI技術的領軍者，過去這些年谷歌一直扮演著一位“負責任的管家”的角色，小心翼翼地保留和控制著那些可能造成傷害的技術。但由于微軟極快的將Bing和ChatGPT結合并向公眾發布，挑戰了谷歌核心的搜索引擎的業務，所以谷歌也無法像過去那樣繼續保持著發展節奏，科技巨頭陷入了一場可能無法停止的競爭之中。

YouTube博主：谷歌趨勢、Square報告和LocalBitcoin活動激增顯示比特幣FOMO情緒:知名比特幣和區塊鏈教育家、YouTube博主Ivan on Tech（Ivan Liljeqvist）今日發推稱，比特幣零售近期的“FOMO（指害怕錯過行情)”情緒如下：1.谷歌趨勢呈指數級增長；2. Square報告記錄比特幣活動；3.LocalBitcoin活動在全球范圍內激增。在大多數人意識到這些之前，我們可以先到達ATH（歷史新高）。[2020/5/7]

在這樣的情況下，他需要以一名研究者而不是谷歌員工的身份站出來，給大家發出警告。結合整個采訪來看，Hinton主要有以下幾個方面的擔憂。

一是在人工智能技術的支持下，他認為互聯網將很快被各種虛假信息淹沒。這些信息包括文字、照片、視頻等，而普通人將越來越難分辨這些信息的真假，引發社會的失序。

二是就業市場可能在就業市場還沒有準備好的情況下被顛覆，造成失業潮的爆發。雖然目前像ChatGPT這樣的聊天機器人還只是對人類工作的補充，但按照人工智能的發展速度，它們將很快可以取代律師助理、翻譯、行政助理等其他任何基礎的、重復性的工作。“它消除了苦差事，但帶走的可能遠不止于此。”Hinton表示。

動態 | 加密貨幣XZC創始人的谷歌賬號疑被攻擊:據cryptoglobe援引知情人士消息，加密貨幣XZC的創始人Poramin Insom似乎成為由政府支持的黑客攻擊目標，他們試圖竊取他的Google帳戶。Insom在Facebook分享了谷歌的警告截圖：可能由國家支持的攻擊者正在試圖竊取其賬號，并建議其加入谷歌的保護計劃，該計劃是為“有針對性攻擊風險的用戶”創建的。Zcoin是一種使用零知識證明的加密貨幣，具有很強的匿名性。有分析認為，有人在Zcoin的區塊鏈中添加了一些反政府內容，鑒于該技術的特性，這些內容無法被審查。[2019/1/28]

此外，他還擔心人工智能技術的接下來的發展會對人類社會構成威脅。他承認，在他們過去的研究之中，人工智能常常能從大量數據中學習進而產生出很多讓人意想不到的行為。而當前，包括個人和公司在內的很多使用者們不僅讓人工智能自主生成代碼，也讓人工智能運行和管理著代碼。在這種不斷的訓練之中，很有可能讓“自主殺手機器人”真的成為現實。

“很多人都覺著這很遙遠，我曾經也是這么認為的，覺得至少還要有30-50年我們才會走到那一天。但就我目前所了解到的信息而言，我已經不這么想了。”Hinton認為，谷歌和微軟以及其他大型公司之間的競爭，將很快升級為一場全球性競爭，如果沒有某種監管，這場競爭將不會停止，人工智能發展的速度會遠超我們的想象，并最終走向失控。

比特幣谷歌搜索量下降 區塊鏈后來居上成新趨勢:根據Google Trends的統計數據，截至今日（6月5日）“Bitcoin”這個詞的搜索量自2018年年初起下降了75%，在最近的三個月內下降了一半，其他多數加密貨幣的搜索量同樣大幅下降。而在中文詞語搜索中，比特幣搜索量趨勢與英文關鍵詞Bitcoin相似，都是在2018年初開始成大幅下降趨勢。但區塊鏈搜索量則成上升趨勢，并在2018年2月下半月首次超越比特幣。[2018/6/5]

呼吁AI監管的聲音越來越強

如果以上這些話從別人口中說出來，大家可能仍然會覺得這些觀點帶著危言聳聽的意味。但當如今世界上人工智能領域最權威的專家、深度學習的奠基人GeoffreyHinton也這么說時，也引發了更多人開始認真思考和關注這個問題。

實際上，在此次GeoffreyHinton發聲之前，最近幾個月來人工智能領域就已經發起過兩波大型的聯名，呼吁謹慎地發展人工智能技術。

一次是由馬斯克、YoshuaBengio等數千名來自學術界和企業界的大佬呼吁至少暫停6個月比GPT-4更強模型的研究的公開信。另一次則是由擁有40多年歷史、人工智能領域最權威學術機構之一的人工智能促進協會的19名現任及前任領導人所發布的聯名信，其中也包括了微軟現任首席科學家、人工智能研究專家EricHorvitz。

雖然此前馬斯克他們暫停模型研發的呼吁在業界受到了爭議，包括YannLeCun、吳恩達在內的研究者都對停止研發“一刀切”的做法表示了反對，甚至也有人質疑馬斯克等人提出暫停研發是為了私利。但目前看來，關于共同加強AI監管、預防潛在性危險發生的觀點，大家的看法幾乎都是一致的。

在今天GeoffreyHinton的報道發出后，吳恩達第一時間轉發了GeoffreyHinton的推特表示支持，感謝Hinton對于人工智能技術所做出的不可估量的貢獻，以及對人工智能在虛假信息、自動機器和勞動力影響方面的發聲。

一些AI的投資人、研究者今天也紛紛轉發了GeoffreyHinton的訪談，呼吁學界、工業界、政府監管機構應該快速行動起來，趁當前技術還在可控范圍內，盡快制定好監管框架和應用方案等。

當然，也有研究者并不認同AI威脅論，其中就包括了GeoffreyHinton曾經的學生、研究的伙伴YannLeCun。他此前多次表示，大語言模型根本不算什么，要想真正通往AGI之路，還需要構建“世界模型”。

對此，很多人也很希望這些對于人工智能發展持有不同觀點的研究泰斗們能夠很快來一場深度對談，讓人們更多的了解當前人工智能發展前方的機遇和風險。

AI會成為新時代的“原子彈”嗎？

在此次的訪談中，一個尤其引人關注的地方在于GeoffreyHinton在談到AI風險時，多次提及了核武器。從一定程度上來看，GeoffreyHinton或許認為AI對人類社會的潛在危險并不亞于核武器。

他表示，跟核武器研究不同，現在AI研究更危險的地方在于，我們目前幾乎沒有辦法知道有哪些組織或者國家正在秘密研究這項技術。理想的情況下，全球各國組織和科學家們應該共同進行合作和對技術進行控制，但顯然現在很難做到這一點。

作為深度學習技術的發起人，GeoffreyHinton坦言自己目前甚至有些后悔進行了這項技術的研究。當潘多拉魔盒被打開，作為研究人員很難去防止不好的人利用這些技術去做不好的事。

而Hinton的這種說法也讓人不由地想起了當年“原子彈之父”羅伯特·奧本海默相似的心路歷程。當年，美國在廣島長崎投放原子彈兩個月之后，奧本海默辭去了職務，之后他在擔任美國原子能委員會顧問期間一直致力于游說國際機構對軍備進行管制，并運用影響力宣揚控制核武器和核不擴散運動。

GeoffreyHinton說，以前人們問他如何從事具有潛在危險的技術時，他總會會引用奧本海默的話：“當你看到一個東西擁有美妙的技術前景時，就盡管去做吧。”但現在，他已經不會再那樣說了。

“人們不應該快速擴大AI研究的規模，直到足夠了解自己是否能夠控制它，”GeoffreyHinton說道。

*參考資料：

https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html

Tags：INTOINTHINTNTONbimintokenint幣行情HINT幣ENTONE

比特幣交易