ChatGPT類產品安全隱患解決？英偉達發布開源工具包_Chain

隨著ChatGPT等AI聊天機器人自去年底以來迅速走紅，對于它們安全問題的相關警告也層出不窮。盡管背后的開發者也在竭盡全力地想辦法解決這些問題，比如實施資訊過濾和人類糾正那些被標記的問題，但效果都不盡人意。

有鑒于此，英偉達公司（Nvidia Corp.）周二正式發布了一個名為NeMo Guardrails的開源工具包，可以禁止AI聊天機器人提供那些受限的信息，使人工智能驅動的應用程序更加準確、適當、符合主題和安全。

Lookonchain：過去7日共有約61萬枚以太坊被質押:金色財經報道，據Lookonchain監測，過去7日共有約61萬枚以太坊（價值約12.2億美元）被質押，其中0xcf67開頭地址通過Staked.us質押了4.16萬枚以太坊。[2023/4/20 14:14:40]

每個人都意識到了大型生成語言模型的力量，英偉達應用研究副總裁Jonathan Cohen說，以一種安全可靠的方式部署它們非常重要。

Web3體育粉絲參與平臺SportZchain完成60萬美元種子輪融資:金色財經報道，專注于亞洲體育生態系統的Web3粉絲參與平臺SportZchain完成60萬美元種子輪融資，聯合領投方為SUNiCON Ventures 和 MAKS Group。該公司曾在 2021 年 10 月募集到一筆 40 萬美元的 pre-seed 輪融資，截止目前的融資總金額已達到 100 萬美元。作為一個基于區塊鏈技術的粉絲參與平臺，SportZchain 旨在成為品牌和粉絲之間的溝通橋梁，平臺可通過粉絲調查投票等手段幫助官方做出迎合粉絲需求的決定，同時也能讓粉絲通過持有相應的 Fan Token 來獲得收益。（businessworld）[2022/5/22 3:34:10]

英偉達表示，NeMo Guardrails將作為終端用戶和人工智能程序之間的一層防護墻。將其與傳統軟件混合，該系統將能夠識別用戶提出的事實問題，并檢查機器人是否能夠和應該回答這個問題。系統還將確定生成的答案是否基于事實，并控制聊天機器人給出回答的方式。

動態 | Baer Chain孵化的OASIS平臺第2期銷毀16.72萬枚BRC:據最新消息，為配合Baer Chain生態的長遠穩定發展，根據OASIS平臺運營規劃，每周平臺所有游戲總充值BRC的10%將進行永久性銷毀。本周OASIS平臺共銷毀167200BRC，目前銷毀已完成。銷毀地址見原文鏈接。[2019/12/2]

例如，假設一名員工詢問人力資源聊天機器人，公司是否為想要領養孩子的員工提供支持。這將通過NeMo Guardrails并返回包含公司相關利益的文本。詢問同一個機器人有多少員工利用了這一福利，可能會引發拒絕指令，因為這些數據是保密的。Cohen還表示，英偉達已經在Guardrails的底層系統上工作了"多年"，但就在大約一年前意識到它很適合GPT-4和ChatGPT這樣的模型。"從那時起，我們一直在朝著NeMo Guardrails的這個版本發展，"他說，"人工智能模型安全工具對于那些為企業用途部署的模型至關重要。"

財聯社

媒體專欄

閱讀更多

金色薦讀

金色財經 善歐巴

Chainlink預言機

白話區塊鏈

金色早8點

Odaily星球日報

歐科云鏈

深潮TechFlow

MarsBit

Arcane Labs

Tags：CHAAINChainHAIHLChainStar ChainUNT ChainRechargepay Chain

以太坊交易所