歐盟立法者制定生成式AI透明度規則，同意禁止公共場面面部識別_NFT

來源：澎湃新聞

作者：吳天一

圖片來源：由無界AI工具生成

·更新后的草案引入了旨在監管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構建的資源密集型人工智能系統。大模型的創建者必須公開訓練人工智能使用的數據，以確保其使用受版權法保護的數據訓練。

·“鑒于人工智能將對我們的社會和經濟產生深遠影響，《人工智能法》很可能是這項任務中最重要的立法。這是全球第一項此類立法。”

歐洲議會兩個委員會當地時間5月11日通過《人工智能法》提案的談判授權草案。草案就對ChatGPT等生成式人工智能大模型的一系列要求達成一致，標志著歐盟對人工智能實施強監管方面又邁出了一步。

歐盟消費者保護組織敦促各國政府調查人工智能:6月20日消息，歐盟消費者保護組織（BEUC）敦促監管機構對流行聊天機器人背后的人工智能（AI）模型進行調查。據美聯社周二報道，該組織就生成式人工智能的擔憂向歐盟消費者、數據保護、競爭和產品安全部門發出了警告。該組織表示，監管機構應該調查OpenAI的ChatGPT等系統背后的人工智能，以便在歐盟引入人工智能監管之前評估消費者面臨的風險和脆弱性。

除了歐盟的地方官員外，該組織還致信美國總統喬·拜登，對生成人工智能對消費者的潛在危害表示了類似的擔憂。他們呼吁采取行動，敦促各國領導人利用現有立法，并制定新的法律來解決人工智能問題。BEUC還引用了挪威消費者委員會的一份報告，該報告強調了人工智能聊天機器人的危險，包括虛假信息、數據收集和操縱等。[2023/6/20 21:50:18]

新文本將嚴格禁止“對人類安全造成不可接受風險的人工智能系統”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等。

歐盟商戶或被強制要求接受數字歐元:金色財經報道，一份文件顯示，如果數字歐元被視為法定貨幣，歐元區的商戶可能被迫接受數字歐元。該文件定于周一晚些時候提交給各國財長。該文件稱，賦予央行數字貨幣（CBDC）與紙幣和硬幣相同的地位，將意味著其支付可以合法履行支付義務，并強制接受全額面值。

在今年1月的一次討論中，部長們表示，數字歐元不應該是可編程的，因為限制接收者使用特定支付方式的能力會削弱貨幣的可替代性。歐洲央行將于今年秋季正式決定是否以數字形式發行歐元，官員們正在研究技術細節，比如優先考慮哪些潛在用途。歐盟各國政府將參與商定支持CBDC所需的任何立法。[2023/3/13 13:01:01]

草案提出了新的保障措施，并禁止各種危險用例，包括禁止在公共場所進行大規模面部識別程序，以及禁止使用預測性警務系統。草案還要求建立一個公共數據庫，記錄政府部門部署的“高風險”人工智能系統，公開數據，以便公民能夠了解他們將何時以及如何受到這項技術的影響。

法國金融市場管理局官員：新的加密規定將與歐盟保持一致:金色財經報道，法國金融市場監管機構負責人Barbat-Layani周三表示，將詳細說明加密公司在該國注冊的新要求。將調整法國的加密許可條件，使其在操作上盡可能與歐盟即將推出的加密資產市場監管(MiCA)保持一致。

此外，她還表示，數字金融不應因FTX而受到譴責。[2023/3/1 12:37:05]

這一草案將于6月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進行談判。歐洲議會的聲明說，一旦獲得批準，這將成為全世界首部有關人工智能的法規。

要求ChatGPT等承擔新的義務

該草案由兩個關鍵委員會批準：內部市場委員會和公民自由委員會。這些委員會由負責監督立法制定的歐洲議會議員組成。他們最終以84票贊成、7票反對、12票棄權批準了完成的草案。

歐盟官員：歐盟可能會發布關于NFT的進一步立法:金色財經報道，歐盟委員會金融技術工作組負責人Peter Kerstens周三表示，鑒于歐盟的《加密資產市場法》（MiCA）并沒有完全解決NFT的處理問題，如果立法者提出要求，歐盟可能會發布關于NFT的進一步立法。據悉，MiCA要求錢包供應商等加密貨幣公司向當局注冊，并滿足消費者保護和金融穩定規范。但官員們也擔心，雖然NFT表面上代表著藝術品等物品，但它們容易出現困擾更多傳統金融市場的那種濫用行為，如價格操縱。

Kerstens稱，雖然原則上MiCA僅適用于可替代代幣，但最終草案中有很多關于自稱NFT何時可能真正受到法律約束的問題存在，而且框架并不總是正確的。[2022/10/26 11:44:58]

“在草案中，歐洲議會議員旨在確保人工智能系統由人監督，且確保其安全、透明、可追溯、非歧視和環保。他們還希望對人工智能有一個統一的定義，旨在保持技術中立，以便其可以適用于現在和以后出現的人工智能系統。”歐洲議會在一份新聞稿中說。

聲音 | 歐盟委員會副主席：歐盟年底前將決定是否制定新法規監管虛擬貨幣:據第一財經消息，歐盟委員會分管金融服務事務的副主席瓦爾季斯·東布羅夫斯基稱，歐盟目前只占全球虛擬貨幣市場的5%。所以，我們目前認為虛擬貨幣不會影響歐盟的金融穩定，因為虛擬貨幣的主要市場不在歐盟。但是，我們認為，虛擬貨幣牽涉投資保護問題。歐盟監管機構已對投資者發出警告，揭示虛擬貨幣高度投機的性質和其中的風險。虛擬貨幣沒有任何準備金，其價格純粹是由供給關系控制的。其次，虛擬貨幣會對反洗錢帶來挑戰。我們已經著手監控虛擬貨幣的交易所，防止通過虛擬貨幣兌現來規避反洗錢法規。我們正在審視現有法規，在年底前會決是制定新的法規還是修改現有法規來監管這些包括虛擬貨幣在內的虛擬財富。[2018/9/30]

修正案包括擴大禁止行為清單，以禁止對人工智能系統的“侵入性”和“歧視性”使用，禁止行為包括：在公共可訪問空間建立實時遠程生物特征識別系統；使用遠程生物特征識別系統，唯一的例外是執法部門起訴嚴重犯罪，并且只有在司法授權后；使用敏感特征的生物識別分類系統；預測性警務系統；執法、邊境管理、工作場所和教育機構中的情感識別系統；從社交媒體或監控攝像頭中抓取生物特征數據以創建面部識別數據庫。

除了禁令之外，更新后的草案還引入了旨在監管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構建的資源密集型人工智能系統，其中包括GPT-4和ChatGPT等語言模型，以及StableDiffusion、Midjourney和DALL-E等人工智能圖像生成器。

根據擬議的立法，人工智能大模型的創建者需要在人工智能使用之前進行評估并減輕各種風險，包括評估訓練人工智能系統可能造成的環境損害。相關公司必須公開訓練人工智能使用的數據，以確保其使用受版權法保護的數據訓練。

有業內人士認為，版權問題可能會在美國產生重大影響。在美國，版權所有者已經對未經同意使用其數據的人工智能圖像生成器提起了一系列訴訟，許多科技公司，如谷歌和OpenAI，都通過拒絕披露訓練系統的數據來避免這類法律挑戰，若歐盟要求公開訓練數據，則可能會產生新的訴訟。

《人工智能法》草案的另一個關鍵條款是創建一個“高風險”人工智能系統的數據庫，以公開人工智能系統在歐盟的部署地點、時間和方式。“這個數據庫應該是自由、公開且易于理解的。”草案中提到，“數據庫還應方便用戶使用，易于導航，至少具有搜索功能，允許公眾在數據庫中搜索特定的高風險系統以及相關的位置、風險類別等。”

創建這樣一個數據庫一直是數字權利活動人士的長期需求，他們表示，公眾經常在不知不覺中被大規模監控系統進行實驗，或在未經同意的情況下被收集數據來訓練人工智能。

“其中一個大問題是，在傷害事件發生之前，我們對正在使用的人工智能系統一無所知。”非營利組織Access的高級政策分析師丹尼爾·盧弗說。他舉了荷蘭福利丑聞的例子，荷蘭政府使用的一種算法錯誤地就數千張未支付稅單發起訴訟。他表示，該數據庫將幫助歐盟公民用信息武裝自己，并使個人和團體更容易使用法律手段保護自身合法權益。

歐盟成員國還有重大分歧

對于人工智能監管的一系列想法已經在歐盟醞釀多年，投票結束后，聯合報告員兼歐洲議會議員德拉戈斯·圖多拉奇在一份聲明中評論說：“鑒于人工智能將對我們的社會和經濟產生深遠影響，《人工智能法》很可能是這項任務中最重要的立法。這是全球第一項此類立法，這意味著歐盟可以引領人工智能以以人為本、值得信賴和安全的方式發展。我們一直致力于支持歐洲的人工智能技術發展，為初創企業、中小企業和行業提供成長和創新的空間，同時保護基本權利，加強民主監督，確保成熟的人工智能治理和執法體系。”

“該草案具有全球意義。”數字倡導組織歐洲數字權利的高級政策顧問薩拉·錢德告訴科技媒體TheVerge。正如錢德所說，這些法律很可能會影響世界各國。歐盟是一個十分重要的市場，許多科技公司經常在全球范圍內遵守歐盟特定的法規，以減少同時遵守多套法規帶來的損耗。

不過，該草案仍可能發生變化，在5月12日獲得歐盟議會委員會的批準后，草案將在下個月面臨全體會議投票，然后進入三方會談，涉及歐盟成員國和歐盟政府機構的閉門談判。

歐洲數字權利組織的高級政策顧問艾拉·雅庫伯斯卡說：“許多成員國政府熱衷于保留進行生物識別大規模監控的能力。但我們也看到了奧地利和德國的不同意見，他們都贊成在《人工智能法》中加強對生物識別數據的保護。我們聽說有傳言說，其他幾個國家愿意在生物識別條款的方向上做出妥協。這給了我們希望，三方會談將取得積極成果，盡管我們當然希望幾個會員國作出強有力的反擊。”

錢德表示，數字權利活動人士最看重的是對生物識別監控和預測性警務系統的禁令，將在三方會談中引起“重大分歧”。“成員國認為，人工智能的這些用途對于打擊犯罪和維護安全是必要的。”錢德說。

Tags：人工智能GPTNFTPEN人工智能幣AICFGPTNFTXICO OpenLedger

USDC