資訊與民主論壇希望為「公益人工智慧」創建一個自願認證機制。想法：建立一個類似於公平貿易認證的標籤，以提高消費者意識並鼓勵道德人工智慧系統的發展。該組織內的政策經理 Katharina Zügel 向我們解釋了該機制的組成部分。
道德人工智慧系統的標籤？這就是資訊與民主論壇所提供的服務，該組織由包括無國界記者組織在內的多個非政府組織於 2019 年創立。就像“公平貿易”標籤一樣，這個想法是創建一個“公益人工智慧自願認證機制»，該組織內的政策經理 Katharina Zügel 解釋。她是一本書的作者研究論文被視為未來「公共利益人工智慧」標籤系統的第一個組成部分。
01net.com：AI領域充滿了條例草案與行為守則：《人工智慧法》、《歐盟人工智慧公約》、SB 1047在美國…該認證項目包括什麼？
Katharina Zügel：「如今，大量人工智慧工具不僅可供大眾使用，也可供公共管理部門使用。這些用戶稍微隨機或基於最佳功能來選擇系統。我們看到它與ChatGPT 啟動，每個人都去那裡，但不一定了解它的意義：這個系統是如何訓練的，我的資料發生了什麼，這個人工智慧提供什麼，什麼類型的底層世界觀？因此，我們的想法是從其他行業發生的事情中汲取靈感，在這些行業中，標籤的創建不僅對消費者產生了影響，而且對創造產品的公司也產生了影響。 »
公益AI是什麼意思？
大多數人工智慧系統都是由大型私人公司開發的，這些公司是出於經濟利益的考慮而開發的。對我們來說，公益人工智慧是以服務公共利益為主要目標的人工智慧。其中排除了在不尊重勞工權利的情況下開發的人工智慧系統，或對環境產生巨大影響，或甚至不試圖減少它……或不尊重多樣性和代表性問題的人工智慧系統。
因此，該認證的目的是鼓勵公司創建對社會和民主更加積極的系統，同時創造對此類工具的需求。我們希望使用一個用戶很容易識別的首字母縮略詞，因為今天，特別是在歐洲背景下，將創建安全認證機制。但這仍然是監管的角度，這裡的想法是創造消費者可以使用的東西，並且超出了歐盟的規模，歐盟是唯一立法非常先進的地區。未來的標籤將使擁有更全球範圍內的解決方案成為可能。
如今，有數百種人工智慧系統，如 ChatGPT、Gemini、Llama、Claude、Granite、Mistral：它們中的任何一個符合您所謂的「通用興趣人工智慧」嗎？
我們尚未能夠對現有的人工智慧工具進行評估，但是，是的，當今存在普遍感興趣的人工智慧，但規模較小。例如，我們與無國界記者組織關係非常密切，該組織是創建該論壇的組織之一。他們正在致力於創建一款專門針對氣候議題的媒體和記者的人工智慧工具，這將使記者能夠對氣候議題進行更有針對性的研究。
因此，這是一個旨在為我們的社會帶來一些東西的工具，它與所有提供數據來訓練人工智慧的機構達成協議，即使它的演算法是由該領域的巨頭之一創建的。但未來的認證將不僅限於這些特定的人工智慧，這個想法還建議以這種方式開發大型人工智慧系統（最受歡迎的，編者註）。
具體來說，您在9月19日發表了「一篇研究文章」：您的下一步計畫是什麼？
創建AI認證機制的想法來自於我們去年去年二月發表的報告。這是研究人員之一，瑪莎·坎特羅·加米托（Martha Cantero Gamito）（佛羅倫斯學院資訊科技法教授兼研究員，編者註），誰提出了公共利益人工智慧標籤的想法，誰提出了這個建議。這篇研究論文只是第一步。
我們將與聯合國教科文組織、其他協會和夥伴國家等不同參與者組織一系列研討會，其想法是，這將產生具體的成果，為計劃於 2019 年舉行的人工智慧高峰會啟動該機制的創建。二月在巴黎（資訊與民主論壇旨在落實「資訊與民主夥伴關係」的原則，該文本已獲得 52 個國家的批准，編者按）。
要啟動此標籤，有兩個步驟。首先，首先要明確治理體系和結構。一旦完成，就有必要定義其評估標準，並啟動標準化流程（即定義必須滿足什麼條件才能從該標籤中受益，編者註）——而這很容易需要一年的時間來真正定義標準，詳細。
具體來說，這個標籤的標準是什麼，誰可以試行和管理？
我們建議建立一個獨立的機構，負責定義和修訂標準。它可以與當今已經受到嚴格監管的認證機構（例如 ISO 標準）合作。
基本上，有兩種類型的標準。第一個將更專注於提供和部署人工智慧工具的公司及其工作原理。它是否尊重勞動法，是否提供民主治理，是否保護舉報人，是否對環境產生影響，是否可以創造一個符合公共利益的工具？
第二個圍繞著人工智慧系統本身及其資料庫，版權和隱私是否受到尊重？是否存在一定的透明度，是否有其他參與者參與創建該系統並定義可接受和不可接受的風險？今天重要議題已決定閉門進行，並且僅由公司進行。
建立並實施此認證需要時間：會不會來得太晚了？
事實上，如果早在五年前，從人工智慧系統推出之初就擁有它，那就更好了。但對我們來說，永遠不嫌晚。我們今天在社交網路上看到了這一點，具有更嚴格規則的立法很久之後才到來（它們的推出和大規模採用，編者註）。此外，人工智慧的發展並沒有停止，其威力和能力還會增強。
這個標籤的想法也是為了擺脫歐洲法律（人工智慧法案）所採用的「避免風險」或「控制風險」的做法。相反，問題是提供一些與目前正在通過的立法相補充的東西，建立一個鼓勵積極的機制。
