歐盟、美國和加拿大等約 50 個國家正在談判一項有關人工智慧人權和民主的國際條約。它旨在保證 OpenAI 或 Mistral 等人工智慧工具的開發者尊重最低限度的基本權利和道德。以下是本文中需要記住的內容。
這是一篇關於人工智慧的文章，迄今已從舞台上黯然失色。《人工智慧法案》，歐洲對人工智慧的監管，但值得我們充分關注。 3 月 14 日，五十個國家在史特拉斯堡舉行會議討論《人工智慧框架公約》，成功就第一個人工智慧國際條約達成了臨時協議。
在歐洲委員會——一個與歐盟無關的機構——美國、加拿大、日本、歐盟和許多其他國家——內部，近兩年半以來一直在努力就十四頁相關內容達成協議。說的「道德人工智慧」。
« C一些與人工智慧相關的活動可能會損害人類尊嚴和個人自主、人權、民主和法治», 他們在序言中寫道。事實上有“歧視的風險“， 的 ”濫用人工智慧» – 就像這些系統 «用於鎮壓目的，任意或非法的監視和審查»，他們補充道。
關於 AI 的新文本是什麼？
這是第一個關於人工智慧的國際條約，由歐洲委員會（與代表歐盟 27 個國家的「理事會」不同）制定，該國際機構擁有 46 個成員，其目標是保護人工智慧人權。如果在其「人工智慧委員會」內達成協議，該協議仍須得到其「部長委員會」的認可，這一步驟應在五月進行。
與最近呼籲監管人工智慧的聯合國決議不同，該文本最終將具有約束力。但它必須經過一個漫長的過程才能適用：它必須得到每個簽署國的批准，然後轉化為每個國家的法律。一旦完成所有這些步驟，它就可以適用，歐盟，還有美國、澳洲、加拿大、日本、墨西哥、哥斯大黎加、阿根廷……以及所有希望這樣做的國家。
其目標“旨在使人工智慧的開發、設計和應用與歐洲委員會的原則保持一致»，其秘書長 Marija Pejčinović Burić 在聲明中強調公報。對其編輯來說，人工智慧（包括 ChatGPT 等生成式人工智慧和預測性人工智慧（用於在社群網路上提出建議的人工智慧））不得侵犯人權、民主和法治。
該條約旨在填補空白。到目前為止，這些規則主要是由開發這些人工智慧的公司定義的——例如 OpenAI、Google、Mistral。尊重人權遠遠不是他們的首要任務。 “這個想法不是等待他們的系統投放市場（並可供公眾使用，編者註），而是盡快在上游制定民主規則»，01net.com 採訪的資訊與民主論壇政策經理 Katharina Zügel 解釋。
需要尊重的原則包括：人權、民主、人的尊嚴、透明、平等和非歧視、尊重有關個人資料和隱私的規則以及安全創新的理念。例如，人工智慧系統不應該被用來“破壞民主機構和程序的完整性、獨立性和有效性，包括權力分立原則、尊重司法獨立和訴諸司法的機會»。
與AI法案有什麼區別？
與歐洲人工智慧法規不同，這是一項國際條約。 “其範圍超出了歐盟，因為談判涉及美國等國家（該行業擁有許多公司）、日本和加拿大（這些國家是該行業的許多公司的所在地）。都可以簽署協議 »，指定 Katharina Zügel，她密切注意文本。
另一個區別：不像人工智慧法案該框架協議在 459 頁中列出了人工智慧工具投放市場必須遵守的規則，框架協議是一個相當簡短的文件。 3月14日的十頁臨時協議是由一名前記者發表的歐洲活性劑在領英上，然後由情境。它定義了人工智慧創造、應用和開發過程中應尊重的主要原則、標準和權利。但批准該公約的國家應將其納入本國法律，並解決其實施措施問題 — — 即使公約規定了監督機制。
後者可以依靠去年二月發布的建議資訊與民主論壇提出了落實平等與非歧視原則的措施建議。其中，例如，我們發現“向更具包容性和多元化的團隊開放人工智慧開發團隊，決定用於訓練人工智慧的資料選擇民間社會和研究人員對其係統進行影響分析。..”，列出了他的公共政策經理。
另請閱讀：為什麼演算法仍然存在性別歧視
它適用於私營部門嗎？
從理論上講，我們理解該條約的意圖，但在實踐中，開發人工智慧工具的私人公司真的需要應用該文字嗎？這一點在機構內部引起了激烈爭論。在最初的版本中，起草者建議將公約一視同仁地適用於私營和公共部門，但國防除外。但在去年 12 月發布的版本中，台詞發生了變化。私營部門例外。
足以讓人權捍衛者振奮起來，例如人權聯盟、無國界記者組織、反對網路騷擾女權主義者、Access Now 或 Public Eye 等非政府組織。在一封公開信，他們對大型科技公司和公司可能被排除在人工智慧領域之外表示遺憾。這相當於“使公約失去其實質內容“，透過不提供”對於越來越受到強大人工智慧系統影響、容易產生偏見、人為操縱和民主制度不穩定的個人來說，幾乎沒有任何有意義的保護“，他們寫道。
3 月 14 日的臨時協議最終選擇了中間立場：預設情況下，私營部門並未被排除在外，但簽署國將能夠選擇公約適用的方式。談判代表建議各國可以選擇：
- 將公約適用於私人行為者或
- 採取「其他適當措施」以實現文本的目標和宗旨。
«這是錯失了一個巨大的機會”後悔凱瑟琳娜·韁繩。“使該公約適用於公共部門顯然很重要。”但對於私部門來說，如果臨時協議的條款成為最終協議，« c每個國家將決定哪些規則適用於企業» – 誰是開發人工智慧的參與者。
被排除在國防部門之外也是緊張局勢的一個根源。在這方面，非政府組織也要求至少在《公約》中納入用於國家安全目的的人工智慧（即軍事應用或情報部門使用的人工智慧）尊重國際法的義務。有些國家則捍衛普遍豁免的想法。最後，這是第一個所採用的方法。這與保護國家安全有關的活動不需要遵守框架公約，但必須依照國際法進行。
這些妥協會在文本的最終版本中保留嗎？下一階段的通過將於明年五月在該機構的部長委員會之前進行。
