人工智慧既令人恐懼，又讓人著迷。此外，為了防止它對人類造成危險，研究人員應Google的要求設計了一個系統，如果出現問題，可以停止此類技術的運作。在某種程度上，緊急停止按鈕。
這些研究人員，包括在 DeepMind 工作的 Laurent Orseau（公司被Google收購2014 年），以及牛津大學的 Stuart Armstrong 在一篇文章（格式 PDF、NDLR）發佈在機器智能研究院網站上，旨在確保人工智慧產生正面影響。
對於這些科學家來說，人工智慧不太可能始終表現最佳。如果它學習人類行為，那就更是如此，我們知道人類行為有時會傷害人類。因此，他們開發了一種數學系統，讓人們重複且安全地中斷人工智慧的功能，同時確保後者不會意識到將會發生什麼。
為了什麼 ？因為智慧機器的設計原則是繞過那些使它偏離目標的因素。「如果機器有一個要實現的目標並且可以預測它會被停止，它會嘗試抵抗以成功完成其設計目的，研究人員解釋。我們的系統允許人類暫時控制機器，同時讓它相信它正在選擇中斷其活動。 »
並不是每次都有效
“例如，如果智慧機器的行為有造成不可逆轉的損害或使其擺脫微妙困境的風險，那麼控制智慧機器可能會很有用”，新增研究人員。
也就是說，有一個問題。科學家指出，他們的系統使用 Q 學習類型的演算法（簡單地說，透過偶然實驗進行學習，這些實驗在產生獎勵時被記錄），但它與 SARSA 類型的演算法不同（國家-動作-獎勵-狀態-動作，更線性的學習：狀態導致動作，如果得到獎勵，則允許機器移動到第二個狀態）。因此，緊急停止按鈕的好主意可能具有有限的範圍。
來源 ：
情報網
🔴為了不錯過01net的任何新聞，請關注我們谷歌新聞等WhatsApp。
