對人工智能研究所需的數據和計算資源由少數公司主導,對它們產生了基本依賴以及相關的商業實踐,這是一位著名的AI倫理學家警告。
AI現在的Institute聯合創始人和Minderoo研究教授紐約大學Meredith Whittaker在一篇題為“巨大的捕獲成本”的論文中解釋了這種情況,由ACM相互作用,將大型技術公司和AI學術界之間的關係與美國軍方對冷戰期間科學研究的影響相似。
惠特克認為,過去十年來,AI的進步並非是由於AI技術的任何科學突破而產生的,而是在一些大型公司手中的數據和計算資源集中。從2012年的Alexnet對象識別算法的成功到呼籲美國國家人工智能委員會(NSCAI)(NSCAI)在2020年“民主化”訪問AI的AI研究,她設定了由集中私營部門驅動的公共部門啟動模式。
惠特克(Whittaker)還針對斯坦福大學(Stanford University)啟動了基礎模型研究中心(CRFM),認為學校所說的“基礎模型”實際上被重新命名為“大語言模型”,這些模型已受到了包括Timnit Gebru在內的各種AI研究人員的批評,包括Timnit Gebru,涉嫌偏見,資源使用,資源用途,電力和力量集中。
這些關係還包括行業贊助的博士學位。計劃,校園內的科技公司辦公室以及國家科學基金會與亞馬遜之間的合作夥伴關係,以定義“公平”。
惠特克認為,在被迫進入私營部門和冷戰時期政治的研究人員中,學術自由正在受到阻礙。在提出AI偏見的幽靈時,本文還指“共和黨的診所”,可能誘使政治化指控和將噪音引入信號,就像技術政策討論中經常發生的那樣,尤其是在美國。
資助AI研究的另一種方法
這分佈式人工智能研究所著名的AI和麵部識別研究員Timnit Gebru為響應了這種限制性的AI研究環境而啟動(DAIR)。
Dair被描述為“獨立,社區根源的AI研究的空間,沒有Big Tech的普遍影響。”
麥克阿瑟基金會,福特基金會,卡波中心,開放社會基金會和洛克菲勒基金會已經籌集了370萬美元,以支持Dair,華盛頓郵報報告。 Dair還加入了科學與社會守則(CS&S)倡議,作為其贊助項目計劃的一部分。
蓋布魯被解僱Google一年前,在批評公司在大型語言模型上的工作後。
Gebru告訴《郵報》:“很長一段時間以來,我一直對我們擁有的激勵結構感到沮喪,以及它們似乎都不適合我想做的那種工作。”研究人員進一步建議,即使使用Google,她也發現通過外部壓力更容易影響公司的政策。
如果DAIR資助人與該小組的研究相反,Gebru打算利用其他慈善支持來源。