对人工智能研究所需的数据和计算资源由少数公司主导,对它们产生了基本依赖以及相关的商业实践,这是一位著名的AI伦理学家警告。
AI现在的Institute联合创始人和Minderoo研究教授纽约大学Meredith Whittaker在一篇题为“巨大的捕获成本”的论文中解释了这种情况,由ACM相互作用,将大型技术公司和AI学术界之间的关系与美国军方对冷战期间科学研究的影响相似。
惠特克认为,过去十年来,AI的进步并非是由于AI技术的任何科学突破而产生的,而是在一些大型公司手中的数据和计算资源集中。从2012年的Alexnet对象识别算法的成功到呼吁美国国家人工智能委员会(NSCAI)(NSCAI)在2020年“民主化”访问AI的AI研究,她设定了由集中私营部门驱动的公共部门启动模式。
惠特克(Whittaker)还针对斯坦福大学(Stanford University)启动了基础模型研究中心(CRFM),认为学校所说的“基础模型”实际上被重新命名为“大语言模型”,这些模型已受到了包括Timnit Gebru在内的各种AI研究人员的批评,包括Timnit Gebru,涉嫌偏见,资源使用,资源用途,电力和力量集中。
这些关系还包括行业赞助的博士学位。计划,校园内的科技公司办公室以及国家科学基金会与亚马逊之间的合作伙伴关系,以定义“公平”。
惠特克认为,在被迫进入私营部门和冷战时期政治的研究人员中,学术自由正在受到阻碍。在提出AI偏见的幽灵时,本文还指“共和党的诊所”,可能诱使政治化指控和将噪音引入信号,就像技术政策讨论中经常发生的那样,尤其是在美国。
资助AI研究的另一种方法
这分布式人工智能研究所著名的AI和面部识别研究员Timnit Gebru为响应了这种限制性的AI研究环境而启动(DAIR)。
Dair被描述为“独立,社区根源的AI研究的空间,没有Big Tech的普遍影响。”
麦克阿瑟基金会,福特基金会,卡波中心,开放社会基金会和洛克菲勒基金会已经筹集了370万美元,以支持Dair,华盛顿邮报报告。 Dair还加入了科学与社会守则(CS&S)倡议,作为其赞助项目计划的一部分。
盖布鲁被解雇谷歌一年前,在批评公司在大型语言模型上的工作后。
Gebru告诉《邮报》:“很长一段时间以来,我一直对我们拥有的激励结构感到沮丧,以及它们似乎都不适合我想做的那种工作。”研究人员进一步建议,即使使用Google,她也发现通过外部压力更容易影响公司的政策。
如果DAIR资助人与该小组的研究相反,Gebru打算利用其他慈善支持来源。