研究员发现:人工智能最大的风险不是“意识”——而是控制它们的公司

人工智能先驱 Geoffrey Hinton，一位 75 岁的计算机科学家，被称为“人工智能教父”，在从谷歌辞职后本周掀起波澜，警告说人工智能可能很快会在智力上超越人类，并学会如何自行毁灭人类. 

但 Hinton 的警告虽然可怕，但没有抓住要点，著名的人工智能研究员梅雷迪思·惠特克 (Meredith Whittaker) 说，他在 2019 年被谷歌赶下台，部分原因是组织员工反对该公司与五角大楼达成的为军用无人机开发机器视觉技术的交易。现在是 Signal Foundation 的主席，Whittaker 告诉Fast Company为什么 Hinton 的危言耸听会分散人们对更紧迫威胁的注意力，以及工人如何能够从内部抵御技术的危害。（Hinton 没有回应Fast Company的置评请求。） 

为清楚起见，对本访谈进行了压缩和编辑。

Fast Company：让我们从你对 Geoffrey Hinton 离开谷歌以警告 AI 的大型媒体巡回演出的反应开始。到目前为止你在做什么？

梅雷迪思·惠特克 (Meredith Whittaker)：当像 Timnit [Gebru] 和 Meg [Mitchell] 这样的人在他们职业生涯的早期阶段冒着真正的风险去尝试时，看到一个没有真正出现的人在这个秋季的救赎之旅中令人失望并阻止控制我们称为人工智能的技术的公司的一些最危险的冲动。 

所以，有一点吃蛋糕和吃它：你得到了忏悔的光芒，但当人们真正试图组织和做某事时，我没有看到任何团结或任何行动关于现在正在发生的伤害。

FC：你从 2017 年开始在谷歌内部组织起来反对Project Maven，这是该公司签署的一项为美国军用无人机构建机器视觉技术的合同。你有没有预料到会因为直言不讳而被迫离职？

MW：我并没有考虑到这一点。但在我们反对 Project Maven 的信被炸毁后，我记得那一刻我意识到，根据我对历史的理解，我最终会被赶出去。你不会那样乱花钱，也不会被赶出去。 

FC：你在谷歌时认识 Geoffrey Hinton 吗？

MW：不太好，但我们在同一个会议，有时在同一个房间。 

FC：在你组织的时候，他有没有表达过任何形式的支持？

MW：我没有看到他出现在任何集会或行动或底线任何工作中。然后当它变得危险时，当谷歌开始脱下手套并雇用一家破坏工会的公司时，我没有看到他出来支持。 

但提出问题的有效性取决于提出问题的人确保安全的能力。所以，如果你在我和梅格被解雇时不出来，如果你在其他人受到报复时不出来，当研究受到压制时，那么你就是在默许一个惩罚人们提出疑虑的环境. [编者注：虽然惠特克说她是被谷歌逼离职的，但该公司声称她选择了离开。]

FC：还有一个你一直在指出的模式：很多因为直言不讳而受到惩罚的人都是女性。

MW：女性，尤其是非白人女性。这不仅在谷歌，而且在人们讨论人工智能的领域，最早出现、最有根据和最具体的关注的人通常是女性，尤其是黑人女性和有色人种女性。我认为值得注意的是，谁似乎很容易被忽视，谁的担忧被提升为：“好吧，我们终于从父亲那里听到了，所以这一定是真的。”

FC：最近在CNN上，Hinton 淡化了 Timnit Gebru 的担忧——Timnit Gebru 因拒绝撤回一篇关于 AI 对边缘化人群的危害的论文而在 2020 年被谷歌解雇——说她的想法不像他自己的那样“存在严重”。你怎么看？

MW：我认为有人会说现在正在发生的 [来自 AI] 的危害是令人震惊的——这些危害在历史上被少数群体的人最强烈地感受到：黑人、妇女、残疾人、不稳定的工人等等——那这些伤害是不存在的。

我从中听到的是，“那些对我来说不存在。我有数百万美元，我投资了很多很多 AI 初创公司，这些都不会影响我的存在。但可能影响我存在的是，如果科幻幻想成真，人工智能真的超级聪明，突然之间像我这样的人就不再是世界上最强大的实体了，那会影响我的生意。” 

FC：那么，我们不应该担心人工智能会出现并消灭人类吗？

MW：我认为没有任何证据表明大型机器学习模型——依赖于大量监控数据和只有少数公司控制的集中计算基础设施——具有意识的火花。 

我们仍然可以拔掉服务器的插头，随着气候的侵蚀，数据中心可能会泛滥成灾，我们可以用完水来冷却数据中心，随着气候变得更加不稳定和恶劣，监控管道可能会融化。 

我认为我们需要深入研究这里发生的事情，那就是，当面对一个将自己呈现为一个倾听的、热心的对话者的系统，它正在倾听我们并回应我们时，我们似乎陷入了一种关系的恍惚状态对这些系统，几乎反事实地参与某种愿望的实现：认为他们是人类，并且有人在那里听我们说话。这就像当你还是个孩子的时候，你在讲鬼故事，一些有很多情感分量的东西，突然间每个人都被吓坏了，并对它做出反应。令人难以置信。

FC：你刚才说的——我们陷入一种恍惚状态的想法——我听到你说的是，这分散了我们对气候变化或对边缘化人群的伤害等实际威胁的注意力。

MW：是的，我认为这会分散我们对实地真实情况的注意力，并且比关于很大程度上是虚构的事情的兵棋假设更难解决。尤其是，它让我们忽视了这样一个事实，即这些技术是由少数公司控制的，这些公司最终将决定制造什么技术、它们做什么以及它们为谁服务。如果我们遵循这些公司的利益，我们就会很好地了解谁将使用它，将如何使用它，以及我们可以在哪里抵制以防止今天正在发生和可能发生的实际危害。 

FC： Geoffrey Hinton 也在 CNN 上说，“我认为如果你先离开公司，表达你的担忧会更容易。”

MW：如果个人轻松是您的衡量标准，那么您没有错。但我不认为它更有效。这是我和许多其他人转向劳工组织的原因之一。因为有很多权力，能够集体阻止你的劳动，并作为最终决定这些公司运作与否的人联合起来，然后说，“我们不会这样做。” 没有人这样做，它就不会发生。