是时候停止人工智能(AI)的发展了吗?如果你悄悄地问过自己这个问题，你并不孤单。

在过去的一周里，许多人工智能领域的杰出人士签署了一封公开信，呼吁暂停开发比GPT-4更强大的模型六个月;欧洲研究人员呼吁加强人工智能监管;长期从事人工智能研究和批评的埃利泽·尤德科夫斯基在《时代》杂志上要求彻底停止人工智能的开发。

与此同时，该行业没有显示出放缓的迹象。据报道，今年3月，微软(Microsoft)的一名高级人工智能高管谈到，首席执行官萨蒂亚·纳德拉(Satya Nadella)给他施加了“非常、非常大的”压力，要求他“以非常快的速度”向公众推出GPT-4和其他新机型。

我在谷歌工作到2020年，我离开公司去学习负责任的人工智能开发，现在我在研究人类与人工智能的创造性合作。我对人工智能的潜力感到兴奋，我相信它已经迎来了一个创造的新时代。然而，我认为暂时停止开发更强大的人工智能系统是一个好主意。让我来解释一下原因。

GPT-4是什么，信中要求什么?

美国非营利组织未来生命研究所(Future of Life Institute)发布的公开信向人工智能开发者提出了一个直截了当的要求:

我们呼吁所有人工智能实验室立即暂停至少6个月对比GPT-4更强大的人工智能系统的训练。

那么GPT-4是什么?与它的前身GPT-3.5(支持流行的ChatGPT聊天机器人)一样，GPT-4是一种被称为“大型语言模型”的生成式人工智能软件，由OpenAI开发。

GPT-4要大得多，训练的数据也多得多。像其他大型语言模型一样，GPT-4的工作原理是根据提示猜测下一个单词，但它仍然具有令人难以置信的能力。

在测试中，它通过了法律和医学考试，并且在许多情况下可以比专业人士更好地编写软件。它的全部能力还有待发现。

好的，坏的，简单的破坏

GPT-4和类似的模式很可能在社会的许多层面产生巨大影响。

从好的方面来看，它们可以提高人类的创造力和科学发现，降低学习的障碍，并被用于个性化的教育工具。不利的一面是，它们可能会促进个性化网络钓鱼攻击，大规模制造虚假信息，并被用来破解控制重要基础设施的计算机系统周围的网络安全。

OpenAI自己的研究表明，像GPT-4这样的模型是“通用技术”，将影响大约80%的美国劳动力。

文明的层次和变化的速度

美国作家斯图尔特•布兰德(Stewart Brand)认为，“健康的文明”需要不同的体系或层次以不同的速度前进:

快速层创新;缓慢的层稳定下来。整体将学习与连续性结合起来。

根据“节奏层”模型，健康文明的不同层次以不同的速度发展，从自然的缓慢运动到时尚的快速变化。图片来源:斯图尔特·布兰德/《设计与科学杂志》

在布兰德的“节奏层”模型中，底层的变化要比顶层的慢。

科技通常排在最前面，介于时尚和商业之间。监管、经济系统、安全护栏、道德框架和其他方面存在于较慢的治理、基础设施和文化层。

现在，技术的发展速度远远超过了我们理解和监管它的能力——如果我们不小心，它也会推动那些底层的变化，而这些变化的速度太快了，危及了安全。

美国社会生物学家e·o·威尔逊(E.O. Wilson)这样描述不同变化步伐不匹配的危险:

人类真正的问题在于:我们有旧石器时代的情感，中世纪的制度，以及神一般的技术。

是否有充分的理由保持当前的快速发展?

一些人认为，如果顶级人工智能实验室放缓速度，其他不结盟的参与者或中国等国家将超过他们。

然而，训练复杂的人工智能系统并不容易。OpenAI领先于它的美国竞争对手(包括谷歌和Meta)，中国和其他国家的开发者也落后了。

在可预见的未来，“流氓组织”或政府不太可能超过GPT-4的能力。大多数人工智能人才、知识和计算基础设施都集中在少数几个顶级实验室。

其他对生命未来研究所的信持批评态度的人表示，它依赖于对当前和未来人工智能能力的过度认知。

然而，无论你是否相信人工智能将达到一般超级智能的状态，不可否认的是，这项技术将影响人类社会的许多方面。花点时间让我们的系统适应变化的步伐似乎是明智的。

放慢脚步是明智的

虽然在具体细节上有很大的分歧空间，但我相信未来生命研究所的信指出了一个明智的方向:掌握技术变革的步伐。

尽管我们已经看到了社交媒体造成的破坏，但硅谷仍倾向于遵循Facebook那句臭名昭著的格言:“快速行动，打破陈例”。

我相信一个明智的做法是放慢脚步，思考我们想把这些技术带到哪里，让我们的系统和我们自己进行调整，并参与多样化的、深思熟虑的对话。这不是要停止，而是要以可持续的速度前进。我们可以选择驾驭这项技术，而不是假设它有自己的生命，我们无法控制。

经过一番思考，我把自己的名字加入了公开信的签署人名单。生命未来研究所表示，目前这封信的签署人约有5万人。尽管六个月的暂停并不能解决所有问题，但它是有用的:它设定了正确的意图，优先考虑利益和风险，而不是不加批判的、加速的、以利润为动力的进展。

谈话

Rodolfo Ocampo，悉尼新南威尔士大学人类-人工智能创意合作项目博士生

本文基于创作共用许可，从The Conversation重新发布。阅读原文。

注：本文由院校官方新闻直译，仅供参考，不代表指南者留学态度观点。