ChatGPT是目前最新、最令人印象深刻的人工智能聊天机器人。这款应用于两周前发布，在短短5天内就突破了100万用户。

它被使用得如此之多，以至于它的服务器已经达到了几次容量。

开发该软件的OpenAI公司已经被认为是潜在的谷歌杀手。当ChatGPT可以写出一整段来解释答案时，为什么要在搜索引擎上查找呢?(甚至有一个Chrome扩展可以让你同时做这两件事。)

但如果我们永远不知道ChatGPT功能背后的秘密呢?

该聊天机器人利用了过去几十年公开科学文献中发表的许多技术进步。但任何独特的创新都是秘密。OpenAI很可能正试图建立一条技术和业务护城河，将其他公司挡在门外。

ChatPGT网站由于大量用户涌入而多次宕机。OpenAI /截图

它能做什么(不能做什么)

ChatGPT功能非常强大。想听一段关于聊天机器人的俳句吗?确定。

聊天机器人，太聪明了

没完没了地处理

答案来自虚空。

来个关于聊天机器人的笑话怎么样?没有问题。

为什么聊天机器人要过马路?

去你屏幕的另一边!

ChatGPT还可以做很多其他的技巧。它可以按照用户的要求编写计算机代码，起草商业信函或租赁合同，撰写家庭作业，甚至通过大学考试。

同样重要的是ChatGPT不能做什么。例如，它很难区分真理和谬误。它通常也是一个有说服力的说谎者。

最快的海洋哺乳动物是什么?

最快的海洋哺乳动物是旗鱼。

旗鱼不是哺乳动物。

你是对的，旗鱼不是哺乳动物。我为这个错误道歉。最快的海洋哺乳动物是游隼。

ChatGPT有点像你手机上的自动完成功能。你的手机是根据单词字典进行训练的，所以它能完成单词。ChatGPT在几乎所有的网络上都受过训练，因此可以完成整个句子甚至整个段落。

然而，它不明白自己在说什么，只知道接下来最有可能出现什么词。

仅按名称打开

在过去，人工智能的进步一直伴随着同行评议的文献。

例如，在2018年，谷歌Brain团队开发了BERT神经网络，现在大多数自然语言处理系统都基于此(我们怀疑ChatGPT也是如此)，这些方法发表在同行评审的科学论文中，代码也是开源的。

2021年，DeepMind的蛋白质折叠软件AlphaFold 2被评为《科学》年度突破。该软件及其结果是开源的，因此世界各地的科学家都可以使用它们来推进生物学和医学。

在ChatGPT发布之后，我们只有一篇简短的博文来描述它是如何工作的。目前还没有迹象表明会有相应的科学出版物，也没有迹象表明这些代码将是开源的。

要理解为什么ChatGPT可以保密，你必须了解一下它背后的公司。

OpenAI可能是硅谷出现的最奇怪的公司之一。它成立于2015年，是一家非营利组织，旨在以“造福全人类”的方式推广和开发“友好的”人工智能。埃隆·马斯克、彼得·蒂尔和其他科技界领军人物承诺为其目标提供10亿美元。

他们的想法是，我们不能相信以盈利为目的的公司开发出越来越强大的人工智能，与人类的繁荣保持一致。因此，人工智能需要由非营利机构开发，而且顾名思义，需要以开放的方式进行。

2019年，OpenAI转型为一家有上限的营利性公司(投资者的最高回报率为投资的100倍)，并从微软获得了10亿美元的投资，以便扩大规模并与科技巨头竞争。

似乎资金阻碍了OpenAI最初的开放计划。

从用户身上获利

除此之外，OpenAI似乎正在利用用户的反馈来过滤ChatGPT产生幻觉的虚假答案。

根据OpenAI的博客，最初在ChatGPT中使用强化学习，使用昂贵的手工构建的训练集来降低虚假和/或有问题的答案的排名。

但ChatGPT现在似乎正在被它的100多万用户调整。我想，用其他任何方式获得这种人的反馈都是非常昂贵的。

我们现在面临的前景是，使用科学文献中没有描述的方法，以及数据集仅限于一家似乎只是名义上开放的公司，人工智能将取得重大进展。

下一个在哪里?

在过去十年中，人工智能的快速发展在很大程度上得益于学术界和商界的开放态度。我们拥有的所有主要人工智能工具都是开源的。

但在开发更有能力的人工智能的竞赛中，这种情况可能即将结束。如果人工智能领域的开放性降低，我们可能会看到这一领域的进展放缓。我们还可能看到新的垄断企业出现。

如果历史可以借鉴的话，我们知道缺乏透明度是科技领域不良行为的触发因素。因此，当我们继续赞美(或批评)ChatGPT时，我们不应该忽视它出现在我们身上的情况。

除非我们小心谨慎，否则似乎标志着人工智能黄金时代的事情实际上可能标志着它的终结。

谈话

托比·沃尔什，新南威尔士大学人工智能教授，新南威尔士大学悉尼分校研究组负责人

本文基于创作共用许可，从The Conversation重新发布。阅读原文。

注：本文由院校官方新闻直译，仅供参考，不代表指南者留学态度观点。