人工智能，GPT让NLP恐慌了？

如果您问您日常使用的智能手机语音助手是否害怕ChatGPT，您通常不会收到有趣或信息丰富的答案。那么这是一个问题吗？

自然语言处理 (NLP) 是人工智能研究的一个领域，它催生了语音助手和语言翻译等实际应用，但现在似乎受到了大型语言模型 (LLM)（例如 OpenAI 的 GPT-4）的威胁。最近在 r/Machinelearning Reddit 上发表的一篇文章总结了这种情绪，询问其他人是否“目睹了大型科技公司 NLP 组织内部的恐慌？”

弗吉尼亚大学计算机科学助理教授Yangfeng Ji在学者和学生中观察到类似的困扰，并且最近试图通过指出LLM 不适合的 NLP 研究领域来平息这些恐惧。“就算不是恐慌，至少也可以说是复杂的心情，”Ji说。

Ji 相信研究人员有能力在新方法出现时采用新方法，但OpenAI最近 LLM 模型的成功给这项工作带来了麻烦。LLM能够完成许多任务，但最成功的LLM都是闭门造车。OpenAI 没有详细说明 GPT-4 的功能，这是 OpenAI 最近的 LLM 模型，开发人员只能通过 API 访问它。

“就个人而言，更糟糕的是我们甚至不知道它是否只是一个语言模型，”Ji 说。他指出，LLM 支持的聊天机器人，如 ChatGPT、Bing Chat 和Google Bard，产生的结果超越了 LLM。他们似乎会随着时间的推移更新自己的能力并从互联网上获取新数据（通常尽管模型声称，当被问到时，它缺乏这种能力）。人工智能模型通常需要训练才能对新数据采取行动。“但是，如果它是一个以 LLM 作为核心组件的软件系统，那么这些问题就很容易解决，”Ji 说。

来自 OpenAI 和谷歌的 LLM 的不透明性让研究人员陷入困境。这些模型在许多任务上明显优于过去的 NLP 研究，但外界只能猜测它们是如何实现这一目标的。Ji 将此描述为闭源模型和开源模型之间的“神秘的性能差距”。

尽管如此，Ji 还是看到了 LLM 能力之外的大量 NLP 研究空间。他指出LLM如何继续与道德问题作斗争，使他们不适合某些组织。它们也很难微调，并且会产生意想不到的结果。这些问题在用于集思广益蛋糕食谱或给朋友写电子邮件时不太可能造成伤害，但“当人们开始认真对待这些系统并使用它们进行实际工作时，它们就会成为主要障碍。”

LLM的迅速崛起不仅仅是学术上的。Apple、Microsoft 和Amazon向各自的语音助手投资了数十亿美元，每家都承诺提供智能、语音激活的助手，这些助手将成长为有用的伙伴。努力没有得到回报。亚马逊最近几轮裁员包括对 Alexa 团队的大幅裁员，据报道，该团队在 2022 年损失了 100 亿美元。微软首席执行官萨蒂亚纳德拉最近称语音助手“像石头一样愚蠢”，而 Cortana 几乎被抛弃了。据报道，谷歌智能助理团队正在重组以协助巴德。只有 Apple 的 Siri 经久不衰，尽管近年来的改进已经放缓至涓涓细流。

正如研究人员对 LLM 的力量措手不及一样，科技公司也对其广泛的应用毫无准备。由 LLM 支持的聊天机器人，如 ChatGPT、Google Bard 和 Bing Chat，可以完成语音助手无法完成的任务（比如从头开始编写电子邮件），并且使用比预设语音更逼真、更引人入胜的语言来完成这些任务助理提供。

Pragmatic AI Labs 的创始人 Noah Gift认为这是一个根本性的转变。“多年来，数据科学的重点一直是调整超参数、清理数据，以及主要关注研究和技术与商业价值的对比，Stack Overflow 等网站就证明了这一点，”Gift 说。“在我最近写的一本书Practical MLOps中，我预测数据科学会越来越少，而大型组织构建的模型会越来越多，这在很大程度上正在发生。如果你在一家从事 NLP 工作但尚未投入生产的公司工作，那么是的，你可能非常担心你的工作不再重要了。”

但是暂时不要刻 Siri 的墓碑。NLP 研究仍然很重要，即使实施它的策略在不断发展。

微软快速转向人工智能就是一个例子。该公司与 OpenAI 的合作促成了多项 GPT 支持的产品发布，包括 Github Copilot、Bing Chat 和 Microsoft 365 Copilot。微软还没有宣布新的语音助手，但第三方开发商已经引入了浏览器插件，将这一功能硬塞进了 ChatGPT。OpenAI 正式发布的 ChatGPT 插件已经限量发布，很可能会为定制语音助手打开闸门——等等。

“我根本不相信语音是死胡同，事实上，随着新的 LLM 进入消费产品领域，它会得到显着改善，”Gift 说。“最初语音的关键问题可能是这些项目根本不如 OpenAI 和其他新兴 LLM 技术提供商使用的技术。我看到文本和语音 LLM 的使用为他们的技术创造了巨大的市场。”