简介
openAI团队已经在 ChatGPT 中实现了对插件的初步支持。插件是专门为以安全为核心原则的语言模型设计的工具,可帮助 ChatGPT 访问最新信息、运行计算或使用第三方服务。
目前体验与开发需要先加入等候名单。
官网介绍链接 https://openai.com/blog/chatgpt-plugins
公告
根据我们的迭代部署理念,我们正在逐步推出 ChatGPT 中的插件,以便我们可以研究它们在现实世界中的使用、影响以及安全和对齐方面的挑战——所有这些我们都必须做好,才能实现我们的使命.
自从我们推出 ChatGPT 以来,用户一直要求插件(许多开发人员正在尝试类似 的想法),因为它们可以解锁大量可能的用例。我们从一小部分用户开始,并计划随着我们了解更多(对于插件开发人员、ChatGPT 用户,以及在 alpha 期之后,希望将插件集成到他们的产品中的 API 用户)逐步推出更大规模的访问). 我们很高兴能够建立一个塑造人机交互范式未来的社区。
被邀请离开我们等候名单的插件开发人员可以使用我们的文档为 ChatGPT 构建插件,然后在向语言模型显示的提示中列出已启用的插件以及指导模型如何使用每个插件的文档。第一批插件由Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier创建。
图1:已有的插件
插件概述
今天的语言模型虽然对各种任务有用,但仍然有限。他们可以从中学习的唯一信息是他们的训练数据。此信息可能已过时,并且适用于所有应用程序。此外,语言模型唯一可以开箱即用的就是发出文本。此文本可能包含有用的说明,但要真正遵循这些说明,您需要另一个过程。
虽然不是一个完美的类比,但插件可以成为语言模型的“眼睛和耳朵”,使它们能够访问太新、太私人或太具体而无法包含在训练数据中的信息。为了响应用户的明确请求,插件还可以使语言模型代表他们执行安全、受限的操作,从而提高整个系统的实用性。
我们预计开放标准将会出现,以统一应用程序公开面向 AI 的界面的方式。我们正在对这样一个标准的外观进行早期尝试,我们正在寻找有兴趣与我们一起构建的开发人员的反馈。
今天,我们开始逐步为 ChatGPT 用户启用早期合作者的现有插件,首先是 ChatGPT Plus 订阅者。我们还开始推出开发人员为 ChatGPT 创建自己的插件的能力。
在接下来的几个月里,随着我们从部署中学习并继续改进我们的安全系统,我们将迭代这个协议,我们计划让使用 OpenAI 模型的开发人员能够将插件集成到他们自己的应用程序中,而不是 ChatGPT。
举例1:获取最新信息
图2:一个需要最新信息才可回答的问题
图3:回答
举例2:代码解释器
chatGPT既然会写代码,为什么不让它直接运行python代码呢?
我们为我们的模型提供了一个在 沙盒、防火墙执行环境中工作的 Python 解释器,以及一些临时磁盘空间。由我们的解释器插件运行的代码在一个持久会话中进行评估,该会话在聊天对话期间一直有效(具有上限超时),后续调用可以相互构建。我们支持将文件上传到当前对话工作区并下载您的工作结果。
图4:chatGPT调用python解释器的例子
图5:使用代码解释器绘制精确的数学图像
举例3:检索
开源检索插件使 ChatGPT 能够访问个人或组织信息源(经许可)。它允许用户通过提问或用自然语言表达需求,从他们的数据源中获取最相关的文档片段,例如文件、笔记、电子邮件或公共文档。
作为一个开源和自托管的解决方案,开发人员可以部署他们自己的插件版本并在 ChatGPT 上注册。该插件利用OpenAI 嵌入并允许开发人员选择矢量数据库(Milvus、Pinecone、Qdrant、Redis、Weaviate或Zilliz)来索引和搜索文档。信息源可以使用 webhooks 与数据库同步。
图6:去年提出了什么?
安全性和更广泛的影响
将语言模型连接到外部工具会带来新的机会,同时也会带来重大的新 风险。
插件提供了解决与大型语言模型相关的各种挑战的潜力,包括“幻觉”、跟上最近的事件,以及访问(经许可)专有信息源。通过集成对外部数据的显式访问——例如在线最新信息、基于代码的计算或自定义插件检索信息——语言模型可以通过基于证据的参考来加强它们的响应。
这些参考资料不仅增强了模型的实用性,还使用户能够评估模型输出的可信度并仔细检查其准确性,从而有可能减轻与我们最近的 GPT-4 系统卡片中讨论的过度依赖相关的风险。最后,插件的价值可能远远超出通过帮助用户处理各种新用例(从浏览产品目录到预订航班或订购食物)的现有限制。
与此同时,插件可能会采取有害或无意的行动,增加不法分子欺诈、误导或虐待他人的能力,从而增加安全挑战。通过增加可能的应用范围,插件可能会增加因模型在新领域中采取的错误或未对齐操作而产生负面后果的风险。从第一天起,这些因素就指导了我们插件平台的开发,我们实施了多项保障措施。