ChatGPT：智能助理的崛起与潜在威胁
文章主题：关键词：ChatGPT，人工智能，互联网应用，数据安全
出品｜虎嗅科技组
作者｜齐健
编辑｜陈伊凡
头图｜FlagStudio
在科幻电影《终结者》中，人类将人工智能天网整合到导弹防御系统中，最终导致世界末日。因此，有人开始担忧，当聊天机器人ChatGPT连接到互联网，是否会如同电影中的角色，逐渐发展成威胁世界的存在？是否也会像电影所展示的那样，逐步成为毁灭世界的终极大boss？这些问题引发了人们对人工智能技术潜在风险的讨论。
3月24日凌晨，OpenAI把ChatGPT接入了互联网，并给它安装了一些新的插件功能。
原有的ChatGPT训练数据仅截止至2021年9月，且一直未能连接到互联网。对于大部分人来说，它更像是一本2021年刚出版的百科全书，但对于文化程度较低的程序员来说，它提供了一个可以准确回答问题的工具，尽管它的实践能力较为平庸，只能进行问答操作。
如今，这个“程序员”正在升级。
接入互联网和插件功能的ChatGPT，可以完成对互联网实时信息的检索，例如，体育比分、股票价格、新闻等；可以调用个人及企业的知识库信息，例如，公司文件、个人笔记等；可以代表用户执行一些操作，例如，订机票、订餐厅等。
尽管OpenAI在官方公告中指出，其语言模型能够应对多种任务，但仍存在一定的局限性。该模型所依赖的训练数据仅为通用信息，且已逐渐过时。此外，语言模型的主要功能在于生成文本，然而这些生成的文本仍需用户进一步处理和应用。
一位AI大模型产品初创公司负责人告诉虎嗅，“ChatGPT太强，OpenAI的系统又太封闭，所以要在其中寻找商业机会，只能是围绕ChatGPT做应用层面的产品，以体验为核心竞争力。”
由此看来，随着ChatGPT接入互联网，一波应用将会在OpenAI建立的生态上成长起来。
ChatGPT多了“眼睛和耳朵”
在OpenAI的概念中，插件被视为类似于ChatGPT的“视觉和听觉”，它们能够获取在初始训练数据之外的第一手实时信息，甚至可以获取特定于某一特定领域的专业性知识，以及用户所需的个人信息。
ChatGPT除了具备“眼睛”和“耳朵”的功能外，其强大的能力还表现在它可以执行一些依赖于“嘴巴”的任务，这一特点同样未被OpenAI正式提及。通过安装相应的插件，ChatGPT能够直接响应用户的明确指令，从而转变成为用户个人的私人助手。在保证安全和受限的前提下，ChatGPT可以替代用户完成一些与采购和预订相关的操作。
最新的ChatGPT plugins（插件）功能，仍基于ChatGPT的聊天界面。用户可以在ChatGPT聊天页选择Plugins（插件），然后在插件市场中选择安装所需的插件。
目前ChatGPT已有的插件合作伙伴包括：
Expedia – 在线旅游预订网站。
FiscalNote – 提供政策情报和分析的公司。
Instacart – 在线杂货配送服务平台。
KAYAK – 在线旅行搜索引擎。
Klarna – 提供在线支付和金融服务的公司。
Milo – 在线购物搜索引擎，帮助用户在附近的商店中查找商品。
OpenTable – 在线餐厅预订平台。
Shopify – 电子商务平台，帮助商家创建和管理在线商店。
Slack – 团队协作和沟通工具。
Speak – 提供语音技术解决方案的公司。
Wolfram – 提供计算机代数系统、数据科学和人工智能技术的公司。
Zapier – 自动化工具，可将不同的应用程序和服务集成在一起。
以一名文章写作高手的视角，我们可以这样重新组织原文内容：OpenAI的实例表明，我们可以通过将任务分解为一系列简单的步骤来实现复杂的目标。例如，如果你想在周末预订一家素食餐厅，并在第二天为自己设计一份素食菜单，同时计算卡路里，你可以利用ChatGPT、OpenTable、Wofarm和Instacart等工具来轻松完成这些任务。首先，通过ChatGPT，你可以轻松地与餐厅进行交互，获取关于可用性和价格的信息。接着，利用OpenTable的数据科学插件，你可以快速找到最适合你预算的餐厅。然后，使用Wofarm插件，你可以在网上购买所有必要的食材，并确保它们符合你的饮食偏好。最后，Instacart插件可以帮助你跟踪你的卡路里摄入量，确保你在保持健康的同时享受美食。
下一步，你要向它提问，让它给你推荐素食餐厅和菜谱。然后，ChatGPT就会帮你选出合适的餐厅，推你链接。然后帮你设计一份素食菜谱，再计算出每份食材和这一餐总的卡路里，并在Instacart上帮你把需要的食材加购，把购物车链接反馈给你，等待你来下单支付。
由此，ChatGPT可以接入各种插件实现应用能力，例如还能在互联网上查询信息。
不过目前，该功能仍处在alpha测试阶段，多数用户还不能实际体验。OpenAI称，他们正在逐步面向ChatGPT的早期合作者推出插件，第一批用户将是ChatGPT Plus的订阅者。OpenAI还在面向开发人员招募测试者，开发ChatGPT的插件能力。
已经公布的开发者构建插件流程如下：
1. 创建清单文件并将其托管在指定目录下
2. 在ChatGPT UI中注册用户的插件
3. 用户激活用户的插件
4. 用户开始对话
ChatGPT plugins waitlist（插件候补名单）现在已经处在开放状态，接受开发人员和测试者的申请。在 alpha 期间，OpenAI将与用户和开发人员密切合作，对插件系统进行迭代，OpenAI在ChatGPT的插件文档中称“这（测试）可能会发生重大变化”。
接入互联网后，ChatGPT的下一步是什么
对于将ChatGPT接入互联网这件事，OpenAI仍有担忧。OpenAI在公告中强调了该模型存在的安全挑战，包括其限制（例如生成看似真实但微妙错误的文本）和能力（例如提供非法建议、双重用途能力和风险紧急行为）。
安全方面，OpenAI采取了一系列措施，并开始准备部署GPT-4。其中包括OpenAI在测试、模型级别更改、产品和系统级别干预（例如监测和政策）以及外部专家参与方面的工作。不过，OpenAI也表示，虽然目前的措施和流程可以改变GPT-4的行为，并防止某些类型的误用，但在某些情况下它们仍然是“有限并且脆弱”的
针对这样的问题，OpenAI在内部和外部合作者中开展红队演练（一种模拟攻击的安全测试方法），发现了可能出现的高风险应用场景。例如，OpenAI的红队发现了插件的一些问题，例如在没有安全措施的情况下，可能会出现发送欺诈和垃圾邮件、绕过安全限制或滥用发送到插件的信息。
目前OpenAI正在鼓励对安全风险有兴趣的研究人员参与到“研究人员访问计划”中，并邀请了开发人员和研究人员提交与插件相关的安全和功能评估。
除了安全性风险，ChatGPT的另一个使用障碍是输入内容量的限制。无论是连接互联网还是插件功能，仍然只能输入有限的token数。目前ChatGPT最大输入token是4097（中文也就是3000多字），无论多少轮回答，只要输入数据量超过这个上限，它就无法回答了。对于很多文本分析、处理工作来说，4000多个字符显然不够用。不过，GPT-4的输入上限提高了2.5万token，这可能会在未来的插件、联网功能中大幅提高可用性的上限，拓展插件和API的功能外延。
事实上，如果只是单纯地让ChatGPT接入互联网，那么它能实现的下一步能力还是很有限的。但结合更多其他的小模型，专业数据库，以及插件实现具体的AI功能，比如前边提到的数学计算功能，则可以用AI改造很多应用场景。当OpenAI的大模型进一步升级到GPT-4之后，融合多模态的识图，以及更多的输入数据量，人工智能商业化的“可能性”会大大提升。
在GitHub上的众多开源项目中，很多开发者早已尝试过将互联网数据输入给ChatGPT，但这些项目大多只能是将互联网数据和问题一起丢给ChatGPT得到相关数据的问答反馈，并不能真正实现ChatGPT与互联网的数据流通，也无法提供交互式的访问体验，恐怕还要等官方正式上线。
OpenAI要来中国赚钱了？
虎嗅最近注意到一个有趣的信息，欧爱运营有限责任公司（OPENAI OPCO, LLC）在中国工商部门申请注册了“GPT-4”商标，国际分类为科学仪器，当前商标状态为申请中。此前，该公司还申请注册了一枚国际分类为网站服务的“WHISPER”商标，也就是OpenAI最近刚刚开放API的语音识别模型。
GPT-4商标注册中/企查查
这或许意味着，OpenAI的商业化之路，可能马上就要走到中国了。然而，OpenAI要想踩进中国市场并不容易。
众所周知，ChatGPT官方并不支持来自中国地区的注册和访问。而对于很多中国用户来说，因为要实现ChatGPT的功能需要大量数据，所涉及的业务也大多是数据密集型产业，然而数据出海、数据安全等问题，对于多数国内企业来说尤为敏感。
但另一方面，在看到了ChatGPT的强大功能之后，中国市场对ChatGPT类的技术和产品的需求异常旺盛。
OpenAI要确实落地中国，可能会有两条路，一是像很多在中国落地业务的技术公司一样，在未来尝试以合资公司的形式开展业务。另一个可能是通过微软Azure OpenAI的能力，通过云服务的形式，给中国企业提供AI大模型的底层能力。
对于OpenAI来说，中国的市场的体量摆在那儿，无论是优化模型，还是讨论未来的商业化，都很难避开中国市场。不过，要真正实现商业价值，可能还是要依靠今天开放的插件和联网功能，毕竟互联网时代，大家都在争抢一个“入口”。而ChatGPT类的产品和技术可能正是下一代的“入口”。
最早的互联网入口是电脑，是网站。用户从门户网站、搜索引擎、电商平台以及即时通讯工具，这些入口接入互联网，也接入了承载商业价值的平台，那些留住了大量用户的平台，自然也就成为了今天的互联网巨头。
此后，智能手机开启了移动互联网时代，第一代的入口是智能手机，从iOS、安卓的应用市场中，生长出了蕴含巨大商业价值的游戏以及短视频、直播平台。
智能手机之后，人们开始寻找新的入口，从智能家居AIoT，到商业场景的服务机器人，再到出行场景的电动汽车，甚至是元宇宙、AR眼镜。虽然尝试不断，但始终没有一个革命性的新“入口”，像智能手机那样改变游戏规则。
然而，ChatGPT的出现，似乎正在改变游戏规则。因为无论ChatGPT生长在哪，他的底层技术无疑给用户提供了革命性的“接入体验”。就像Siri刚刚上线时，人们认为iPhone正在改变游戏规则一样。
英伟达CEO黄仁勋反复强调，现在就是“AI的iPhone时刻”。
估计用不了多久，ChatGPT或者是其后的GPT-4、GPT-5，甚至GPT-6和GPT-7，就将为互联网经济打开一个新的“入口”。
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
