价格骤降96%~97%!OpenAI“杀入”小模型,GPT-4o mini功能更强、成本更低,系首个使用“指令层级”安全策略的AI模型
每经记者 蔡鼎 每经编辑 兰素英
美东时间7月18日(周四),OpenAI正式推出新一代入门级别人工智能模型“GPT-4o mini”,称这款新模型是“功能最强、性价比最高的小参数模型”,旨在服务更广泛的客户群体。这也意味着开发人员如今有了一种轻量级且廉价的工具,让他们能够以更低的成本构建AI应用程序。
外媒报道中称,目前,GPT-4o mini模型的应用程序编程接口支持文本和视觉,未来将支持文本、图像、视频和音频的输入和输出。
更重要的是,最新的“GPT-4o mini”比GPT-4o便宜了96%~97%,比起GPT-3.5 Turbo也要便宜60%~70%。正因如此,随着GPT-4o mini上架,GPT-3.5 Turbo的历史使命到此结束。OpenAI还表示,GPT-4o mini是首个使用其全新安全策略“指令层级”的AI模型。
对于为何未能更早推出“小而精”的AI模型,OpenAI的API产品负责人Olivier Godement表示,这纯粹是“优先级”的问题,而随着时间的推移,OpenAI注意到开发人员越来越渴望使用较小的模型,这也让公司决定投入资源开发GPT-4o mini。
GPT-4o mini:比GPT-4o便宜96%,将取代GPT-3.5 Turbo
据OpenAI,GPT-4o mini的API价格将会是15美分/100万Tokens输入,以及60美分/100万Tokens输出。上下文窗口依然是12.8万个Tokens,知识截止日期为2023年10月。公司拒绝透露新模型的参数量大小,仅表示与市面上类似的AI小模型(Claude Haiku、 Gemini 1.5 Flash等)处于同一个级别。
作为对比,GPT-4o的百万Tokens输入和输出价格分别是5美元和15美元,之前的入门款模型GPT-3.5 Turbo定价分别是0.5美元和1.5美元。这就是说,最新的“迷你模型”的价格比GPT-4o便宜了96%~97%,比起GPT-3.5 Turbo也要便宜60%~70%。正因如此,随着GPT-4o mini上架,GPT-3.5 Turbo的历史使命到此结束。
根据Artificial Analysis的统计,GPT-4o mini已经达到美国AI公司主流“小模型”里面价格最低的位置,比起Anthropic、谷歌的同类型竞品都要便宜一截。
OpenAI称,最新的GPT-4o mini从周四起向ChatGPT的免费用户以及ChatGPT Plus和ChatGPT Team的订阅用户开放,并将在下周向ChatGPT Enterprise用户开放。GPT-4o mini将取代ChatGPT中的旧模型GPT-3.5 Turbo。
OpenAI表示,GPT-4o mini目前在聊天偏好上表现优于GPT-4,在大规模多任务语言理解测试(MMLU)中的得分为82%。(注:MMLU是一个文本智能和推理基准,用于评估语言模型的能力。MMLU分数越高,表明该模型可以更好地理解和使用各种领域的语言,从而增强现实世界的应用。)
而在这项测试中,同为小参数模型的谷歌Gemini Flash得分为77.9%,Claude Haiku得分为73.8%。在更大参数的模型中,GPT-3.5在这项测试中的得分为70%,GPT-4o得分为88.7%,谷歌Gemini Ultra据称取得了有史以来最高分(90%)。
值得注意的是,研究人员对像MMLU这样的基准测试持谨慎态度,因为不同公司的管理方式略有不同,因此不同模型的得分难以比较。还有一个问题是,模型的数据库中可能有这些答案,也就是说其可以作弊,而且通常没有第三方评估人员参与这个过程。
入局小模型的背后
外媒报道中称,GPT-4o mini的推出也是OpenAI推动“多模态”(multimodality)技术发展努力的一部分,多模态指的是在一个大模型中提供多种类型的AI生成媒体,如文本、图像、音频和视频。
不仅如此,这一全新小模型也承载着帮助OpenAI走入更广泛的客户群体的希望。OpenAI在今年早些时候的最新一轮融资过后,估值已经超过800以美元。虽然是全球生成式AI估值最高的独角兽,但OpenAI仍面临着压力:一方面要保持其在生成式AI市场的领先地位,另一方面,由于其在AI基础设施上投入了大量资金以构建和训练模型,因此还要想方设法盈利。
GPT-4o mini为开发人员提供一种轻量级且廉价的工具,让他们能够开发出所有的应用程序和工具,相对而言,GPT-4这种更大、更昂贵的模型是他们无法负担得起的。此前,许多开发人员会转向Claude 3 Haiku或Gemini 1.5 Flash,而不是支付运行最强大的模型所需的高昂计算成本。
而且,GPT-4o mini是首个使用OpenAI全新安全策略“指令层级”的AI模型。这种方法的目的是使AI系统优先处理某些指令——例如来自公司的指令——以使人们更难让工具做不该做的事情。
OpenAI的API产品负责人Olivier Godement在接受媒体采访时解释了为何该公司未能更早推出“小而精”的AI模型,他说,这纯粹是“优先级”的问题,因为OpenAI专注于创建更大、更好的模型,如GPT-4,这需要大量的人力和计算资源。随着时间的推移,OpenAI注意到开发人员越来越渴望使用较小的模型,因此公司决定现在是投入资源开发GPT-4o mini的时机。
“我们的使命是使最前沿技术、构建最强大、最有用的应用程序,我们当然希望继续做前沿模型,推动技术进步,”OpenAI的API产品负责人Olivier Godement在接受媒体采访时说。“但我们也希望拥有最好的小模型,我认为它会非常受欢迎。”
“我认为GPT-4o mini真正体现了OpenAI让AI更加普及的使命。如果我们希望AI惠及世界的每一个角落,每一个行业,每一个应用,我们必须让AI更加实惠。”Godement说道。
目前,金融科技初创公司Ramp已经使用GPT-4o mini构建了一个工具,可以提取收据上的费用数据。用户无须费力地浏览文本框,只需上传一张收据的图片,该模型就会进行分类。
电子邮件客户端Superhuman也对GPT-4o mini进行了测试,并用它创建了一个自动建议邮件回复的功能。