一夜之间,OpenAI迎来重大更新降价!
当地时间6月13日,OpenAI官网宣布“更新更可调API模型、函数调用函数(Function calling)、更长的上下文和更低的价格”,发布了一个更高效、成本更低的版本。
最重要的更新是调用函数的能力。
根据 OpenAI 的说法,开发者现在可以向 gpt-4-0613 和 gpt-3.5-turbo-0613 两个模型描述函数,让模型智能选择输出一个 JSON(JavaScript Object Notation,一种数据交换的文本格式)对象,调用这些函数。如果 GPT 功能与外部工具或 API 连接,则此方法更可靠。
在Nvidia首席科学家Jim Fan看来,函数调用=更好地使用API工具=更强大的LLM和数字执行器(Digital Actuator)。
简单来说,GPT不再需要开发者描述复杂的提示。它可以决定是否使用外部工具来解决问题,这不仅显着提高了响应速度,而且大大降低了出错的可能性。
比如用户问GPT:今天天气怎么样,它会自动调用第三方天气API,获取相关数据并给出准确的回答。
开发商也为大幅降价而欢呼。
官网公告显示,不同版本降价幅度不同。最先进、用户最多的OpenAI嵌入模型Text-embedding-ada-002降价75%;用户最多的聊天模型gpt-3.5-turbo降价25%。 .
此外,OpenAI还推出了gpt4-16k的替代版本——gpt-3.5-turbo-16k,价格为每1000个代币输入0.003美元,相当于降价95%!
值得注意的是gpt-3.5-turbo-16k可以实现一个context 16000个token的长度,相当于普通版gpt-3.5-turbo的4倍。而且在价格上,gpt-3.5-turbo-16k也只是gpt-3.5-turbo的两倍。
但是,该模型一次只能读取大约 20 页文本,明显低于 AI 初创公司 Anthropic 的旗舰模型,后者可以处理数百页文本。
同时,OpenAI宣布将在未来几周邀请更多人试用GPT-4。
众所周知,像ChatGPT这样的大型语言模型的开发成本是巨大的。现在OpenAI一边升级模型一边降价,底气何在?
当地时间周二,OpenAI CEO Sam Altman 在新加坡管理大学的一次演讲中表示,OpenAI 每三个月左右就能将推理成本降低 90%。
我们希望不断降低情报成本。我们想让这些东西变得如此便宜,以至于您甚至不必三思而后行。
“我们计划在未来继续大幅削减成本。我们必须继续取得研究突破才能做到这一点,”他补充道。
Altman 还说:
我们有足够复杂的语言(模型)和足够强大的计算机,我们可以把 AI 做得越来越大。
我们会让模型更有效率。我们需要创造更多的筹码。我认为这显然是世界想要的,市场也会提供。
澳洲中文论坛热点
- 悉尼部份城铁将封闭一年,华人区受影响!只能乘巴士(组图)
- 据《逐日电讯报》报导,从明年年中开始,因为从Bankstown和Sydenham的城铁将因Metro South West革新名目而
- 联邦政客们具有多少房产?
- 据本月早些时分报导,绿党副首领、参议员Mehreen Faruqi已获准在Port Macquarie联系其房产并建造三栋投资联