KeyPoints
GPT-4升级版GPT-4Turbo来了,上下文窗口达到128k,为GPT-4的4倍;
OpenAI还降低了几乎所有模型的API使用价格,整体便宜了一半多;
GPT-4系列的多模态能力向B端用户开放;
每个人都可以定制自己的ChatGPT,从而让GPT成为一个家族——GPTs;
类似AppStore的GPT商店11月月底上线。
11月7日,OpenAI首届开发者大会正式在旧金山召开。整个硅谷的开发者似乎都聚集到了这里。2007年之后,硅谷就没有对任何活动如此兴奋过,那一年,乔布斯的iPhone改变了世界。
就在一年前的11月30日,OpenAI发布了ChatGPT。这个AI驱动的聊天机器人在两个月内创纪录地吸引了1亿用户,成为有史以来用户增长速度最快的软件。不过新鲜感退去后,ChatGPT的增长也在逐渐放缓,这也是所有生成式AI产品都会面临的问题:如何获得新的增长动力?
今天的开发者大会上,OpenAI给出了答案:让生成式AI更便宜、更定制化,且无所不在。
GPT-4升级版GPT-4Turbo来了,并且大降价
两个月前,OpenAI宣布将召开首届开发者大会时,OpenAICEO奥尔特曼(SamAltman)声称不会发布GPT-5、GPT-4.5或者相关的大语言模型,他没有食言,不过,今天他还是发布了一个新模型——GPT-4的升级版GPT-4Turbo。
相较于GPT-4,GPT-4Turbo有更长的上下文窗口、更快的输出速度,使用成本也更低:
①更长的上下文窗口:GPT-4Turbo拥有128K(此前为32k)的上下文长度,这是目前硅谷所有已商用大模型中最长的,超过之前由Claude2保持的100K的纪录。128K使得GPT-4Turbo一次就能读取或答复20万汉字长度的内容,差不多是两本《活着》或是一本《骆驼祥子》的长度,这不仅意味着你可以直接把一本中篇小说喂给它,让它帮你总结提炼,还意味着它在处理问题时的准确率更高、记忆力更强。
中国的大模型训练者近期也在争夺这一指标,就在一周前,百川智能发布了Baichuan2-192K大模型,声称其上下文窗口长度最高可支持192K个token(注:相当于14.4万个单词,不过百川智能称该模型能够处理约35万个汉字),比GPT-4Turbo和Claude2都要长。
②更精确的控制:在使用GPT-4Turbo的「函数调用」等特殊指令时,结果反馈会更加精准。此外还有一个名叫JSON模式的功能,打开这个模式后,GPT-4Turbo就会以你要求的格式回复你了。
③更丰富的知识:GPT-4Turbo添加了新的训练数据,数据截止日期更新为2023年4月。在此之前,当你询问ChatGPT有关最近发生的事情时,它都回复「训练数据截至2021年9月」,那会儿,这个日期以后的一切信息都没有被添加到模型里。
④向B端用户开放多模态能力:GPT-4系列模型的多模态能力,现在也可以通过GPT-4Turbo的API(ApplicationProgrammingInterface,API)使用,让企业客户通过调用API构建自己的多模态应用。
例如专门为盲人开发的BeMyEye应用就使用这个API,通过手机摄像头它能帮助盲人识别物品。不仅如此,新的「文本转语音」模型与新的「语音转文本」模型都可以通过API使用,且效果都得到了提升。
⑤企业用户可以自定义模型:该服务将允许客户与OpenAI研究人员一起在特定领域训练模型,从而生成独一无二的定制模型。目前该项目仅对企业客户开放,OpenAI表示名额有限,且价格不菲。
⑥放宽速率限制:所有付费GPT-4用户使用模型时的每分钟tokens上限都提高了一倍,意味着未来你可以在一分钟内更频繁地向GPT提问并要求答复。
除了推出具有这么多新功能的迭代模型,OpenAI还降低了几乎所有模型的API使用价格,整体便宜了一半多。例如GPT-4之前每读取1000tokens长度的内容的价格是0.03美元,现在则是0.01美元;之前每答复1000tokens长度内容的价格是0.06美元,现在降至0.03美元——低价有望吸引更多开发者和用户。今年夏季之后,不少开发者都遭遇成本挑战。微软旗下加入了生成式AI功能的GitHub被爆亏损,虽然微软后来否认了,不过对于用户每月30美元的订阅费来说,也是不菲的价格。
每个人都可以自制专属ChatGPT
今天的OpenAI开发者大会上最令人惊艳的还不是上述迭代模型,而是「GPTs」,用SamAltman的话说就是,每个人都可以定制自己的ChatGPT,从而让GPT成为一个家族。
该定制服务拥有一个专门页面「创建GPT」(GPTBuilder),页面上的3个按钮「知识」(Knowledge)、「功能」(Capabilities)和「行动」(Actions)使得用户可以通过点击一步步构建自己的GPT。
其中,点击「知识」按钮可以上传用户希望模型学习的本地数据;「功能」按钮则让GPT可以像Agent(智能体)一样执行具体工作,比如访问网页、生成图片和写代码。
创建一个GPT并不复杂,大部分时候只需要以对话的方式告诉ChatGPT你希望定制GPT可以实现什么样的功能,然后再从「创建GPT」菜单中选择需要为此加载的资源和能力即可。是创建一个GPT作为你的代码纠错助手,还是创建一个能够教授桌面游戏规则的教练,这些都取决于你给GPT下达了什么要求、提供了什么知识。
现场演示中,SamAltman就自制了一