Meta发布最新开源大模型Llama 3
时间:2024-04-19 00:00:00来自:中国证券网字号:T  T

上证报中国证券网讯当地时间4月18日,Meta发布其最新开源大模型Llama3,提供8B和70B的预训练和指令微调版本。

根据Meta官方介绍,Llama3在两个定制的24KGPU集群上基于超过15T的数据进行训练,这比Llama2使用的数据集大7倍,代码多4倍,并且Llama3支持8K上下文长度,是Llama2容量的2倍。并且,Meta还放出Llama3两个版本与谷歌Gemma、谷歌Gemini、Mistral、Anthropic的Claude3等竞争对手的参数对比。

MetaCEO扎克伯格介绍,MetaAI将集成到Meta旗下各大产品WhatsApp、Instagram、Facebook和Messenger顶部的搜索框中,并建立一个网站meta.ai,使其更易于使用。

Meta首席科学家YannLeCun称,未来几个月,Llama将继续推出更多版本,也将很快释放Llama3的研究论文。英伟达高级科学家JimFan认为,之后可能会发布的Llama3-400B以上版本将成为某种“分水岭”,开源社区将能用上GPT-4级别模型。

本站郑重声明:所载数据、文章仅供参考,使用前请核实,风险自负。
© 2008 北京济安金信科技有限公司 北京合富永道财经文化传媒有限公司
京ICP备12044478号 版权所有 复制必究
本站由 北京济安金信科技有限公司 提供技术支持