73亿参数顶级开源模型Mistral-7B升级到v0.2版本,性能与上下文长度均有增强。
Mistral-7B是由MistralAI开源的一个73亿参数规模的大语言模型,最早在2023年9月底开源。因为其良好的性能和友好的开源协议被很多人使用。今天,这个模型升级到来v0.2版本Mistral-7B-v0.2。基于Mistral-7B-v0.2进行指令微调的模型 Mistral-7B-Instruct-v0.2在2023年11月11日公布,而这个基座模型则是在2023年3月24日开源。

Mistral-7B-v0.2简介
Mistral-7B-v0.2是MistralAI最新开源的70亿参数基座大语言模型,是此前Mistral-7B-v0.1的升级版本。
Mistral-7B-v0.2直接在Mistral Hackthon开源,并提供下载链接,并没有在官方做任何宣传和比较,但是开源了继续基于Mistral-7B-v0.2预训练或者微调的代码以及数据集样式,具体参考:https://www.datalearner.com/ai-models/pretrained-models/mistral-7B-v0_2
除了这个预训练结果外,目前官方没有其它介绍。
在2023年9月27日,MistralAI宣布以Apache2.0开源协议开源Mistral 7B。当时,Mistral 7B已经在多项开源测试的表现中超过了Llama1 34B和Llama2 13B。并且代码能力也很强,支持欧洲多国语言,进而受到了广泛的关注。同时发布的还有基于Mistral 7B微调的Mistral 7B Instruct-v0.1版本。具体信息参考: https://www.datalearner.com/ai-models/pretrained-models/Mistral-7B


