DeepSeekMoE 145B Base
DeepSeekMoE 145B Base 是由 DeepSeek-AI 发布的 AI 模型,发布时间为 2024-01-11,定位为 基础大模型,参数规模约为 1446.0B,上下文长度为 4K,模型文件大小约 288GB,采用 DEEPSEEK LICENSE AGREEMENT 许可。
数据优先来自官方发布(GitHub、Hugging Face、论文),其次为评测基准官方结果,最后为第三方评测机构数据。 了解数据收集方法
DeepSeekMoE是幻方量化旗下大模型企业DeepSeek开源的一个混合专家大模型,也是目前已知的中国第一个开源的MoE大模型。
DeepSeekMoE 145B Base是其1446亿参数的版本。
欢迎关注 DataLearner 官方微信,获得最新 AI 技术推送
