🚀DeepSeek-V2:开源语言模型的新突破🌟
摘要
DeepSeek-V2是一个高效、双语的开源语言模型,以其出色的性能和资源利用效率在多个领域受到关注。

内容
DeepSeek-V2,由DeepSeek AI开发的开源语言模型,以其出色的性价比和双语能力(中英)脱颖而出。🌐 它以Mixture-of-Experts(MoE)框架构建,支持高达128K的上下文长度,同时保持计算效率。🔍 在文本生成、对话系统、编程场景和数学问题解决等领域表现卓越。🏆 16B Lite和236B两种大小,满足不同需求。📚
DeepSeek-V2不仅在性能上备受好评,其开源特性也让其在社区中热度不减。🔥 它不仅适用于创建聊天机器人和内容生成工具,还能帮助开发者将AI功能集成到项目中。🛠️ 尽管在某些平台上性能受限,但DeepSeek AI提供了专门的vllm解决方案来优化性能。💡 未来,DeepSeek-V3有望进一步提升性能,降低计算成本。🌠
Run the model locally
Id
7c8c332f2df7
459de16b5a9e
15c96490eeee
5868c72b4e1f
c8183500d92e
f6da52f6d22c
d36b0e4f46c1
7c8c332f2df7
af64dfc98c26
52fe6d77050a
f605f2eeaf9e
b01c353f491f
9cd31f73558a
597226602255
d904df1d3b59
94a6c57d6c9d
1d62ef756269
190dd01cb12e
ab49a8da3233
8b50480a0f69
ed3e5b18dfdf
0f85c13f95a5
459de16b5a9e
8ba51e080b59
dc16a9f67701
89b6c7579a77
d0c79ad6c4d8
bd9e0b0c8aa1
baeb44164dcf
26f0f5933712
40e1adc07959
e0ae3350cb1a
7c8c332f2df7
Model
16b
236b
16b-lite-chat-fp16
16b-lite-chat-q2_K
16b-lite-chat-q3_K_L
16b-lite-chat-q3_K_M
16b-lite-chat-q3_K_S
16b-lite-chat-q4_0
16b-lite-chat-q4_1
16b-lite-chat-q4_K_M
16b-lite-chat-q4_K_S
16b-lite-chat-q5_0
16b-lite-chat-q5_1
16b-lite-chat-q5_K_M
16b-lite-chat-q5_K_S
16b-lite-chat-q6_K
16b-lite-chat-q8_0
236b-chat-fp16
236b-chat-q2_K
236b-chat-q3_K_L
236b-chat-q3_K_M
236b-chat-q3_K_S
236b-chat-q4_0
236b-chat-q4_1
236b-chat-q4_K_M
236b-chat-q4_K_S
236b-chat-q5_0
236b-chat-q5_1
236b-chat-q5_K_M
236b-chat-q5_K_S
236b-chat-q6_K
236b-chat-q8_0
lite
Size
8.9GB
133GB
31GB
6.4GB
8.5GB
8.1GB
7.5GB
8.9GB
9.9GB
10GB
9.5GB
11GB
12GB
12GB
11GB
14GB
17GB
472GB
86GB
122GB
113GB
102GB
133GB
148GB
142GB
134GB
162GB
177GB
167GB
162GB
194GB
251GB
8.9GB