开源

🚀DeepSeek-V2:开源语言模型的新突破🌟

logo

ollama/deepseek-v2

Local deployment of the model
logo


摘要

DeepSeek-V2是一个高效、双语的开源语言模型,以其出色的性能和资源利用效率在多个领域受到关注。

项目图片

内容

DeepSeek-V2,由DeepSeek AI开发的开源语言模型,以其出色的性价比和双语能力(中英)脱颖而出。🌐 它以Mixture-of-Experts(MoE)框架构建,支持高达128K的上下文长度,同时保持计算效率。🔍 在文本生成、对话系统、编程场景和数学问题解决等领域表现卓越。🏆 16B Lite和236B两种大小,满足不同需求。📚

DeepSeek-V2不仅在性能上备受好评,其开源特性也让其在社区中热度不减。🔥 它不仅适用于创建聊天机器人和内容生成工具,还能帮助开发者将AI功能集成到项目中。🛠️ 尽管在某些平台上性能受限,但DeepSeek AI提供了专门的vllm解决方案来优化性能。💡 未来,DeepSeek-V3有望进一步提升性能,降低计算成本。🌠

Run the model locally

Id

7c8c332f2df7

459de16b5a9e

15c96490eeee

5868c72b4e1f

c8183500d92e

f6da52f6d22c

d36b0e4f46c1

7c8c332f2df7

af64dfc98c26

52fe6d77050a

f605f2eeaf9e

b01c353f491f

9cd31f73558a

597226602255

d904df1d3b59

94a6c57d6c9d

1d62ef756269

190dd01cb12e

ab49a8da3233

8b50480a0f69

ed3e5b18dfdf

0f85c13f95a5

459de16b5a9e

8ba51e080b59

dc16a9f67701

89b6c7579a77

d0c79ad6c4d8

bd9e0b0c8aa1

baeb44164dcf

26f0f5933712

40e1adc07959

e0ae3350cb1a

7c8c332f2df7

Model

16b

236b

16b-lite-chat-fp16

16b-lite-chat-q2_K

16b-lite-chat-q3_K_L

16b-lite-chat-q3_K_M

16b-lite-chat-q3_K_S

16b-lite-chat-q4_0

16b-lite-chat-q4_1

16b-lite-chat-q4_K_M

16b-lite-chat-q4_K_S

16b-lite-chat-q5_0

16b-lite-chat-q5_1

16b-lite-chat-q5_K_M

16b-lite-chat-q5_K_S

16b-lite-chat-q6_K

16b-lite-chat-q8_0

236b-chat-fp16

236b-chat-q2_K

236b-chat-q3_K_L

236b-chat-q3_K_M

236b-chat-q3_K_S

236b-chat-q4_0

236b-chat-q4_1

236b-chat-q4_K_M

236b-chat-q4_K_S

236b-chat-q5_0

236b-chat-q5_1

236b-chat-q5_K_M

236b-chat-q5_K_S

236b-chat-q6_K

236b-chat-q8_0

lite

Size

8.9GB

133GB

31GB

6.4GB

8.5GB

8.1GB

7.5GB

8.9GB

9.9GB

10GB

9.5GB

11GB

12GB

12GB

11GB

14GB

17GB

472GB

86GB

122GB

113GB

102GB

133GB

148GB

142GB

134GB

162GB

177GB

167GB

162GB

194GB

251GB

8.9GB


关键词

自然语言处理 文本生成 对话系统

分类

内容创作 客服聊天 虚拟助手
正文到此结束
本文目录