🚀 开源AI新突破:OpenOrca Platypus2模型来袭!-open-orca-platypus2
摘要
OpenOrca Platypus2模型,一个基于Llama 2的13亿参数开源NLP模型,以其卓越的性能和易用性,成为聊天、文本和代码生成的全能助手。

内容
🌟 OpenOrca Platypus2模型,一个13亿参数的开源NLP神器,由OpenOrca OpenChat和Garage-bAInd Platypus2-13B模型合并而来,基于Llama 2模型微调。这款全能型模型,无论是聊天、文本生成还是代码生成,都能轻松应对。
🛠️ 使用起来超简单,启动Ollama服务器,一条命令即可运行模型。CLI模式下,只需安装Ollama并运行,如果模型未下载,会自动拉取。
💾 但要注意,13b模型至少需要16GB RAM。如果遇到内存问题,试试q4模型,或者关闭其他占用内存的程序。
🔍 默认使用4-bit量化,想要更高精度?试试其他量化级别的模型吧!
Run the model locally
Id
6f0b7ebe895b
950e73357fe8
945f02ef0947
7acb4af27933
be5b790d30b0
0c91c25a94c2
6f0b7ebe895b
387d1045d74c
54a672fea3c8
f4de4beb0df0
023eaa0bbf81
a94fe59f659f
a647dbf9ef57
c438f94f7300
ebc8fa531884
932ede153548
Model
13b
13b-fp16
13b-q2_K
13b-q3_K_L
13b-q3_K_M
13b-q3_K_S
13b-q4_0
13b-q4_1
13b-q4_K_M
13b-q4_K_S
13b-q5_0
13b-q5_1
13b-q5_K_M
13b-q5_K_S
13b-q6_K
13b-q8_0
Size
7.4GB
26GB
5.4GB
6.9GB
6.3GB
5.7GB
7.4GB
8.2GB
7.9GB
7.4GB
9.0GB
9.8GB
9.2GB
9.0GB
11GB
14GB