开源

🚀 开源AI新突破:OpenOrca Platypus2模型来袭!-open-orca-platypus2

logo

ollama/open-orca-platypus2

Local deployment of the model
logo


摘要

OpenOrca Platypus2模型,一个基于Llama 2的13亿参数开源NLP模型,以其卓越的性能和易用性,成为聊天、文本和代码生成的全能助手。

项目图片

内容

🌟 OpenOrca Platypus2模型,一个13亿参数的开源NLP神器,由OpenOrca OpenChat和Garage-bAInd Platypus2-13B模型合并而来,基于Llama 2模型微调。这款全能型模型,无论是聊天、文本生成还是代码生成,都能轻松应对。

🛠️ 使用起来超简单,启动Ollama服务器,一条命令即可运行模型。CLI模式下,只需安装Ollama并运行,如果模型未下载,会自动拉取。

💾 但要注意,13b模型至少需要16GB RAM。如果遇到内存问题,试试q4模型,或者关闭其他占用内存的程序。

🔍 默认使用4-bit量化,想要更高精度?试试其他量化级别的模型吧!

Run the model locally

Id

6f0b7ebe895b

950e73357fe8

945f02ef0947

7acb4af27933

be5b790d30b0

0c91c25a94c2

6f0b7ebe895b

387d1045d74c

54a672fea3c8

f4de4beb0df0

023eaa0bbf81

a94fe59f659f

a647dbf9ef57

c438f94f7300

ebc8fa531884

932ede153548

Model

13b

13b-fp16

13b-q2_K

13b-q3_K_L

13b-q3_K_M

13b-q3_K_S

13b-q4_0

13b-q4_1

13b-q4_K_M

13b-q4_K_S

13b-q5_0

13b-q5_1

13b-q5_K_M

13b-q5_K_S

13b-q6_K

13b-q8_0

Size

7.4GB

26GB

5.4GB

6.9GB

6.3GB

5.7GB

7.4GB

8.2GB

7.9GB

7.4GB

9.0GB

9.8GB

9.2GB

9.0GB

11GB

14GB


关键词

自然语言处理 文本生成 代码生成

分类

聊天应用 开发辅助 效率提升
正文到此结束
本文目录