🚀探索Orca Mini:开源AI新势力🌟-orca-mini
摘要
Orca Mini是一个高性能的开源语言模型,以其在特定任务上超越Vicuna和接近ChatGPT质量的表现而受到关注。它易于部署,适用于多种参数规模,是AI领域的新宠。

内容
Orca Mini,一个由Hugging Face开发的开源语言模型,以其出色的性能和易用性在AI界崭露头角。🌐 它基于Llama和Llama 2模型,通过Orca风格数据集训练,适用于各种参数规模,从3亿到70亿不等。📈 使用CLI或API,Orca Mini能快速响应文本生成任务,如聊天机器人和内容创作。🤖 它在性能上媲美Text-davinci-003,保留ChatGPT约88%的质量,虽不及GPT-4,但在特定任务上超越了Vicuna。🏆
Orca Mini以其生成能力、推理和理解能力受到社区好评。📊 它不仅易于部署,还能在消费级GPU上运行,同时保持大型模型的功能。🎮 无论是需要快速响应的客服聊天,还是创意内容的生成,Orca Mini都能满足你的需求。🎉
Run the model locally
Id
2dbd9f439647
9c9618e2e895
1b4877c90807
f184c0860491
ff60f06ce009
13923842f12d
93a769d0dbc0
1cf7f5e0163b
8e57088234d8
d19fe19c0624
06f127c8a31d
b13d43a9ea63
0b621a2c68ae
d345f07d4365
4c782fea6ce4
9880bed763a2
6531b87ef17f
c3ec450a59ec
bab5d684679e
5fc4f577304e
77cd66457900
039cea827fd3
ced974fd937d
e87e20ccd984
3e438b472999
4ad005e5c90a
0c79490ff43d
579e615a7534
988d2d90b3b0
b293ce5356ed
402e1a70ed67
f4332ae13e4a
12cfa06b9762
17a9f01a8364
1b4877c90807
80bfde71168d
18c6529c1b31
1e0ea2702693
cd15b977684b
fb5fe5934d97
1b4877c90807
bcffade49332
47eb784e0b94
e71486a020f5
4d0b6a1fe56b
bc17480cecbd
e0062a6345f2
25597b7203a0
c67733d5f521
22202d7bf265
f85802731409
2dbd9f439647
baaaf6d7885b
6ab5f5489601
4ad394056d0b
e31654abca22
f184c0860491
423e70feb86a
28e06621edf0
f7b928c050eb
1d12e3416527
5df07f064756
f184c0860491
210abd8a7b7a
89313d84c131
7f5fe7119c64
0873d4fc8a05
614a4b7f8c2d
f6557e9aa182
de93e5b2d85f
cfdca07d69a0
8f078884138d
8b7dcffd0a8a
629f61a16f8d
678f10ad8ea6
6f68c8ff61cc
32d73761c966
52f6f01e3ce0
a8d2800046a7
913e18f06270
ffb8dddf6fab
4ab6288e4914
2d46758c14de
c7ba573e08a3
3817a43d9eba
637ee36ed8eb
51fea4a8a2ce
1a716fc27577
cf92e423fb3c
07065b6e4ff7
2b42986f156b
8fa2889ecb51
db096cc7b3f9
aee6823a849a
eb586ac4d97f
7ed973ab6559
2c7a2952ffe9
e9d24fc8a9ee
3d950d4864ea
e38ccaaaed8a
d55eb108b6d2
755b6f0925e9
9c9618e2e895
089339690b0a
1b17d4503dd9
0c6a46e8fc6d
5a6e8b1fe604
f876ae8b69c2
9c9618e2e895
85670bb801a0
2c472475e892
df1ac2dbb3eb
98d33166886d
c144d27c6729
6518fa5b7aed
806eac42db69
702e61f3cc0a
7707879d3793
Model
3b
7b
13b
70b
13b-fp16
13b-q2_K
13b-q3_K_L
13b-q3_K_M
13b-q3_K_S
13b-q4_0
13b-q4_1
13b-q4_K_M
13b-q4_K_S
13b-q5_0
13b-q5_1
13b-q5_K_M
13b-q5_K_S
13b-q6_K
13b-q8_0
13b-v2-fp16
13b-v2-q2_K
13b-v2-q3_K_L
13b-v2-q3_K_M
13b-v2-q3_K_S
13b-v2-q4_0
13b-v2-q4_1
13b-v2-q4_K_M
13b-v2-q4_K_S
13b-v2-q5_0
13b-v2-q5_1
13b-v2-q5_K_M
13b-v2-q5_K_S
13b-v2-q6_K
13b-v2-q8_0
13b-v3
13b-v3-fp16
13b-v3-q2_K
13b-v3-q3_K_L
13b-v3-q3_K_M
13b-v3-q3_K_S
13b-v3-q4_0
13b-v3-q4_1
13b-v3-q4_K_M
13b-v3-q4_K_S
13b-v3-q5_0
13b-v3-q5_1
13b-v3-q5_K_M
13b-v3-q5_K_S
13b-v3-q6_K
13b-v3-q8_0
3b-fp16
3b-q4_0
3b-q4_1
3b-q5_0
3b-q5_1
3b-q8_0
70b-v3
70b-v3-fp16
70b-v3-q2_K
70b-v3-q3_K_L
70b-v3-q3_K_M
70b-v3-q3_K_S
70b-v3-q4_0
70b-v3-q4_1
70b-v3-q4_K_M
70b-v3-q4_K_S
70b-v3-q5_0
70b-v3-q5_1
70b-v3-q5_K_M
70b-v3-q5_K_S
70b-v3-q6_K
70b-v3-q8_0
7b-fp16
7b-q2_K
7b-q3_K_L
7b-q3_K_M
7b-q3_K_S
7b-q4_0
7b-q4_1
7b-q4_K_M
7b-q4_K_S
7b-q5_0
7b-q5_1
7b-q5_K_M
7b-q5_K_S
7b-q6_K
7b-q8_0
7b-v2-fp16
7b-v2-q2_K
7b-v2-q3_K_L
7b-v2-q3_K_M
7b-v2-q3_K_S
7b-v2-q4_0
7b-v2-q4_1
7b-v2-q4_K_M
7b-v2-q4_K_S
7b-v2-q5_0
7b-v2-q5_1
7b-v2-q5_K_M
7b-v2-q5_K_S
7b-v2-q6_K
7b-v2-q8_0
7b-v3
7b-v3-fp16
7b-v3-q2_K
7b-v3-q3_K_L
7b-v3-q3_K_M
7b-v3-q3_K_S
7b-v3-q4_0
7b-v3-q4_1
7b-v3-q4_K_M
7b-v3-q4_K_S
7b-v3-q5_0
7b-v3-q5_1
7b-v3-q5_K_M
7b-v3-q5_K_S
7b-v3-q6_K
7b-v3-q8_0
Size
2.0GB
3.8GB
7.4GB
39GB
26GB
5.4GB
6.9GB
6.3GB
5.7GB
7.4GB
8.2GB
7.9GB
7.4GB
9.0GB
9.8GB
9.2GB
9.0GB
11GB
14GB
26GB
5.4GB
6.9GB
6.3GB
5.7GB
7.4GB
8.2GB
7.9GB
7.4GB
9.0GB
9.8GB
9.2GB
9.0GB
11GB
14GB
7.4GB
26GB
5.4GB
6.9GB
6.3GB
5.7GB
7.4GB
8.2GB
7.9GB
7.4GB
9.0GB
9.8GB
9.2GB
9.0GB
11GB
14GB
6.9GB
2.0GB
2.2GB
2.4GB
2.6GB
3.6GB
39GB
138GB
29GB
36GB
33GB
30GB
39GB
43GB
41GB
39GB
47GB
52GB
49GB
47GB
57GB
73GB
13GB
2.8GB
3.6GB
3.3GB
2.9GB
3.8GB
4.2GB
4.1GB
3.9GB
4.7GB
5.1GB
4.8GB
4.7GB
5.5GB
7.2GB
13GB
2.8GB
3.6GB
3.3GB
2.9GB
3.8GB
4.2GB
4.1GB
3.9GB
4.7GB
5.1GB
4.8GB
4.7GB
5.5GB
7.2GB
3.8GB
13GB
2.8GB
3.6GB
3.3GB
2.9GB
3.8GB
4.2GB
4.1GB
3.9GB
4.7GB
5.1GB
4.8GB
4.7GB
5.5GB
7.2GB