🚀IBM Granite 3.0:AI新势力,开源模型界的“花岗岩”🌟-granite3-dense
摘要
IBM Granite 3.0系列模型以其卓越的性能和多语言支持,在机器学习领域脱颖而出。这些模型不仅在基准测试中表现出色,而且在实际应用中也展现出了强大的潜力。

内容
IBM Granite 3.0系列模型,以其出色的性能和效率,在AI界引起轰动🌐。2B和8B文本密集型大型语言模型(LLMs),经过12万亿个token的训练,性能和速度大幅提升🏃♂️💨。Granite-8B-Instruct在OpenLLM Leaderboard上与Llama 3.1 8B-Instruct不相上下,支持12种语言,包括中文🌍。功能覆盖文本生成、代码辅助、多语言对话等,是工具使用案例和检索增强生成(RAG)的理想选择。
开发者IBM Research的GitHub上,你可以找到更多信息🔍。Apache 2.0许可下,任何人都可以自由使用和贡献🤝。
Run the model locally
Id
5c2e6f3112f4
199456d876ee
24e5c0a35f78
2261d92d6175
201ccf1522e8
c08ae454856c
7c6af70b9f11
dd4a07b9e1b7
e12ad0fad2ad
5c2e6f3112f4
0f87f54eb387
db3fbcdec89b
bc5ed577d64f
dcace13d6d34
be9d8efefd30
7f374efdad9b
f35cd2e1e433
d3a4062e339e
2ea57f8bc8fd
c74b04a2513f
c1a94d47b25c
4c5f0dba11a8
16473222519f
8a47472a11f2
199456d876ee
8fc1ce76b8f2
449cddb1864d
ae4ab94be005
e85361d1973c
49055e666925
ec258d53940b
f1466e70a7be
Model
2b
8b
2b-instruct-fp16
2b-instruct-q2_K
2b-instruct-q3_K_L
2b-instruct-q3_K_M
2b-instruct-q3_K_S
2b-instruct-q4_0
2b-instruct-q4_1
2b-instruct-q4_K_M
2b-instruct-q4_K_S
2b-instruct-q5_0
2b-instruct-q5_1
2b-instruct-q5_K_M
2b-instruct-q5_K_S
2b-instruct-q6_K
2b-instruct-q8_0
8b-instruct-fp16
8b-instruct-q2_K
8b-instruct-q3_K_L
8b-instruct-q3_K_M
8b-instruct-q3_K_S
8b-instruct-q4_0
8b-instruct-q4_1
8b-instruct-q4_K_M
8b-instruct-q4_K_S
8b-instruct-q5_0
8b-instruct-q5_1
8b-instruct-q5_K_M
8b-instruct-q5_K_S
8b-instruct-q6_K
8b-instruct-q8_0
Size
1.6GB
4.9GB
5.3GB
1.0GB
1.4GB
1.3GB
1.2GB
1.5GB
1.7GB
1.6GB
1.5GB
1.8GB
2.0GB
1.9GB
1.8GB
2.2GB
2.8GB
16GB
3.1GB
4.3GB
4.0GB
3.6GB
4.7GB
5.1GB
4.9GB
4.7GB
5.6GB
6.1GB
5.8GB
5.6GB
6.7GB
8.7GB