开源

🚀IBM Granite 3.0:AI新势力,开源模型界的“花岗岩”🌟-granite3-dense

logo

ollama/granite3-dense

Local deployment of the model
logo


摘要

IBM Granite 3.0系列模型以其卓越的性能和多语言支持,在机器学习领域脱颖而出。这些模型不仅在基准测试中表现出色,而且在实际应用中也展现出了强大的潜力。

项目图片

内容

IBM Granite 3.0系列模型,以其出色的性能和效率,在AI界引起轰动🌐。2B和8B文本密集型大型语言模型(LLMs),经过12万亿个token的训练,性能和速度大幅提升🏃‍♂️💨。Granite-8B-Instruct在OpenLLM Leaderboard上与Llama 3.1 8B-Instruct不相上下,支持12种语言,包括中文🌍。功能覆盖文本生成、代码辅助、多语言对话等,是工具使用案例和检索增强生成(RAG)的理想选择。

开发者IBM Research的GitHub上,你可以找到更多信息🔍。Apache 2.0许可下,任何人都可以自由使用和贡献🤝。

Run the model locally

Id

5c2e6f3112f4

199456d876ee

24e5c0a35f78

2261d92d6175

201ccf1522e8

c08ae454856c

7c6af70b9f11

dd4a07b9e1b7

e12ad0fad2ad

5c2e6f3112f4

0f87f54eb387

db3fbcdec89b

bc5ed577d64f

dcace13d6d34

be9d8efefd30

7f374efdad9b

f35cd2e1e433

d3a4062e339e

2ea57f8bc8fd

c74b04a2513f

c1a94d47b25c

4c5f0dba11a8

16473222519f

8a47472a11f2

199456d876ee

8fc1ce76b8f2

449cddb1864d

ae4ab94be005

e85361d1973c

49055e666925

ec258d53940b

f1466e70a7be

Model

2b

8b

2b-instruct-fp16

2b-instruct-q2_K

2b-instruct-q3_K_L

2b-instruct-q3_K_M

2b-instruct-q3_K_S

2b-instruct-q4_0

2b-instruct-q4_1

2b-instruct-q4_K_M

2b-instruct-q4_K_S

2b-instruct-q5_0

2b-instruct-q5_1

2b-instruct-q5_K_M

2b-instruct-q5_K_S

2b-instruct-q6_K

2b-instruct-q8_0

8b-instruct-fp16

8b-instruct-q2_K

8b-instruct-q3_K_L

8b-instruct-q3_K_M

8b-instruct-q3_K_S

8b-instruct-q4_0

8b-instruct-q4_1

8b-instruct-q4_K_M

8b-instruct-q4_K_S

8b-instruct-q5_0

8b-instruct-q5_1

8b-instruct-q5_K_M

8b-instruct-q5_K_S

8b-instruct-q6_K

8b-instruct-q8_0

Size

1.6GB

4.9GB

5.3GB

1.0GB

1.4GB

1.3GB

1.2GB

1.5GB

1.7GB

1.6GB

1.5GB

1.8GB

2.0GB

1.9GB

1.8GB

2.2GB

2.8GB

16GB

3.1GB

4.3GB

4.0GB

3.6GB

4.7GB

5.1GB

4.9GB

4.7GB

5.6GB

6.1GB

5.8GB

5.6GB

6.7GB

8.7GB


关键词

自然语言处理 文本生成 多模态

分类

工具辅助 国际企业 多语言支持
正文到此结束
本文目录