开源

🤖 自主可控的聊天机器人:LlamaGPT🔥

logo

getumbrel/llama-gpt

⭐️⭐️⭐️⭐️⭐️
logo


License

MIT

Stars

10.9k

Forks

714


项目图片

摘要

LlamaGPT是一个开源的自托管聊天机器人,以其隐私保护和高性能受到社区的欢迎。支持多种模型和部署方式,是追求数据隐私和性能用户的优选。

内容

想要一个完全私密、不依赖网络的聊天机器人吗?🚀 LlamaGPT,一个基于美洲驼2的自托管、离线聊天机器人,满足你的需求!🌐 它100%保护隐私,数据绝不离线。

🛠️ 支持多种模型,从7B到70B,甚至包括Code Llama模型,满足不同需求。💻 无论是Mac、Docker还是Kubernetes,都能轻松部署。🌟 还支持Nvidia GPU加速,性能更上一层楼!

📈 经过多硬件测试,LlamaGPT在M1 Max MacBook Pro上表现尤为出色。📚 开源项目,社区活跃,持续优化,未来将支持更多特性,如自定义模型加载等。👨‍💻

关键词

Python AI 效率工具

分类

隐私保护 开源项目 性能优化
正文到此结束
本文目录