Llama3 – 8B/70B大模型本地部署3种方案 支持CPU /GPU运行

目前在开源大模型领域,Llama3 无疑是最强的!这次Meta不仅免费公布了 8B和70B两个性能强悍的大模型…

目前在开源大模型领域,Llama3 无疑是最强的!这次Meta不仅免费公布了 8B和70B两个性能强悍的大模型,400B也即将发布,这是可以和GPT-4对打的存在!今天我们就来介绍3各本地部署方法,简单易懂,非常适合新手!

1. GPT4All :  适合低配置用户,可以在CPU/GPU上跑

2.LMstudio ,支持下载多模型 8B/70B 等,模型选择更多!

提醒:如果你不在海外,实在下载不了模型,稍后零度会把Llama 3 大模型上传到网盘

3.Ollama,支持多平台!Windows / Mac /Linux 都可以运行

并在 Windows 上打开 WSL  功能:

关于作者: aiaiai

分享好看的ai信息,一起来看额https://www.testdocs.com/u/aiaiai/

为您推荐

发表回复