原创

本地部署 Llama3 – 8B/70B 大模型!最简单的方法: 支持CPU /GPU运行 【3种方案】

温馨提示:
本文最后更新于 2024年08月01日,已超过 75 天没有更新。若文章内的图片失效(无法正常加载),请留言反馈或直接联系我

目前在开源大模型领域,Llama3 无疑是最强的!这次Meta不仅免费公布了 8B和70B两个性能强悍的大模型,400B也即将发布,这是可以和GPT-4对打的存在!今天我们就来介绍3各本地 部署方法,简单易懂,非常适合新手!

1. GPT4All :  适合低配置用户,可以在 CPU/ GPU上跑

点击下载

2.LMstudio ,支持下载多模型 8B/70B 等,模型选择更多!

点击下载

 3.Ollama,支持多平台!Windows / Mac /Linux 都可以运行 

点击下载

正文到此结束
该篇文章的评论功能已被站长关闭