谷歌 Gemma 大模型开源了!附本地部署安装教程
谷歌 Gemma 大模型开源了!附本地部署安装教程

谷歌 Gemma 大模型开源了!附本地部署安装教程

1、本地安装

1、下载安装ollama 客户端: 【点击下载

2、在cmd命令下运行以下代码

普通7B版 安装指令:(适合8G显存)

ollama run gemma:7b

如果你是第一次部署,它会自动下载!

7B的全量版本:(需要16G左右的显存)

ollama run gemma:7b-instruct-fp16

2B轻量版:(适合CPU会低配电脑安装)

ollama run gemma:2b

2、在huggingFace 上运行

如何在huggingFace 上运行谷歌开源的Gemini大模型?

huggingFace 上已经托管了谷歌开源的Gemini 7b全量版的大模型,现在完全免费使用!

链接直达

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注