1、本地安装
1、下载安装ollama 客户端: 【点击下载】
2、在cmd命令下运行以下代码
普通7B版 安装指令:(适合8G显存)
ollama run gemma:7b
如果你是第一次部署,它会自动下载!
7B的全量版本:(需要16G左右的显存)
ollama run gemma:7b-instruct-fp16
2B轻量版:(适合CPU会低配电脑安装)
ollama run gemma:2b
2、在huggingFace 上运行
如何在huggingFace 上运行谷歌开源的Gemini大模型?
huggingFace 上已经托管了谷歌开源的Gemini 7b全量版的大模型,现在完全免费使用!
【链接直达】