Ollama Linux 安装记录 + Markdown 使用

软件获取

1. ollama 网站： https://ollama.com/
2. 点击左上角的 Github 进入Ollama 仓库，进入 Ollama Realse 界面，选择要下在的版本，右键复制连接。eg: linux 系统为 https://github.com/ollama/ollama/releases/download/v0.3.12/ollama-linux-amd64.tgz
3. 进入 github 加速网站, 将链接粘贴上，并选择 ghproxy.cn进行下载，其它的不能下载大文件。等下载完毕。

软件安装

1
2
3
4
5
6
7
8
9
# 解压
sudo tar -C /usr -zxf ollama-linux-amd64.tgz

#启动
ollama serve

#验证是否启动成功，另起一个终端
ollama -v

优化体验

开机自启动

1
2
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

将如下内容复制到 /etc/systemd/system/ollama.service 中 在网络启动后启动，配置启动命令，用户，组，重启间隔，路径,匹配default 中的system state

1
2
3
4
5
6
7
8
9
10
11
12
13
14
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=default.target

设置 ollama 自动重启

1
2
sudo systemctl daemon-reaload
sudo systemctl enable ollama

开启 ollama

1
2
sudo systemctl start ollama
sudo systemctl satus ollama

软件运行

重新打开一个终端

1
ollama run llama3.2:1b

上述命令，来源于 ollama 官网,根据自己喜好及电脑配置选择相应的模型即可。 至于safetensor 等其它文件的导入，目前觉得意义不大。不适合自己现在的需求，没有研究。

软件卸载

1
2
3
4
5
6
7
8
9
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

sudo rm $(which ollama)

sudo rm -r /usr/share/ollama
sudo userdel ollama
sudo groupdel ollama

个人评价

使用 ollama 咨询 useradd 相关问题，准确性不高

后续任务

1. 使用RAG增强索引 提高准确性，
2. 换个模型
3. 在页面底部增加对博客作者的感谢。

小记

第一次使用markdown 语法把自己的想法表达出来，算是明白他的适用性和目的了。 配台 mac 就好了阿。加油吧。

PS： systemctl 笔记

SysVinit 启动层次 链接

Reference

1. ollama 官方安装指导

• Previous
  第一篇blog
• Next
  output emotion