Linux之固定IP地址、启动部署好的LLM服务
·
一、固定Linux的IP地址
原因:断电、关机重启会导致服务器ip地址发生改变,IP地址发生变换会导致shell无法连接服务器。
固定IP地址可以方便我们使用shell连接服务器稳定操作,所以了解固定IP是非常有必要的。
这里推荐使用服务器图形化操作界面
具体操作如下:
1.1确定一些关键信息(当前网段、子网掩码、网关地址、DNS服务器)
打开服务器终端,分别执行下面的命令
- 查看当前网段
ip addr show 网卡名称
网卡名称获取方法:
在终端输入
ip a
会返回etho、ens33或者enp*开头的有线接口。
比如我的是enp132s0
- 查看网关地址
ip route | grep default
- 查看DNS服务器
cat /etc/resolv.conf
1.2配合图形化界面固定IP
1. 打开 Settings → 左侧选择 Network。

2. 找到对应的有线连接( Wired ),点击右侧的 齿轮图标。
3. 切换到 IPv4 标签页:将 Method 从 Automatic (DHCP) 改为 Manual(手动)。
在 Addresses 栏填写:Address:你要固定的 IP(需和网关同网段,且未被占用,比如 192.168.1.200 )
Netmask: 255.255.255.0 (或 /24 ) 如果掩码是/22,那么就填255.255.252.0
Gateway:刚才查到的网关地址(比如 192.168.1.1 )
在 DNS 栏填写刚才记录的 DNS 地址(比如 8.8.8.8, 114.114.114.114 )。
4. 点击 Apply 应用配置,然后重启网络或服务器生效。

IP固定完成!!!
二、启动部署好的LLM服务
操作前提:使用ollama部署好了LLM在服务器上,然后使用shell工具连接服务器。
1、查看ollama版本信息
ollama --version

2、这步可以忽略不做,因为我这里有两张显卡,我这里约定绑定卡0
export CUDA_VISIBLE_DEVICES=0
3、启动服务
# 1. 用环境变量指定监听地址(0.0.0.0)和端口(11434),启动服务(核心修复:ollama serve 后不带任何参数)
OLLAMA_HOST=0.0.0.0 OLLAMA_PORT=11434 nohup ollama serve > ollama.log 2>&1 &
# 2. 等待 10 秒让服务完全初始化
sleep 10
[1] 45215
4、测试一下服务
curl http://localhost:11434/v1/models

5、查看一下本地模型
ollama list

更多推荐


所有评论(0)