获取ollama服务的IP地址
Ollama是一款功能强大的大模型服务,默认情况下仅在本地运行,不对外提供服务。然而,通过一系列配置,您可以使Ollama服务在局域网甚至互联网上可用。本文将详细介绍如何获取Ollama服务的IP地址,并配置其允许外部访问。
一、设置环境变量
首先,您需要设置环境变量,使Ollama能够监听所有网络接口,从而接受来自其他设备的连接。
-
Windows系统:
- 按下Windows + R,输入sysdm.cpl,然后点击“确定”打开系统属性。
- 在“系统属性”窗口中,点击“高级”选项卡,然后点击“环境变量”。
- 在“系统变量”部分,点击“新建”。输入变量名为OLLAMA_HOST,变量值为0.0.0.0,然后点击“确定”。
- 同样地,新建一个名为OLLAMA_ORIGINS的变量,值为*。
- 如果Ollama正在运行,请关闭并重新启动它,以使新的环境变量生效。
-
MacOS系统:
- 打开命令行终端,输入以下命令:
- 重启Ollama应用,使配置生效。
launchctl setenv OLLAMA_HOST “0.0.0.0”
launchctl setenv OLLAMA_ORIGINS “*”
-
Linux系统:
- 如果Ollama作为systemd服务运行,编辑systemd服务配置:
- 在[Service]部分添加以下内容,保存并退出:
- 重新加载systemd并重启Ollama:
systemctl edit ollama.service
[Service]
Environment=”OLLAMA_HOST=0.0.0.0″
Environment=”OLLAMA_ORIGINS=*”
systemctl daemon-reload
systemctl restart ollama
二、获取本机IP地址
配置完成后,您需要获取本机的IP地址,以便在其他设备上访问Ollama服务。
-
在Windows系统中,打开命令提示符(cmd),输入
ipconfig
命令,查看本机局域网内的IPv4地址。 -
在MacOS或Linux系统中,打开终端,输入
ifconfig
(MacOS)或ip addr show
(Linux)命令,同样可以查看IPv4地址。
三、配置防火墙与端口转发
为了使其他设备能够访问Ollama服务,您还需要在防火墙中开放Ollama使用的端口(默认是11434),并进行必要的端口转发配置。
-
配置防火墙:
- 在Windows系统中,打开Windows Defender防火墙,创建入站规则,允许TCP端口11434的连接。
- 在MacOS或Linux系统中,根据各自的防火墙管理工具进行相应配置。
-
配置端口转发(可选):如果您希望从互联网访问Ollama,还需要在路由器中设置端口转发,将外部端口11434转发到您的Ollama服务器的内部IP地址和端口11434。
四、测试访问
最后,您可以在其他设备上测试访问Ollama服务。
-
在浏览器中输入
http://<您的IP地址>:11434
(例如http://192.168.1.100:11434
),检查是否可以访问Ollama服务。 -
如果使用特定的客户端或插件(如Chatbox、Page Assist等),请按照相应软件的配置指南进行设置。
总结
通过以上步骤,您可以成功获取Ollama服务的IP地址,并配置其允许外部访问。请注意,为了安全起见,不建议将Ollama服务直接暴露在公共网络中。在家庭WiFi网络等相对安全的环境下使用更为妥当。