Ollama
Ollama 用于在本地运行大语言模型。本页介绍在 macOS、Windows 和 Linux 上开放 Ollama 的局域网访问和跨域(CORS)访问。
配置#
Ollama 通过环境变量控制监听地址和允许的跨域来源。按平台设置环境变量,必要时放行防火墙端口,然后验证。
环境变量#
Ollama 读取以下环境变量:
设置 OLLAMA_HOST=0.0.0.0:11434 允许局域网访问。设置 OLLAMA_ORIGINS=* 允许所有跨域请求。
OLLAMA_ORIGINS 可以取以下值:
在 macOS 上设置环境变量#
Ollama 在 macOS 上作为 GUI 应用运行,由 launchd 管理。
-
用
launchctl设置环境变量: -
从菜单栏退出 Ollama,再重新启动。
在 Windows 上设置环境变量#
-
在 PowerShell 中设置用户环境变量:
-
从开始菜单退出 Ollama,再重新启动。
在 Linux 上设置环境变量#
Ollama 在 Linux 上作为 systemd 服务运行。在 root shell 下执行:
-
编辑服务配置:
-
添加以下内容:
-
重新加载配置并重启服务:
在 Windows 防火墙中放行端口#
添加入站规则,放行 TCP 11434 端口:
在 Linux 防火墙中放行端口#
按使用的防火墙放行 TCP 11434 端口:
验证配置#
请求版本接口,返回版本号即表示服务可访问。
macOS 和 Linux:
Windows:
故障排查#
以下是 macOS 上环境变量不生效的常见情况。
macOS 上 zshrc 中的环境变量不生效#
原因:Ollama 由 launchd 启动,不读取 ~/.zshrc。
解决:改用 launchctl setenv 设置,见在 macOS 上设置环境变量。
macOS 重启后设置丢失#
原因:launchctl setenv 的设置重启后不保留。
解决:任选一种方式持久化:
- 手动运行
ollama serve。 - 创建 LaunchAgent plist。