设置ollama监听在0.0.0.0

image-20240809095532180

要使Ollama监听所有本地接口，您可以采取以下步骤：

1. 直接从命令行运行Ollama

您可以使用以下命令运行Ollama，并指定它应在所有本地接口上侦听：

OLLAMA_HOST=0.0.0.0 ollama serve

2. 编辑服务文件

如果您通过systemd管理Ollama服务，您可以编辑服务文件并添加环境变量：

  1. 打开 /etc/systemd/system/ollama.service 文件。

  2. 在 [Service] 部分添加以下行：

    Environment="OLLAMA_HOST=0.0.0.0"

  3. 保存文件后，重新加载systemd守护进程并重新启动服务：

    sudo systemctl daemon-reload
sudo systemctl restart ollama

3. 在Docker容器中设置

如果Ollama在Docker容器中运行，您可以通过在 docker-compose.yml 文件中添加以下内容来允许在主机的任何网络接口上访问Ollama实例：

extra_hosts:
  - "host.docker.internal:host-gateway"

一旦容器启动，您可以使用以下命令检查是否可以从其他容器或主机访问Ollama实例：

curl http://host.docker.internal:11434

这种配置方式将确保Ollama实例能够在所有本地接口上侦听，并可以从其他网络设备或容器访问。

image-20240809095559858