部署及安装 0.1 Help

Ollama安装

以下是安装 Ollama 的详细步骤,支持主流操作系统及 Docker:

1. 安装 Ollama

根据你的操作系统选择对应方法:

1. 从 官网下载 安装程序(.exe 文件)。

2. 双击运行,按提示完成安装。

3. 安装后,Ollama 会作为服务在后台运行。

方式一:直接 下载安装包 运行。

方式二:通过 Homebrew 安装:

brew install ollama brew services start ollama
# 使用一键安装脚本 curl -fsSL https://ollama.com/install.sh | sh # 安装后添加用户到 ollama 组(需重新登录生效) sudo usermod -aG ollama $USER

Docker安装请查看 此页面

# 拉取镜像 docker pull ollama/ollama # 运行容器(默认端口11434,数据持久化到本地) docker run -d -p 11434:11434 -v ollama:/root/.ollama ollama/ollama

2. 基本使用

运行模型

# 下载并启动模型(如 llama2) ollama run llama2 # 输入对话内容,按 Ctrl+D 退出 >>> 你好!有什么可以帮助你的吗?

其他命令

# 查看已安装模型 ollama list # 启动服务器(默认端口11434) ollama serve

3. 常见问题

  • 更新 Ollama

    # Linux/macOS curl -fsSL https://ollama.com/install.sh | sh # Windows:重新下载安装包覆盖安装
  • 查看日志

    # Linux journalctl -u ollama # macOS cat ~/.ollama/logs/server.log # Windows 查看事件查看器或安装目录下的日志文件
  • 卸载

    # Linux sudo apt remove ollama # 或对应包管理器 # macOS rm -rf ~/.ollama brew uninstall ollama # 若通过 Homebrew 安装 # Windows:控制面板卸载程序

注意事项

  1. 网络要求 :首次下载模型需稳定网络,模型大小可能超过 3GB。

  2. 硬件加速 :GPU 用户需提前安装驱动(如 NVIDIA CUDA)。

  3. 权限问题 :Linux 用户若无法连接服务,检查是否加入 ollama 用户组。

如遇安装问题,可查阅官方文档或社区支持。

Last modified: 12 March 2025