跳到主要内容

Ollama 模型

ConsoleX 可以连接通过 Ollama 部署的任何模型，无论模型运行在你自己的电脑上，还是远程服务器上。调用你的 Ollama 模型不占 ConsoleX 套餐额度、不扣点数。

准备工作​

  1. 确保你的 Ollama 模型端点已部署，并且可以通过网络访问。
  2. 如果模型部署在本地，需要通过隧道方案把端点映射到公网，例如 Cloudflare Tunnel、Ngrok 或其他类似方案。

在 ConsoleX 中添加 Ollama 模型​

  1. 点击左侧导航栏的 …（更多），选择「模型」。
  2. 在「模型中心」点击「添加自定义模型」，选择 Ollama。
  3. 填写以下信息：
    • 模型名称：Ollama 模型的名称。
    • Base URL：端点 URL。
  4. 保存。模型会出现在模型中心的「私有」分类中。

选择模型厂商窗口，列表中包含 Ollama

保存后，可以在模型中心测试连接，确认 ConsoleX 能访问你的端点。

验收和 ConsoleX 内置工具仍然使用你的套餐用量。详见自定义模型。

参考资料​