open webui: AICHAT 前端

open-webui 是一种可扩展、功能丰富、用户友好的自托管 web UI，支持各种 LLM 运行程序，包括与 Ollama 和 openai 兼容的 api。

介绍

• 功能类似于 ChatGPT 的 AI 对话 Web 实现
• open-webui 采用 Svelte 前端框架开发
  • 基于角色的访问控制(RBAC)
  • 多语言支持
  • 移动渐进式 Web 应用程序(PWA)
  • 响应式设计，支持 Markdown 和 LaTeX
• 支持集成 OpenAI 兼容的 API
• 多模型对话，与 Ollama 模型一起进行多功能对话
• 支持模型（Models）、提示词（Prompts）、工具（Tools）、函数（Function），有自己的市场 https://openwebui.com/#open-webui-community
• 支持 Pipelines Plugin Framework 将自定义逻辑和 Python 库无缝集成到 Open web 中
• 支持本地 RAG 集成
  • 支持 Web Search for RAG
• 图像生成集成
  • 使用 AUTOMATIC1111 API 或 ComfyUI(本地)和 OpenAI 的 DALL-E(外部)等选项无缝地整合图像生成功能，通过动态视觉内容丰富您的聊天体验

安装

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

• 配置
  • 环境变量
  • 减少运行时内存
• swagger api
  • open-webui API: https://ai.80.xyz/docs#/
  • 代理 ollama API: https://ai.80.xyz/ollama/docs ，添加了 token 认证，参考
  • 代理 OpenAI API: https://ai.80.xyz/openai/ ，默认是 OPENAI_API_BASE_URLS 配置的第一个地址，参考

使用

AI Provider

• AI 常见的模型介绍

与 vscode 集成

• Continue
• Cline: vscode AI 智能编程插件介绍

Arena Model

• What is Arena Model ?
• Arena Model 是一系列模型的总称，旨在比较它们的响应
  • 它会从模型集中随机选择一个模型来回答您的问题。一旦您对回复进行排序（使用 喜欢 或 不喜欢 按钮），Arena 模型就会显示是哪个特定模型生成的回复，从而使这一过程成为盲测。
  • 用户可以重新生成答复，从不同的模型中获取另一个答复进行比较（注意：第二个答复可能与第一个答复来自同一个模型）。

扩展

• 工具 tools，如获取天气、在线搜索、图片生成等工具

F&Q

模型默认英文应该回答怎么办？

• 修改系统提示词 (System Prompt) 为
  • 使用中文回答，除代码和专用名词外尽量不使用英文
  • speek in chinese

huggingface.co 失败导致启动失败

• 参考：Why can’t Open WebUI start with an SSL error?

OSError: We couldn't connect to 'https://huggingface.co' to load this file, couldn't find it in the cached files and it looks like sentence-transformers/all-MiniLM-L6-v2 is not the path to a directory containing a file named config.json.
Checkout your internet connection or see how to run the library in offline mode at 'https://huggingface.co/docs/transformers/installation#offline-mode'

• 使用国内代理 https://hf-mirror.com

docker run -d -p 3000:8080 -e HF_ENDPOINT=https://hf-mirror.com ... --name open-webui --restart always ghcr.io/open-webui/open-webui:main

deepseek-r1 模型不提示 thinking

• 问题：open-webui 对接 deepseek-r1 模型时，不提示 thinking，而是卡着没有输出问题
• 解决：使用 zgccrui/deepseek_r1 工具，参考
  • Thinking doesn’t showing for Deepseek R1 via API (external connection)
  • openwebui 显示 R1 思维链
  • 配置步骤：
    • 点击 get 在 open-webui 上安装，并保存
    • 在 函数 function 中点击 配置轮子 设置环境变量：
      • DEEPSEEK_API_BASE_URL
      • DEEPSEEK_API_KEY
      • DEEPSEEK_API_MODEL
    • 在 管理员面板 -> 设置 -> 模型 中找到函数对应的名字，修改为自己看着舒服的模型名称即可
  • 扩展：Gemini 的 Thinking