安装插件

插件必须安装在与 LLM 本身相同的虚拟环境中。

你可以在插件目录中找到要安装的插件名称

使用 llm install 命令（pip install 的一个简单包装）在正确的环境中安装插件

llm install llm-gpt4all

插件可以使用 llm uninstall 命令卸载

llm uninstall llm-gpt4all -y

使用 -y 标志跳过确认提示。

你可以运行以下命令查看插件添加的其他模型

llm models

或者添加 --options 参数以包含每个模型的可用选项详情

llm models --options

要对新安装的模型运行提示，请将其名称作为 -m/--model 选项传递

llm -m orca-mini-3b-gguf2-q4_0 'What is the capital of France?'

列出已安装插件

运行 llm plugins 命令列出已安装插件

llm plugins

[
  {
    "name": "llm-anthropic",
    "hooks": [
      "register_models"
    ],
    "version": "0.11"
  },
  {
    "name": "llm-gguf",
    "hooks": [
      "register_commands",
      "register_models"
    ],
    "version": "0.1a0"
  },
  {
    "name": "llm-clip",
    "hooks": [
      "register_commands",
      "register_embedding_models"
    ],
    "version": "0.1"
  },
  {
    "name": "llm-cmd",
    "hooks": [
      "register_commands"
    ],
    "version": "0.2a0"
  },
  {
    "name": "llm-gemini",
    "hooks": [
      "register_embedding_models",
      "register_models"
    ],
    "version": "0.3"
  }
]

使用插件子集运行

默认情况下，LLM 将加载所有与 LLM 本身安装在同一虚拟环境中的插件。

你可以使用 LLM_LOAD_PLUGINS 环境变量控制加载的插件集合。

将其设置为空字符串以禁用所有插件

LLM_LOAD_PLUGINS='' llm ...

或者设置为逗号分隔的插件名称列表，以仅加载这些插件

LLM_LOAD_PLUGINS='llm-gpt4all,llm-cluster' llm ...

你可以使用 llm plugins 命令检查其是否正常工作

LLM_LOAD_PLUGINS='' llm plugins