插件# LLM 插件可以通过提供备选的大型语言模型(通过 API 或在您的机器上本地运行模型)来增强 LLM 的功能。 插件还可以向 llm CLI 工具添加新命令。 插件目录 列出了可以安装和使用的可用插件。 开发模型插件 详细描述了如何构建新插件。 安装插件 列出已安装的插件 使用部分插件运行 插件目录 本地模型 远程 API 片段和模板加载器 嵌入模型 额外命令 仅供娱乐 插件钩子 register_commands(cli) register_models(register) register_template_loaders(register) register_fragment_loaders(register) 开发模型插件 插件的初始结构 安装您的插件进行试用 构建马尔可夫链 执行马尔可夫链 将其添加到插件 理解 execute() 提示和响应会记录到数据库 添加选项 分发您的插件 Wheels 和 sdist 包 GitHub Gists GitHub 仓库 发布插件到 PyPI 添加元数据 如果出现问题怎么办 高级模型插件 提示:延迟加载开销大的依赖项 接受 API 密钥的模型 异步模型 支持模式 多模态模型的附件 指定附件类型 处理附件 来自先前对话的附件 跟踪 token 使用情况 插件的实用函数 llm.user_dir() llm.ModelError Response.fake()