如何在 Visual Paradigm 中配置自定义 LLM 端点

人工智能有助于简化建模、编码和架构工作流程,但许多组织需要特定的自定义大型语言模型(LLM)提供商或严格的 API 配置,以符合安全、性能或成本策略。Visual Paradigm支持自定义 LLM 端点集成,使团队能够连接自己的 API 密钥和语言模型,从而为云工具和桌面工具中的 AI 功能提供支持。

本指南说明如何在 内部配置自定义 LLM 设置Visual Paradigm Online以及此设置如何自动扩展以支持 中的 AI 图表生成Visual Paradigm Desktop.

连接自定义 LLM 端点的主要优势

连接自定义 LLM 提供商为系统架构师、开发人员和团队带来多项优势:

  • 完全提供商选择:引入您偏好的 AI 模型提供商,并在您的工作区中直接使用自定义 API 密钥。
  • 跨平台同步:在 Web 工作区中配置一次设置,连接的桌面安装将立即使用相同的 LLM 配置。
  • 高级参数控制:针对支持参数自定义的模型,调整精细化的 AI 行为,例如思维预算和推理级别。
  • 验证质量保证:轻松识别由 Visual Paradigm 测试和验证的模型,以确保最佳性能和输出格式。

分步指南:配置自定义 LLM 设置

步骤 1:访问 LLM 配置面板

登录到您的 工作区Visual Paradigm Online。启动一个 AI 驱动的工具,例如AI 聊天机器人工具或VPasCode 编辑器。点击界面右上角的头像图标,然后选择LLM 配置菜单中的选项。

步骤 2:选择提供商并输入 API 密钥

在配置对话框中,从列表中选择您首选的 LLM 提供商。将有效的 API 密钥粘贴到指定字段以建立身份验证。

步骤 3:选择并验证您的 LLM 模型

从模型选择下拉菜单中选择您希望使用的特定模型。如果您选择了一个尚未验证的模型,将出现通知警告。展开“已验证模型”部分,浏览经过测试并批准以确保输出质量一致性的模型。

步骤 4:配置高级模型行为(可选)

如果您的选定模型支持额外的推理参数,请配置诸如“思考预算或思考层级”等选项,以控制复杂任务的推理深度。

步骤 5:保存并在所有工具中应用设置

点击“保存更改”以应用您的配置。您选定的 LLM 将立即开始为 AI 工具提供动力,包括“聊天机器人”工具以及“VPasCode”。此外,如果您使用连接到同一在线存储库的桌面应用程序,本地 AI 图表生成功能将自动通过您配置的自定义 LLM 端点路由请求。

支持的应用程序与功能

  • 云端 AI 工具:增强 Web 应用程序和代码生成器中的交互式助手功能。
  • 桌面图表生成:将云端定义的 LLM 设置桥接到本地客户端软件,以支持 AI 辅助的 UML 和系统建模。
  • 文档平台:与“OpenDocs”环境内的写作工作流集成,用于自动生成报告。

掌控您的 AI 工作流

统一您在云环境和桌面环境中的 AI 配置,以获得对系统建模更大的灵活性和控制力。

立即开始使用 Visual Paradigm 工具:

2views

滚动至顶部