Как настроить пользовательский конечный пункт LLM в Visual Paradigm

Искусственный интеллект помогает оптимизировать процессы моделирования, программирования и архитектурного проектирования, однако многие организации требуют использования конкретных пользовательских поставщиков больших языковых моделей (LLM) или строгих конфигураций API для соответствия политикам безопасности, производительности или затрат.Visual Paradigmподдерживает интеграцию пользовательских конечных пунктов LLM, позволяя командам подключать свои собственные ключи API и языковые модели для реализации функций искусственного интеллекта как в облачных, так и в настольных инструментах.

В этом руководстве объясняется, как настроить параметры пользовательского LLM внутри Visual Paradigm Online и как эта настройка автоматически распространяется для обеспечения генерации диаграмм с помощью искусственного интеллекта в Visual Paradigm Desktop.

Ключевые преимущества подключения собственного конечного пункта LLM

Подключение пользовательского поставщика LLM предоставляет несколько преимуществ для системных архитекторов, разработчиков и корпоративных команд:

  • Полный выбор поставщика:Используйте предпочитаемых вами поставщиков моделей искусственного интеллекта и применяйте пользовательские ключи API непосредственно в своей рабочей среде.
  • Синхронизация между платформами:Настройте параметры один раз в веб-рабочей среде, и подключенные настольные установки мгновенно будут использовать ту же конфигурацию LLM.
  • Расширенный контроль параметров:Настраивайте тонко настроенное поведение искусственного интеллекта, такое как бюджеты мышления и уровни рассуждений, для моделей, поддерживающих кастомизацию параметров.
  • Подтвержденное обеспечение качества:Легко определяйте модели, протестированные и проверенные Visual Paradigm, чтобы обеспечить оптимальную производительность и форматирование вывода.

Пошаговое руководство: Настройка параметров пользовательского LLM

Шаг 1: Доступ к панели конфигурации LLM

Войдите в свою рабочую среду в Visual Paradigm Online. Запустите инструмент на базе искусственного интеллекта, например Инструмент AI-чатбота или Редактор VPasCode. Нажмите на значок своего аватара в правом верхнем углу интерфейса и выберите Конфигурация LLM из меню.

Шаг 2: Выберите поставщика и введите ключ API

В диалоге конфигурации выберите предпочитаемого поставщика LLM из списка. Вставьте свой действительный ключ API в соответствующее поле для установления аутентификации.

Шаг 3: Выберите и проверьте вашу модель LLM

Выберите конкретную модель, которую вы хотите использовать, из выпадающего списка моделей. Если вы выберете модель, которая еще не прошла проверку, появится предупреждающее уведомление. Раскройте разделПроверенные моделипросмотра моделей, протестированных и одобренных для обеспечения стабильного качества вывода.

Шаг 4: Настройка расширенного поведения модели (необязательно)

Если выбранная вами модель поддерживает дополнительные параметры вывода, настройте такие опции, какБюджет размышленийилиУровень размышленийдля управления глубиной рассуждений при выполнении сложных задач.

Шаг 5: Сохраните и примените настройки во всех инструментах

НажмитеСохранить изменениядля применения вашей конфигурации. Ваша выбранная LLM немедленно начнет обеспечивать работу AI-инструментов, включаяЧат-ботутилиты иVPasCodeКроме того, если вы используете настольное приложение, подключенное к тому же онлайн-репозиторию, функции локальной генерации диаграмм на базе ИИ автоматически будут перенаправлять запросы через ваш настроенный пользовательский конечный пункт LLM.

Поддерживаемые приложения и возможности

  • Облачные AI-инструменты:Улучшает функции интерактивных помощников в веб-приложениях и генераторах кода.
  • Генерация диаграмм на рабочем столе:Связывает облачно определенные настройки LLM с локальным клиентским программным обеспечением для ИИ-ассистированного моделирования UML и систем.
  • Платформы документации:Интегрируется с рабочими процессами написания внутриOpenDocsсреды для автоматической генерации отчетов.

Возьмите под контроль свои AI-рабочие процессы

Объедините свою конфигурацию ИИ в облачных и настольных средах для повышения гибкости и контроля над моделированием систем.

Начните использовать инструменты Visual Paradigm уже сегодня:

1views

Related Videos

Страница 1 из 2
Прокрутить вверх