Sztuczna inteligencja pomaga usprawnić procesy modelowania, programowania i projektowania architektury, jednak wiele organizacji wymaga określonych niestandardowych dostawców dużych modeli językowych (LLM) lub rygorystycznych konfiguracji API, aby dostosować się do polityk bezpieczeństwa, wydajności lub kosztów.Visual Paradigmobsługuje integrację niestandardowych punktów końcowych LLM, umożliwiając zespołom podłączanie własnych kluczy API i modeli językowych w celu zasilania funkcji sztucznej inteligencji w narzędziach chmurowych i desktopowych.
Kluczowe korzyści z podłączenia własnego punktu końcowego LLM
Podłączenie niestandardowego dostawcy LLM oferuje kilka korzyści dla architektów systemów, programistów i zespołów korporacyjnych:
- Pełna swoboda wyboru dostawcy:Przynieś własnych preferowanych dostawców modeli AI i wykorzystuj niestandardowe klucze API bezpośrednio w swoim środowisku pracy.
- Synchronizacja międzyplatformowa:Skonfiguruj ustawienia raz w środowisku pracy w przeglądarce, a podłączone instalacje desktopowe natychmiast wykorzystują tę samą konfigurację LLM.
- Zaawansowana kontrola parametrów:Dostosuj dopracowane zachowania AI, takie jak budżety myślenia i poziomy rozumowania, dla modeli obsługujących dostosowywanie parametrów.
- Zweryfikowana kontrola jakości:Łatwo identyfikuj modele przetestowane i zweryfikowane przez Visual Paradigm, aby zapewnić optymalną wydajność i formatowanie wyników.
Przewodnik krok po kroku: Konfigurowanie niestandardowych ustawień LLM
Krok 1: Uzyskaj dostęp do panelu konfiguracji LLM
Zaloguj się do swojego środowiska pracy wVisual Paradigm Online. Uruchom narzędzie napędzane przez AI, takie jakNarzędzie czatu AIlubEdytor VPasCode. Kliknij ikonę swojego awatara w prawym górnym rogu interfejsu i wybierzKonfigurację LLMz menu.
Krok 2: Wybierz dostawcę i wprowadź klucz API
W oknie konfiguracji wybierz preferowanego dostawcę modelu językowego (LLM) z listy. Wklej swój poprawny klucz API do wyznaczonego pola, aby ustanowić uwierzytelnienie.
Krok 3: Wybierz i zweryfikuj swój model LLM
Wybierz konkretny model, którego chcesz użyć, z rozwijanej listy wyboru modeli. Jeśli wybierzesz model, który nie został jeszcze zweryfikowany, pojawi się powiadomienie ostrzegawcze. Rozwiń sekcjęZweryfikowane modeleprzeglądaj modele przetestowane i zatwierdzone pod kątem spójnej jakości wyników.
Krok 4: Skonfiguruj zaawansowane zachowania modelu (opcjonalnie)
Jeśli wybrany model obsługuje dodatkowe parametry wnioskowania, skonfiguruj opcje takie jakBudżet myślenialubPoziom myśleniaw celu kontrolowania głębokości rozumowania w przypadku złożonych zadań.
Krok 5: Zapisz i zastosuj ustawienia we wszystkich narzędziach
KliknijZapisz zmianyaby zastosować konfigurację. Twój wybrany model LLM natychmiast zacznie zasilać narzędzia AI, w tymChatbotanarzędzia pomocnicze orazVPasCodeDodatkowo, jeśli używasz aplikacji desktopowej podłączonej do tego samego repozytorium online, funkcje lokalnej generacji diagramów AI automatycznie przekierują żądania przez skonfigurowane niestandardowe punkty końcowe LLM.
Obsługiwane aplikacje i możliwości
- Chmurowe narzędzia AI:Wzbogaca funkcje interaktywnych asystentów w aplikacjach internetowych i generatorach kodu.
- Lokalna generacja diagramów:Łączy ustawienia LLM zdefiniowane w chmurze z lokalnym oprogramowaniem klienckim w celu wspomagania modelowania UML i systemów przy użyciu AI.
- Platformy dokumentacji:Integruje się z procesami pisania wewnątrzśrodowiska OpenDocsw celu automatycznej generacji raportów.
Przejmij kontrolę nad swoimi przepływami pracy AI
Ujednolć konfigurację AI w środowiskach chmurowych i desktopowych, aby uzyskać większą elastyczność i kontrolę nad modelowaniem systemów.
Zacznij korzystać z narzędzi Visual Paradigm już dziś:
