Sztuczna inteligencja pomaga usprawnić procesy modelowania, programowania i projektowania architektury, jednak wiele organizacji wymaga specyficznych dostawców niestandardowych dużych modeli językowych (LLM) lub rygorystycznych konfiguracji API, aby dostosować się do polityk bezpieczeństwa, wydajności lub kosztów.Visual Paradigmobsługuje integrację niestandardowych punktów końcowych LLM, umożliwiając zespołom podłączenie własnych kluczy API i modeli językowych do zasilania funkcji AI w narzędziach chmurowych i desktopowych.
Kluczowe korzyści z podłączenia własnego punktu końcowego LLM
Podłączenie niestandardowego dostawcy LLM oferuje kilka korzyści dla architektów systemów, programistów i zespołów korporacyjnych:
- Pełna swoboda wyboru dostawcy:Przynieś własnych preferowanych dostawców modeli AI i wykorzystuj niestandardowe klucze API bezpośrednio w swoim środowisku pracy.
- Synchronizacja międzyplatformowa:Skonfiguruj ustawienia raz w środowisku pracy w przeglądarce, a podłączone instalacje desktopowe natychmiast wykorzystują to samo ustawienie LLM.
- Zaawansowana kontrola parametrów:Dostosuj dopracowane zachowania AI, takie jak budżety myślenia i poziomy rozumowania, dla modeli obsługujących dostosowywanie parametrów.
- Zweryfikowana kontrola jakości:Łatwo identyfikuj modele przetestowane i zweryfikowane przez Visual Paradigm, aby zapewnić optymalną wydajność i formatowanie wyników.
Przewodnik krok po kroku: Konfigurowanie niestandardowych ustawień LLM
Krok 1: Uzyskaj dostęp do panelu konfiguracji LLM
Zaloguj się do swojego środowiska pracy wVisual Paradigm Online. Uruchom narzędzie napędzane przez AI, takie jakNarzędzie czatu AIlubEdytor VPasCode. Kliknij ikonę swojego awatara w prawym górnym rogu interfejsu i wybierzKonfiguracja LLMz menu.
Krok 2: Wybierz dostawcę i wprowadź klucz API
W oknie konfiguracji wybierz preferowanego dostawcę modelu językowego (LLM) z listy. Wklej swój poprawny klucz API do wyznaczonego pola, aby ustanowić uwierzytelnienie.
Krok 3: Wybierz i zweryfikuj swój model LLM
Wybierz konkretny model, którego chcesz użyć, z rozwijanej listy wyboru modeli. Jeśli wybierzesz model, który nie został jeszcze zweryfikowany, pojawi się powiadomienie ostrzegawcze. Rozwiń sekcjęZweryfikowane modeleprzeglądaj modele przetestowane i zatwierdzone pod kątem spójnej jakości wyników.
Krok 4: Skonfiguruj zaawansowane zachowania modelu (opcjonalnie)
Jeśli wybrany model obsługuje dodatkowe parametry wnioskowania, skonfiguruj opcje takie jakBudżet myślenialubPoziom myśleniaw celu kontrolowania głębi rozumowania w przypadku złożonych zadań.
Krok 5: Zapisz i zastosuj ustawienia we wszystkich narzędziach
KliknijZapisz zmianyaby zastosować konfigurację. Twój wybrany model LLM natychmiast zacznie zasilać narzędzia AI, w tymChatbotnarzędzia pomocnicze orazVPasCodeCo więcej, jeśli używasz aplikacji desktopowej podłączonej do tego samego repozytorium online, funkcje lokalnej generacji diagramów AI automatycznie przekierują żądania przez skonfigurowany niestandardowy punkt końcowy LLM.
Obsługiwane aplikacje i możliwości
- Chmurowe narzędzia AI:Wzbogaca funkcje interaktywnych asystentów w aplikacjach internetowych i generatorach kodu.
- Lokalna generacja diagramów:Łączy ustawienia LLM zdefiniowane w chmurze z lokalnym oprogramowaniem klienckim w celu wspomagania modelowania UML i systemowego przy użyciu AI.
- Platformy dokumentacji:Integruje się z procesami pisania wewnątrzOpenDocsśrodowiska w celu automatycznej generacji raportów.
Zawładnij swoimi przepływami pracy AI
Ujednolć konfigurację AI w środowiskach chmurowych i desktopowych, aby uzyskać większą elastyczność i kontrolę nad modelowaniem systemów.
Zacznij korzystać z narzędzi Visual Paradigm już dziś:
