Kecerdasan buatan membantu merampingkan alur kerja pemodelan, pengkodean, dan arsitektur, namun banyak organisasi memerlukan penyedia model bahasa besar (LLM) kustom tertentu atau konfigurasi API yang ketat untuk menyelaraskan dengan kebijakan keamanan, kinerja, atau biaya.Visual Paradigm mendukung integrasi titik akhir LLM kustom, memungkinkan tim untuk menghubungkan kunci API dan model bahasa mereka sendiri guna mengaktifkan fitur AI di alat berbasis cloud dan desktop.
Manfaat Utama Menghubungkan Titik Akhir LLM Anda Sendiri
Menghubungkan penyedia LLM kustom menawarkan beberapa keuntungan bagi arsitek sistem, pengembang, dan tim perusahaan:
- Pilihan Penyedia Penuh: Bawa penyedia model AI pilihan Anda sendiri dan manfaatkan kunci API kustom langsung di dalam ruang kerja Anda.
- Sinkronisasi Lintas Platform: Konfigurasi pengaturan sekali di ruang kerja web, dan instalasi desktop yang terhubung akan secara instan memanfaatkan pengaturan LLM yang sama.
- Kontrol Parameter Lanjutan: Sesuaikan perilaku AI yang telah disempurnakan, seperti anggaran pemikiran dan tingkat penalaran, untuk model yang mendukung kustomisasi parameter.
- Jaminan Kualitas Terverifikasi: Dengan mudah identifikasi model yang telah diuji dan diverifikasi oleh Visual Paradigm untuk memastikan kinerja optimal dan format output.
Panduan Langkah demi Langkah: Mengonfigurasi Pengaturan LLM Kustom
Langkah 1: Akses Panel Konfigurasi LLM
Masuk ke ruang kerja Anda di Visual Paradigm Online. Luncurkan alat berbasis AI, seperti Alat AI Chatbot atau Editor VPasCode. Klik ikon avatar Anda di sudut kanan atas antarmuka dan pilih Konfigurasi LLM dari menu.
Langkah 2: Pilih Penyedia dan Masukkan Kunci API
Dalam dialog konfigurasi, pilih penyedia LLM yang Anda inginkan dari daftar. Tempelkan kunci API yang valid Anda ke bidang yang ditentukan untuk menetapkan autentikasi.
Langkah 3: Pilih dan Verifikasi Model LLM Anda
Pilih model spesifik yang ingin Anda gunakan dari daftar pemilihan model. Jika Anda memilih model yang belum diverifikasi, notifikasi peringatan akan muncul. Perluas bagianModel yang Terverifikasiuntuk menelusuri model yang telah diuji dan disetujui untuk kualitas output yang konsisten.
Langkah 4: Konfigurasi Perilaku Model Lanjutan (Opsional)
Jika model yang Anda pilih mendukung parameter inferensi tambahan, konfigurasi opsi sepertiAnggaran BerpikiratauTingkat Berpikiruntuk mengontrol kedalaman penalaran untuk tugas-tugas kompleks.
Langkah 5: Simpan dan Terapkan Pengaturan di Seluruh Alat
KlikSimpan Perubahanuntuk menerapkan konfigurasi Anda. LLM yang Anda pilih akan segera mulai menggerakkan alat AI, termasukChatbotutilitas danVPasCode. Selain itu, jika Anda menggunakan aplikasi desktop yang terhubung ke repositori online yang sama, fitur generasi diagram AI lokal akan secara otomatis mengarahkan permintaan melalui endpoint LLM kustom yang telah dikonfigurasi.
Aplikasi dan Kapabilitas yang Didukung
- Alat AI Cloud:Meningkatkan fitur asisten interaktif dalam aplikasi web dan generator kode.
- Generasi Diagram Desktop:Menghubungkan pengaturan LLM yang didefinisikan di cloud ke perangkat lunak klien lokal untuk pemodelan UML dan sistem yang dibantu AI.
- Platform Dokumentasi:Terintegrasi dengan alur kerja penulisan di dalamOpenDocslingkungan untuk generasi laporan otomatis.
Kendalikan Alur Kerja AI Anda
Satukan konfigurasi AI Anda di lingkungan cloud dan desktop untuk fleksibilitas dan kontrol yang lebih besar atas pemodelan sistem.
Mulailah dengan alat Visual Paradigm hari ini:
