Trí tuệ nhân tạo giúp đơn giản hóa các quy trình mô hình hóa, lập trình và kiến trúc, nhưng nhiều tổ chức yêu cầu các nhà cung cấp mô hình ngôn ngữ lớn (LLM) tùy chỉnh cụ thể hoặc các cấu hình API nghiêm ngặt để phù hợp với các chính sách về bảo mật, hiệu suất hoặc chi phí.Visual Paradigm hỗ trợ tích hợp điểm cuối LLM tùy chỉnh, cho phép các nhóm kết nối khóa API và mô hình ngôn ngữ của riêng mình để cung cấp năng lượng cho các tính năng AI trên cả công cụ đám mây và máy tính để bàn.
Lợi ích chính của việc kết nối điểm cuối LLM của riêng bạn
Kết nối nhà cung cấp LLM tùy chỉnh mang lại nhiều lợi ích cho kiến trúc sư hệ thống, nhà phát triển và các nhóm doanh nghiệp:
- Lựa chọn nhà cung cấp toàn diện: Mang theo các nhà cung cấp mô hình AI ưa thích của riêng bạn và tận dụng các khóa API tùy chỉnh trực tiếp trong không gian làm việc của bạn.
- Đồng bộ hóa đa nền tảng: Cấu hình cài đặt một lần trong không gian làm việc trên web, và các cài đặt máy tính để bàn được kết nối sẽ ngay lập tức sử dụng cùng một cấu hình LLM.
- Kiểm soát tham số nâng cao: Điều chỉnh các hành vi AI đã được tinh chỉnh, chẳng hạn như ngân sách suy nghĩ và mức độ lập luận, cho các mô hình hỗ trợ tùy chỉnh tham số.
- Đảm bảo chất lượng đã được xác minh: Dễ dàng xác định các mô hình đã được Visual Paradigm thử nghiệm và xác minh để đảm bảo hiệu suất tối ưu và định dạng đầu ra.
Hướng dẫn từng bước: Cấu hình cài đặt LLM tùy chỉnh
Bước 1: Truy cập bảng cấu hình LLM
Đăng nhập vào không gian làm việc của bạn trong Visual Paradigm Online. Khởi chạy một công cụ dựa trên AI, chẳng hạn như Công cụ AI Chatbot hoặc Trình chỉnh sửa VPasCode. Nhấp vào biểu tượng avatar của bạn ở góc trên bên phải của giao diện và chọn Cấu hình LLM từ menu.
Bước 2: Chọn nhà cung cấp và nhập khóa API
Trong hộp thoại cấu hình, hãy chọn nhà cung cấp LLM ưa thích của bạn từ danh sách. Dán khóa API hợp lệ của bạn vào trường được chỉ định để thiết lập xác thực.
Bước 3: Chọn và xác minh mô hình LLM của bạn
Chọn mô hình cụ thể bạn muốn sử dụng từ menu thả xuống chọn mô hình. Nếu bạn chọn một mô hình chưa được xác minh, một cảnh báo thông báo sẽ xuất hiện. Mở rộng phầnMô hình đã xác minhđể duyệt qua các mô hình đã được kiểm tra và phê duyệt nhằm đảm bảo chất lượng đầu ra nhất quán.
Bước 4: Cấu hình các hành vi nâng cao của mô hình (Tùy chọn)
Nếu mô hình bạn chọn hỗ trợ các tham số suy luận bổ sung, hãy cấu hình các tùy chọn nhưNgân sách suy nghĩhoặcMức độ suy nghĩđể kiểm soát độ sâu của lập luận cho các tác vụ phức tạp.
Bước 5: Lưu và áp dụng cài đặt trên tất cả các công cụ
Nhấp vàoLưu thay đổiđể áp dụng cấu hình của bạn. Mô hình LLM đã chọn của bạn sẽ ngay lập tức bắt đầu cung cấp năng lượng cho các công cụ AI, bao gồmTrò chuyện tự độngtiện ích vàVPasCodeHơn nữa, nếu bạn sử dụng ứng dụng máy tính để bàn được kết nối với cùng kho lưu trữ trực tuyến, các tính năng tạo sơ đồ AI cục bộ sẽ tự động định tuyến các yêu cầu qua điểm cuối LLM tùy chỉnh đã được cấu hình của bạn.
Các ứng dụng và khả năng được hỗ trợ
- Công cụ AI trên đám mây:Nâng cao các tính năng trợ lý tương tác trong các ứng dụng web và trình tạo mã.
- Tạo sơ đồ trên máy tính để bàn:Kết nối các cài đặt LLM được xác định trên đám mây với phần mềm khách hàng cục bộ để hỗ trợ mô hình hóa UML và hệ thống bằng AI.
- Nền tảng tài liệu:Tích hợp với quy trình viết bên trongOpenDocsmôi trường để tạo báo cáo tự động.
Làm chủ quy trình làm việc AI của bạn
Thống nhất cấu hình AI của bạn trên cả môi trường đám mây và máy tính để bàn để có thêm linh hoạt và kiểm soát tốt hơn đối với mô hình hóa hệ thống.
Bắt đầu sử dụng các công cụ Visual Paradigm ngay hôm nay:
