استفاده از AnythingLLM
AnythingLLM یک فریم‌ورک هوش مصنوعی متن‌باز است که به توسعه‌دهندگان امکان می‌دهد به‌راحتی مدل‌های بزرگ زبانی (LLM) را برای کاربردهای مختلف سفارشی‌سازی کنند و آموزش دهند. این پلتفرم با تمرکز بر انعطاف‌پذیری و مقیاس‌پذیری، ابزارها و کتاب‌خانه‌هایی را فراهم می‌کند تا کاربران بتوانند مدل‌های زبانی را مدیریت کنند و از آن‌ها در اپلیکیشن‌ها و سرویس‌های خود استفاده کنند.
شما به‌راحتی می‌توانید AnythingLLM را به LLM شخصی‌سازی‌شده‌ی خود بر بستر AIaaS آروان‌کلاد متصل کنید.
پیش از شروع باید Endpoint مدل موردنظرتان را در پنل کاربری آروان‌کلاد ساخته باشید و یک کلید دسترسی معتبر دریافت کرده باشید. راهنماهای زیر به شما در این مسیر کمک می‌کنند:
بر اساس سیستم‌عامل‌تان از صفحه‌ی رسمی AnythingLLM در گیت‌هاب یا وب‌سایت AnythnigLLM نسخه‌ی موردنظرتان را دانلود و نصب کنید.
پس از نصب اپلیکیشن آن را اجرا کرده و در قسمت LLM Providers گزینه‌ی Generic OpenAI را انتخاب کنید.
در ادامه‌ی این صفحه باید مقادیر زیر را وارد کنید:
-
در بخش Base URL باید ادرس Endpoint سرویس هوش مصنوعی آروان‌کلاد که در اختیارتان قرار گرفته را قرار دهید.
-
در قسمت API Key کلید دسترسی‌ای که از پنل دریافت کردید را وارد کنید.
-
در Chat Model Name نام مدل انتخاب‌شده هنگام ساخت Endpoint را بنویسید. برای نمونه: deepseek/deepseek-r1
-
مقدار Token Context Window را بر اساس مدل و برابر با Context Length قرار دهید.
-
Max Token به معنای بیش‌ترین تعداد توکن تولید‌شده به‌وسیله‌ی مدل است.
توجه داشته باشید که مقدار Max Token باید از قانون زیر پیروی کند:
Max Token < Context Length - Prompt Token Countبرای نمونه، اگر Context Length مدل انتخابی 40K باشد، مجموع Max Token و Token Context Window باید کم‌تر از 40K باشد.
در پایان روی دکمه‌ی ادامه کلیک کنید. با تایید قوانین به صفحه‌ی ساخت Work Space می‌شوید. کافی است یک نام دل‌خواه وارد و آن را ذخیره کنید.
با ورود به محیط AnythingLLM و با کلیک روی نام Workspace از منوی سمت چپ می‌توانید شروع به گفت‌وگو با مدل زبانی‌تان کنید.
