استفاده از AnythingLLM

AnythingLLM یک فریم‌ورک هوش مصنوعی متن‌باز است که به توسعه‌دهندگان امکان می‌دهد به‌راحتی مدل‌های بزرگ زبانی (LLM) را برای کاربردهای مختلف سفارشی‌سازی کنند و آموزش دهند. این پلتفرم با تمرکز بر انعطاف‌پذیری و مقیاس‌پذیری، ابزارها و کتاب‌خانه‌هایی را فراهم می‌کند تا کاربران بتوانند مدل‌های زبانی را مدیریت کنند و از آن‌ها در اپلیکیشن‌ها و سرویس‌های خود استفاده کنند.

شما به‌راحتی می‌توانید AnythingLLM را به LLM شخصی‌سازی‌شده‌ی خود بر بستر AIaaS آروان‌کلاد متصل کنید.

پیش از شروع باید یک درگاه AI در پنل کاربری آروان‌کلاد ساخته باشید و با ساخت ماشین یوزر یک کلید دسترسی معتبر دریافت کرده باشید.

بر اساس سیستم‌عامل‌تان از صفحه‌ی رسمی AnythingLLM در گیت‌هاب یا وب‌سایت AnythingLLM نسخه‌ی موردنظرتان را دانلود و نصب کنید.

پس از نصب اپلیکیشن آن را اجرا کرده و در قسمت LLM Providers گزینه‌ی Generic OpenAI را انتخاب کنید.

در ادامه‌ی این صفحه باید مقادیر زیر را وارد کنید:

در بخش Base URL، آدرس درگاه AI را وارد کنید. این آدرس در تب «مشخصات» صفحه‌ی درگاه با عنوان «آدرس AI gateway» نمایش داده می‌شود.
در قسمت API Key، کلید دسترسی‌ای را که از پنل دریافت کرده‌اید وارد کنید.
در Chat Model Name، نام یکی از مدل‌هایی را که برای درگاه انتخاب کرده‌اید بنویسید. برای نمونه: deepseek/deepseek-r1
مقدار Token Context Window را بر اساس مدل و برابر با Context Length قرار دهید.
Max Token به معنای بیش‌ترین تعداد توکن تولید‌شده به‌وسیله‌ی مدل است.

توجه داشته باشید که مقدار Max Token باید از قانون زیر پیروی کند:
```
Max Token < Context Length - Prompt Token Count
```
برای نمونه، اگر Context Length مدل انتخابی 40K باشد، مجموع Max Token و Token Context Window باید کم‌تر از 40K باشد.

در پایان روی دکمه‌ی ادامه کلیک کنید. با تایید قوانین، وارد صفحه‌ی ساخت Workspace می‌شوید. در این صفحه یک نام دل‌خواه وارد کنید و آن را ذخیره کنید.

با ورود به محیط AnythingLLM و با کلیک روی نام Workspace از منوی سمت چپ می‌توانید شروع به گفت‌وگو با مدل زبانی‌تان کنید.