استفاده از AnythingLLM
AnythingLLM یک فریمورک هوش مصنوعی متنباز است که به توسعهدهندگان امکان میدهد بهراحتی مدلهای بزرگ زبانی (LLM) را برای کاربردهای مختلف سفارشیسازی کنند و آموزش دهند. این پلتفرم با تمرکز بر انعطافپذیری و مقیاسپذیری، ابزارها و کتابخانههایی را فراهم میکند تا کاربران بتوانند مدلهای زبانی را مدیریت کنند و از آنها در اپلیکیشنها و سرویسهای خود استفاده کنند.
ش ما بهراحتی میتوانید AnythingLLM را به LLM شخصیسازیشدهی خود بر بستر AIaaS آروانکلاد متصل کنید.
پیش از شروع باید Endpoint مدل موردنظرتان را در پنل کاربری آروانکلاد ساخته باشید و یک کلید دسترسی معتبر دریافت کرده باشید. راهنماهای زیر به شما در این مسیر کمک میکنند:
بر اساس سیستمعاملتان از صفحهی رسمی AnythingLLM در گیتهاب یا وبسایت AnythnigLLM نسخهی موردنظرتان را دانلود و نصب کنید.
پس از نصب اپلیکیشن آن را اجرا کرده و در قسمت LLM Providers گزینهی Generic OpenAI را انتخاب کنید.
در ادامهی این صفحه باید مقادیر زیر را وارد کنید:
-
در بخش Base URL باید ادرس Endpoint سرویس هوش مصنوعی آروانکلاد که در اختیارتان قرار گرفته را قرار دهید.
-
در قسمت API Key کلید دسترسیای که از پنل دریافت کردید را وارد کنید.
-
در Chat Model Name نام مدل انتخابشده هنگام ساخت Endpoint را بنویسید. برای نمونه: deepseek/deepseek-r1
-
مقدار Token Context Window را بر اساس مدل و برابر با Context Length قرار دهید.
-
Max Token به معنای بیشترین تعداد توکن تولیدشده بهوسیلهی مدل است.
توجه داشته باشید که مقدار Max Token باید از قانون زیر پیروی کند:
Max Token < Context Length - Prompt Token Countبرای نمونه، اگر Context Length مدل انتخابی 40K باشد، مجموع Max Token و Token Context Window باید کمتر از 40K باشد.
در پایان روی دکمهی ادامه کلیک کنید. با تایید قوانین به صفحهی ساخت Work Space میشوید. کافی است یک نام دلخواه وارد و آن را ذخیره کنید.
با ورود به محیط AnythingLLM و با کلیک روی نام Workspace از منوی سمت چپ میتوانید شروع به گفتوگو با مدل زبانیتان کنید.
