ساخت Endpoint

سرویس هوش مصنوعی (AIaaS) آروان‌کلاد به توسعه‌دهندگان و تیم‌ها کمک می‌کند تا با استفاده از API Endpointهای امن و قابل سفارشی‌سازی به مدل‌های زبانی (LLM) قدرت‌مند دسترسی پیدا کنند. به‌کمک این سرویس کاربران می‌توانند از میان LLMهای موجود انتخاب کرده و آن‌ها را از طریق APIهای خصوصی با کلیدهای دسترسی اختصاصی راه‌اندازی کنند.

برای شروع کار با AIaaS، وارد پنل کاربری آروان‌کلاد و بخش سرویس هوش مصنوعی (AIaaS) شوید. سپس از میان مدل‌های موجود، مدل موردنظرتان را انتخاب کنید.

در صفحه‌ی جدید باید یک نام یکتا برای Endpoint و تنظیمات Rate Limit آن را تعیین کنید.

با فعال کردن Rate Limit می‌توانید تعداد درخواست‌ها در هر دقیقه یا ثانیه را محدود کنید.

در پایان، با کلیک روی دکمه‌ی ساخت یک آدرس URL منحصربه‌فرد برای Endpoint دریافت خواهید کرد و می‌توانید از آن برای ارتباط با مدل استفاده کنید.

استفاده از API

برای استفاده از این Endpoint ابتدا باید یک کلید دسترسی یا ماشین‌یوزر بسازید. راهنمای ساخت کلید دسترسی در این مسیر به شما کمک می‌کند.

پس از دریافت کلید دسترسی می‌توانید مانند نمونه‌ی زیر، به مدلی که ساختید دسترسی پیدا کنید:

curl --location '[Endpoint]/v1/chat/completions' \  
--header 'Authorization: apikey ****' \  
--header 'Content-Type: application/json' \  
--data '{  
    "model": "DeepSeek-R1-qwen-7b-awq",  
    "messages": [  
        {"role": "user", "content": "چرا آسمان آبی است؟"}  
    ],  
    "max_tokens": 3000,  
    "temperature": 0.7  
}'  

توجه داشته باشید که Endpoint و کلید APIتان را باید در این درخواست جایگزین کنید.

با ارسال درخواست، مدل بر اساس تنظیمات و Prompt ورودی، پاسخ مناسب را تولید می‌کند. اگر در پاسخ با خطایی روبه‌رو شدید از درستی کلید API، محدودیت متناسب در نرخ درخواست‌ها و ارسال صحیح Prompt مطمین شوید.

خطا	راهکار
401 Unauthorized	مطمین شوید کلید API معتبر است و در هدر Authorization قرار دارد.
429 Too Many Requests	نرخ محدودیت درخواست را بررسی کنید.
پاسخ خالی	مطمین شوید که درخواست JSON معتبر و دارای فیلد prompt‍ است.

توجه داشته باشید که داده‌های کاربران در زیرساخت آروان‌کلاد ذخیره نمی‌شوند. هم‌چنین درخواست‌ها مستقل هستند و حافظه‌ای از تعاملات قبلی ندارد.

مدیریت Endpointها

با کلیک روی هر Endpoint می‌توانید مشخصات آن را مشاهده کنید. هم‌چنین در همین صفحه امکان بازتولید یا حذف کلید‌های دسترسی و تنظیم Rate Limit در اختیارتان قرار دارد.

هم چنین از تب «چت با مدل» می‌توانید با مدلی که ساختید گفت‌وگو کنید.

بخش مانیتورینگ نیز دید جامعی از ورودی و خروجی توکن‌ها در بازه‌های زمانی مختلف برایتان فراهم می‌کند.

توجه داشته باشید متریک‌ها به مدت ۳۰ روز نگه‌داری می‌شوند و متریک‌های قدیمی‌تر به‌شکل خودکار حذف می‌شوند تا متریک‌های جدید ذخیره‌ شوند.