پرش به مطلب اصلی

هوش مصنوعی

سرویس هوش مصنوعی (AIaaS) آروان‌کلاد به توسعه‌دهندگان و تیم‌ها کمک می‌کند تا با استفاده از API Endpointهای امن و قابل سفارشی‌سازی به مدل‌های زبانی (LLM) قدرت‌مند دسترسی پیدا کنند. به‌کمک این سرویس کاربران می‌توانند از میان LLMهای موجود انتخاب کرده و آن‌ها را از طریق APIهای خصوصی با کلیدهای دسترسی اختصاصی راه‌اندازی کنند.

AIaaS آروان‌کلاد با تمرکز بر انعطاف‌پذیری، سادگی استفاده و مقیاس‌پذیری طراحی شده است و پیچیدگی‌های زیرساختی استفاده از LLMها در محیط‌های عملیاتی را کاهش می‌دهد.

قابلیت‌ها

از مهم‌ترین ویژگی‌های سرویس هوش مصنوعی آروان‌کلاد می‌توان به موارد زیر اشاره کرد:

  • ایجاد سریع Endpoint: ایجاد فوری نقطه دسترسی API خصوصی و مرتبط با هر مدل.

    شما می‌توانید چند مدل با چند Endpoint داشته باشید.

  • انتخاب مدل: انتخاب آسان از میان لیستی از مدل‌های LLM با کارایی بالا از طریق رابط گرافیکی تحت وب.

  • دسترسی امن: دسترسی به API فقط با کلیدهای امنیتی تولیدشده به‌وسیله کاربر.

  • نظارت بر استفاده از توکن‌ها: مشاهده‌ی گزارش‌های متنی و نمودارهای تعاملی از میزان ورودی/خروجی توکن و هزینه‌های مربوط به مدل‌ها.

  • محدودیت نرخ درخواست: تنظیم محدودیت تعداد درخواست‌ها (Rate Limit) بر اساس ثانیه یا دقیقه برای هر Endpoint.

  • مدل‌های میزبانی‌شده: برخی از مدل‌ها به‌طور مستقیم روی زیرساخت ما میزبانی می‌شوند تا عملکرد بهینه و تاخیر کم‌تری را تجربه کنید.

  • پایگاه دانش: این قابلیت با دریافت داده‌های اختصاصی شما این امکان را فراهم می‌کند تا از هوش مصنوعی پاسخ‌هایی بر اساس داده‌های خودتان دریافت کنید.

محدودیت‌ها

  • در حال حاضر قابلیت Fine-Tune یا Train مدل‌ها وجود ندارد.

  • تاریخچه‌ی گفت‌وگوها و تعامل‌های Stateful بین درخواست‌های API ذخیره نمی‌شوند.

توجه داشته باشید که در سرویس هوش مصنوعی آروان‌کلاد هیچ داده‌ای از تاریخچه‌ی گفت‌وگوی کاربران ذخیره نمی‌شود.