Müşteri Girişi
Giriş YapUpScanX yapay zeka izleme, ürününüzün bağlı olduğu chat, embedding ve görüntü işleme API'lerini gözetler. Her kontrolde model uç noktanıza bir test istemi gönderir, yanıtın ne kadar sürdüğünü ölçer ve yanıtın beklentinizle eşleştiğini doğrularız; bir model yavaşladığı, yanlış çıktı döndürdüğü veya yanıt vermeyi bıraktığı anda sizi uyarırız.
Yapay Zeka Uç Noktası Sağlığı
Modeller Yanıt VeriyorLLM Pulse · p95 1.8 sn · %100 çalışma süresi
Vision · p95 6.2 sn · sınır 5 sn
LLM Pulse · beklenen ifade eksik
Her kontrolde model uç noktanıza, tıpkı ürününüzün çağırdığı şekilde, sabit bir istem gönderin.
Her kontrolde tam yanıta kadar geçen süreyi ölçün ve kabul edebileceğiniz en yavaş yanıt süresini belirleyin.
Doğru bir yanıtın neye benzediğini tanımlayın ve model farklı bir şey döndürdüğünde uyarı alın.
Yalnızca chat'i değil, daha fazlasını izleyin: embedding ve görüntü analizi uç noktaları da aynı zamanlanmış kontrollerden geçer.
Süresi dolmuş anahtarları, hız sınırlarını ve sağlayıcı kesintilerini uç noktanıza ulaştıkları anda yakalayın.
Yapay zeka izleyicileri, diğer izleyicilerinizle aynı çalışma süresi, olay sayısı ve gruplama özelliklerine sahiptir.
Her TürYapay Zeka Uç Noktasını İzleyin
Chat Completions
/v1/chat/completions gibi sohbet uç noktaları, gerçek bir test istemiyle kontrol edilir.
Responses API'leri
/v1/responses gibi yanıt tarzı uç noktalar, beklediğiniz yanıta göre doğrulanır.
Embedding'ler
Arama ve RAG altyapısının arkasındaki vektör uç noktaları, geçerli ve boş olmayan bir sonuç için kontrol edilir.
Görüntü İşleme
Görüntü analizi ve çok modlu uç noktalar, erişilebilirlik ve yanıt süresi açısından izlenir.
Kendi Sunucunuzdaki Modeller
Kendi GPU'larınızda veya çıkarım sunucularınızda, herhangi bir HTTPS URL'si arkasında çalıştırdığınız modeller.
Yapay Zeka Ağ Geçitleri ve Proxy'ler
Trafiğinizi bir veya daha fazla model sağlayıcısına yönlendiren ağ geçitleri ve proxy'ler.
Her HTTP Model API'si
Ürününüz HTTPS üzerinden çağırıyorsa, UpScanX ona bir test isteği gönderebilir.
Yapay Zeka ile ÇalışanÜrünler İçin Tasarlandı
Yapay Zeka Asistanları ve Sohbet Botları
Asistanınızın arkasındaki model yanıt vermeyi bıraktığında veya yavaş yanıt vermeye başladığında bunu hemen öğrenin.
RAG ve Anlamsal Arama
Arama ve erişim hattınızın bağlı olduğu embedding uç noktasının geçerli vektörler döndürmeye devam ettiğinden emin olun.
Üçüncü Taraf Model Sağlayıcıları
Sağlayıcının kendi durum sayfasına güvenmek yerine, yapay zeka sağlayıcınızın gerçekte nasıl performans gösterdiğine dair bağımsız veriler edinin.
Bir Yapay Zeka Uç Noktası Arızalandığında
Zaman aşımları veya 5xx hataları
HTTP 200, hatalı içerik
Eşiğin üzerinde gecikme
UpScanX yapay zeka izleme ile: HTTP 200 yeterli değildir; yalnızca sunucu çöktüğünde değil, yanıtın kendisi yanlış olduğunda da haberdar olursunuz.
Sıkça SorulanSorular
Yapay zeka izleme nedir?
Yapay zeka izleme, ürününüzün bağlı olduğu yapay zeka modelleri için sentetik izlemedir. UpScanX; chat, embedding veya görüntü işleme uç noktanıza sabit aralıklarla bir test istemi gönderir, gecikmeyi ölçer, yanıtı beklentilerinize göre kontrol eder ve bir şeyler ters gittiğinde sizi uyarır.
Yapay zeka izleme, normal API izlemeden nasıl farklıdır?
Normal bir API kontrolü genellikle durum kodunda durur. Yapay zeka uç noktaları ise yanıt boş, kesik, yavaş veya yanlış olduğunda bile çoğu zaman HTTP 200 döndürür. Yapay zeka izleyicileri gerçek bir istem gönderir ve yanıtın hem içeriğini hem de süresini doğrular.
Hangi yapay zeka uç noktalarını izleyebilirim?
HTTPS üzerinden erişebildiğiniz her model API'sini: Chat Completions ve Responses uç noktaları, embedding'ler, görüntü işleme ve görüntü analizi, kendi sunucunuzda barındırılan çıkarım sunucuları ve yapay zeka ağ geçitleri. URL'yi, başlıkları ve istek gövdesini siz sağlarsınız.
Test istemleri yapay zeka sağlayıcı faturamı artırır mı?
Her kontrol küçük bir istek gönderir; bu nedenle maliyet, kontrol aralığınıza ve istem boyutunuza bağlıdır. Token kullanımını en aza indirmek için test istemini kısa tutun ve 5 veya 10 dakika gibi bir aralık seçin.
Bir model arızalandığında nasıl bilgilendirilirim?
Yapay zeka izleyicileri, UpScanX'in geri kalanıyla aynı uyarı kanallarını kullanır: e-posta, Slack, Telegram, Microsoft Teams ve webhook'lar. Her izleyicinin hangi kanallara bildirim göndereceğini siz seçersiniz.
Yapay zeka uyarılarını Slack, Microsoft Teams veya kendi webhook'unuzda mı almak istiyorsunuz?
Entegrasyonları Görünİlgili İzleme Hizmetleri
API İzleme
REST API'leri, GraphQL uç noktalarını ve web hizmetlerini yanıt doğrulama ve performans takibiyle izleyin.
Yapay Zeka Destekli Raporlar
İzleme verilerini anomali tespitine, tahminlere ve kök neden içgörülerine dönüştürün.
Durum Sayfası
Yapay zeka olaylarını markalı, herkese açık bir durum sayfasında kullanıcılarınıza duyurun.