İlk olarak, karar verme için kullanılabilir sonuçlar verin
Platformun tarafları Web ve API hizmetleri, çalışma süreçleri, veritabanı, önbellekler, nesne depolama, vektör retrieval, belge ve günlük izleme ayrı olduğunu düşünmek gerekir. Modelin tarafı bulut-end API, yerel modeller veya çok-model nedenleme ile ilgili olarak.Toplantılar aynı anda kaydedilir, tek yükleme dosyasının büyüklüğü, dokümanların hacmi, bilgi güncellemelerinin frekansı, düğümlerin ve kabul edilebilir yanıt süresine bağlıdır.
Yargılamadan önce hangi koşullar belirlenmelidir?
Aynı soru farklı iş, veri ve proje aşamaları altında farklı cevaplara sahip olabilir. Aşağıdaki koşulların kontrol edilmesi ve web'deki ortak bulguların kendi projelerine dahil edilmesi önerilir.
İleriye dönük bir emir
İlk olarak, hedef ve sınır hakkında net olacağız.
(b) Kullanıcıların temel alanını, görevleri, belgeleri, arayüzleri ve yanıt süresini işliyor.
Geçerlilik Anahtar Bağımlılığı
Platform, bilgi işleme ve modellemenin ayrı olarak kullanılması gerekir.
Değerlendirme edilebilir sonuçları Geliştirme
Basınç ve kapasite testleri gerçek dosyaları ve iş akışları kullanılarak yapılır.
Gerçek sonuçlarla bir sonraki adıma karar verdiğinizden emin olun.
P95 gecikmelerine dayanan üretim özellikleri, kuyruklar, kaynaklar ve başarısızlık sonuçları.
Gerçek işte nasıl anlıyorsunuz?
30 iç kullanıcı ile bir işletme, ancak büyük bir PDF hacmi ile günlük ve çok adımlı iş akışları, bilgi analizi ve geri ofis görevleri sadece bazen sorular ve cevaplar sormak isteyen yüzlerce kullanıcıdan daha yoğun olabilir.Eğer yerel modelleme talep edilirse, ayrı testler farklı modeller üzerinde yapılmalıdır, bağlam uzunluğu ve yalıtım, ve bir gösteri sunucusu doğrudan bir üretim yapılandırması olarak kabul edilemez.
En kolay pit adım at.
Sadece kayıtlı kullanıcılar tarafından tahmin edilen, gerçek görevler ve belge yükleri olmadan
Diffy'nin başarılı dağıtım üretimi kapasite başarısına eşit
kuyrukların büyüme, veritabanı, diskler ve vektör endeksleri takip edilmedi
Nasıl alınır ve doğruyu doğrulayacağız?
Kabul ve denetim, kabul edilen ve sorulan sorular ve cevaplar ile hedef ortamda gerçekleştirilecektir, belge yüklemeleri, bilgi ve iş akış görevlerinin güncellenmesi, P50, P95 yanıtları, kuyruk bekleme, hata oranı, CPU, bellek, disk ve model kaynakları; ve tam yedekleme restorasyonu, disk alarmı, hizmet yeniden başlatma ve sürüm geri uygulama.
tedarikçiler veya iç takımlar ile iletişim kurmaya hazırlanırken, mevcut süreçlerin, temsilci örneklerin, mevcut sistemlerin, zaman ve bütçe seviyelerinin getirilmesini tavsiye edilir. İlk olarak, bilinmeyen öğeler açıkça işaretlenir ve sonra karar tanıları kullanmak için yapılır, PoC, sabit menzilli projeler veya devam eden araştırma ve geliştirme, bu genellikle sınırları olmayan bir fiyat ve süre için doğrudan talepten daha güvenilirdir.