İlk olarak, karar verme için kullanılabilir sonuçlar verin
İş Ajanı genellikle kullanıcı girişi, web sayfası, posta, belge ve araç çıktısını aynı anda ele alır, tüm bunlar kötü niyetli veya çatışma talimatlarına tabi olabilir. ayrıcalıklar yalnızca “başka bir müşteri verilerini okumaz” gibi kelimelere güvenirse, model, bir kez yanlış hesaplanabilir, doğru tasarım kullanıcı kimliğini, Ajan kimliği, rolü, kaynak aralığı, eylem hattını ve onay kuralları kesin bir sisteme güvenir; model yalnızca bir aday eylemi önerir;
Yargılamadan önce hangi koşullar belirlenmelidir?
Aynı soru farklı iş, veri ve proje aşamaları altında farklı cevaplara sahip olabilir. Aşağıdaki koşulların kontrol edilmesi ve web'deki ortak bulguların kendi projelerine dahil edilmesi önerilir.
İleriye dönük bir emir
İlk olarak, hedef ve sınır hakkında net olacağız.
Liste ve tüm araçları ve verileri sıralayın.
Geçerlilik Anahtar Bağımlılığı
Kullanıcılar ve Agent için bağımsız kimlikler ve minimum izinler oluşturun.
Değerlendirme edilebilir sonuçları Geliştirme
Kaynakların, parametrelerin, ölçeklerin ve operasyonel statüsünün araç seviyesindeki geçerliliği.
Gerçek sonuçlarla bir sonraki adıma karar verdiğinizden emin olun.
Elli onayı artırmak, yüksek riskli operasyonların denetim ve acil durum denetlenmesi.
Gerçek işte nasıl anlıyorsunuz?
Posta asistanı kötü niyetli talimatlar içeren bir e-postayı okudu ve model, müşteriyi aracı ihraç etmeye çağırmaya çalışır.Eğer araç hizmeti yalnızca modelde inanıyorsa, veri sızıntısına neden olabilir; eğer hizmet sağlayıcı mevcut çalışan durumuna göre doğrulamayı uygularsa, müşteri bağımlılığı reddedilir ve ihracat onayı kaydedilir, istek kaydedilir ve güvenlik olayları kaydedilir.
En kolay pit adım at.
Daha uzun bir sistem ipucu daha güçlü bir ayrıcalıklara eşit olarak düşünülür
Birden çok Agents süper-admin hesabı paylaşıyor.
Sadece model cevapları, araç parametreleri ve uygulama sonuçlarının değil
Nasıl alınır ve doğruyu doğrulayacağız?
Güvenlik testleri enjeksiyonları kapsamalıdır, over-writerization, tampering with parameter, the tools to konteynır, tekrarlanan yürütme ve izin verme. Model çıktı hatası komutunu takip etmese bile, dış yetki seviyeleri hareket etmeyi bırakmalı ve kullanıcıların tam bir denetim zincirini terk etmelidir, Agent, araçlar ve sonuçlar.
tedarikçiler veya iç takımlar ile iletişim kurmaya hazırlanırken, mevcut süreçlerin, temsilci örneklerin, mevcut sistemlerin, zaman ve bütçe seviyelerinin getirilmesini tavsiye edilir. İlk olarak, bilinmeyen öğeler açıkça işaretlenir ve sonra karar tanıları kullanmak için yapılır, PoC, sabit menzilli projeler veya devam eden araştırma ve geliştirme, bu genellikle sınırları olmayan bir fiyat ve süre için doğrudan talepten daha güvenilirdir.