Home / FAQs / AI Feuille de travail intelligente, co-associée, efficacité de la recherche et du développement et sécurité des applications
QUESTION & ANSWER

Quelle est la plage de référence du test AI appliqué par Red Team?

Les tests de l'équipe AI Red non seulement répondent aux violations des modèles, mais couvrent également les conseils d'injection, la surautorisation, l'utilisation abusive des outils, la migration des données, la confusion d'identité, le risque après sortie entre le système en aval et les fuites de log. La portée des tests est déterminée par les données qui peuvent être lues et les actions mises en œuvre.

Répondez à la question.

Premièrement, donner des conclusions qui peuvent être utilisées pour la prise de décisions

Le testeur essaie d'injecter des bouts directs et indirects, des accès de maintien ou de rôle croisé, d'induire des outils de haute autorité, d'intégrer des instructions dans des documents, de contourner les approbations, de contaminer la mémoire à long terme, des bouts de système de fuite ou des données sensibles, et de vérifier si les défaillances sont surveillées et retracées.

DECISION FACTORS

Quelles conditions faut-il définir avant de porter un jugement?

La même question peut avoir des réponses différentes dans différentes phases d'activité, de données et de projet. Il est suggéré de vérifier les conditions suivantes et d'intégrer les conclusions communes sur le web dans leurs propres projets.

Application de la sensibilité aux données et des gammes d'utilisateurs accessiblesOutils, actions et conséquences irréversibles pour l'agentRéception de contenus non fiables tels que pages Web, courrier, pièces jointes, etc.si les modèles, les connaissances, les plugins et les interfaces d'affaires changent constamment
ACTION STEPS

Ordre d ' avancement suggéré

01

Premièrement, nous serons clairs sur la cible et la frontière.

Combiner les flux de données, les limites de confiance, les rôles des utilisateurs, les outils et les mesures à haut risque.

02

Validation Dépendance des clés

Établir un ensemble de tests pour les vires normales, malveillantes, ultra vires, conflits et échec.

03

Élaboration de résultats évaluables

Effectuer et conserver les données d'entrée, de version, d'appel et de résultat dans un environnement séparé.

04

Assurez-vous de décider de la prochaine étape avec les résultats réels.

La remise en état a été achevée et des échantillons d'attaque clés ont été incorporés au retour en cours.

PRACTICAL EXAMPLE

Comment le comprenez-vous dans le business réel?

Exemple utilisé pour illustrer la méthode de jugement

L'acheteur lit le courrier du fournisseur et crée un enregistrement de valeur. L'agresseur peut cacher les instructions pour

COMMON RISKS

La fosse la plus facile à monter.

Seulement le test de la décharge publique.

Mise en œuvre directe d'une attaque dans un environnement de production qui peut avoir de réelles conséquences opérationnelles

Aucun échantillon de régression n'a été retenu après modification et des lacunes ont été réémergées lorsque les modèles ont été améliorés.

ACCEPTANCE

Comment devrions-nous finir par recevoir et confirmer?

Le rapport devrait comprendre des actifs, des limites de confiance, des méthodes d'essai, des répercussions, des conditions de recouvrement, des éléments de preuve, un niveau de risque, des recommandations de correction et des constatations.

En se préparant à communiquer avec les fournisseurs ou les équipes internes, il est recommandé d'apporter les processus actuels, des échantillons représentatifs, des systèmes existants, des délais de planification et des niveaux budgétaires. Premièrement, les éléments inconnus sont clairement marqués, et la décision est alors prise d'utiliser des diagnostics, PoC, des projets à fourchette fixe ou des recherches et développements en cours, qui sont généralement plus fiables qu'une demande directe de prix et de durée sans frontières.

Les conditions de votre projet sont différentes des exemples ci-dessus?

Les objectifs opérationnels, les systèmes existants, les échantillons et le temps prévu pourraient être rassemblés avant que les consultants ne puissent rendre des jugements préliminaires en ce qui concerne les limites réelles.

Consultants associés pour les projets