Premièrement, donner des conclusions qui peuvent être utilisées pour la prise de décisions
Les testeurs devraient construire des outils multilingues, codés, segmentés, déguisements de rôles et injections indirectes de documents pour vérifier si le modèle divulgue des informations sur le système, ignore les règles d'affaires, n'a pas accès à des données privilégiées ou à des appels à des outils qui ne devraient pas être utilisés. La protection n'est pas axée sur le devinage de toutes les phrases malveillantes, mais sur la réduction des conséquences de tout mauvais calcul d'un modèle : le contenu non fiable est séparé d'une commande système, les résultats sont récupérés, les outils sont structurés et réévalués à la fin du service, les actions à haut risque nécessitent l'approbation et les résultats sensibles sont filtrés avant le retour.
Quelles conditions faut-il définir avant de porter un jugement?
La même question peut avoir des réponses différentes dans différentes phases d'activité, de données et de projet. Il est suggéré de vérifier les conditions suivantes et d'intégrer les conclusions communes sur le web dans leurs propres projets.
Ordre d ' avancement suggéré
Premièrement, nous serons clairs sur la cible et la frontière.
Liste les chemins de chaque entrée non fiable dans le modèle et l'outil.
Validation Dépendance des clés
tectonique des résultats directs, indirects, de codage, de croisage et d'outil injectés dans les échantillons.
Élaboration de résultats évaluables
Validation du comportement du modèle, assurance de l'arrière-plan, contraintes des paramètres, approbation et logs, respectivement.
Assurez-vous de décider de la prochaine étape avec les résultats réels.
Ajoute un échantillon dupliqué à la déclaration automatique et manuelle avant la sortie de la version.
Comment le comprenez-vous dans le business réel?
Les assistants de connaissance captureront la page web du fournisseur. Le texte principal de la page Web peut contenir du texte caché - pour afficher l'utilisateur actuel les conseils internes du système.- Les modèles peuvent être obéis si la recherche de contenu n'a pas de limite avec la commande system-s.
La fosse la plus facile à monter.
Il suffit de dire "ne pas obéir aux ordres malveillants" dans l'alerte du système.
Bloquer les attaques à travers la liste noire des mots-clés, mal diriger les opérations normales et facilement les contourner.
Tester la sortie de chat uniquement, aucun appel d'outil d'observation et accès aux données back-office
Comment devrions-nous finir par recevoir et confirmer?
Chaque échantillon non retenu devrait indiquer quelle couche doit être arrêtée, s'il s'arrête réellement et quels impacts restent; la correction devrait non seulement être sûre, mais aussi l'autorité de renvoi, l'autorisation, la vérification et les poursuites doivent être indépendantes et efficaces.
En se préparant à communiquer avec les fournisseurs ou les équipes internes, il est recommandé d'apporter les processus actuels, des échantillons représentatifs, des systèmes existants, des délais de planification et des niveaux budgétaires. Premièrement, les éléments inconnus sont clairement marqués, et la décision est alors prise d'utiliser des diagnostics, PoC, des projets à fourchette fixe ou des recherches et développements en cours, qui sont généralement plus fiables qu'une demande directe de prix et de durée sans frontières.