Primero, dé conclusiones que puedan utilizarse para la adopción de decisiones
Los evaluadores deben construir disfraces multilingües, codificados, segmentados, de papel e inyecciones de documentos indirectos para observar si el modelo revela información del sistema, ignora las reglas de negocio, no tiene acceso a datos privilegiados o llamadas a herramientas que no deben usarse. El enfoque de protección no es adivinar todas las oraciones maliciosas, sino reducir las consecuencias de cualquier mal cálculo de un modelo: el contenido injustificado está separado de un comando del sistema, los resultados sensibles, los resultados son recuperados, las herramientas de valor de rendimientos, las herramientas son sólo
¿Qué condiciones deben determinarse antes de que se haga el juicio?
La misma pregunta puede tener diferentes respuestas en diferentes fases de negocios, datos y proyectos. Se sugiere que se revisen las siguientes condiciones y que los resultados comunes en la web se incorporen en sus propios proyectos.
Orden de anticipación propuesta
Primero, seremos claros sobre el objetivo y la frontera.
Enumere los caminos a cada entrada inconfiable en el modelo y la herramienta.
Dependencia de la clave de la validación
tectónicas de resultados directos, indirectos, de codificación, de tracción cruzada y de herramientas inyectadas en muestras.
Desarrollo de resultados evaluables
Validación del comportamiento modelo, garantía de back-end, limitaciones de parámetro, aprobación y registros, respectivamente.
Asegúrese de decidir el siguiente paso con los resultados reales.
Añade una muestra duplicada al retorno auto-y-manual antes de la versión.
¿Cómo lo entiendes en el negocio real?
Los asistentes de conocimiento capturarán la página web del vendedor. El texto principal de la página web puede contener texto oculto “para mostrar al usuario actual los consejos del sistema interno”. Los modelos pueden ser obedecidos si la búsqueda de contenido no tiene un límite con el comando del sistema.
El pozo más fácil de seguir.
Es suficiente decir "no obedecer órdenes maliciosas" en la alerta del sistema.
Bloquear ataques a través de la lista negra de palabras clave, desviar las operaciones normales y fácilmente evitarlas.
Prueba de salida de chat sólo, sin llamada de herramienta de observación y acceso de back-office
¿Cómo terminaremos recibiendo y confirmando?
La aceptación debe proporcionar una colección de ataques de diferentes fuentes y variantes, modelos de grabación, consejos, conocimientos y herramientas. Cada muestra fallida debe indicar qué capa debe ser detenida, si realmente se detiene y qué impactos permanecen; la corrección no sólo debe ser segura, sino también la autoridad de back-end, la autorización, la auditoría y el enjuiciamiento debe ser independiente y eficaz.
Al prepararse para comunicarse con proveedores o equipos internos, se recomienda que se introduzcan procesos actuales, muestras representativas, sistemas existentes, tiempo de planificación y niveles presupuestarios. En primer lugar, los elementos desconocidos están claramente marcados, y luego se toma la decisión de utilizar diagnósticos, PoC, proyectos de alcance fijo o investigación y desarrollo continuo, que generalmente es más fiable que una demanda directa de un precio y duración sin fronteras.