Für die Verschlüsselung mit dem exklusiven Oder steht ein Angriff (Ciphertext-only-Angriff) zur Verfügung, mit dessen Hilfe bei längeren verschlüsselten Dokumenten eventuell der Schlüssel und somit auch der Klartext ermittelt werden kann.
Die Analyse operiert in zwei Schritten:
Ermittlung der verwendeten Schlüssellänge
Ermittlung des eingesetzten Schlüssels
Die Schlüssellänge wird über die Autokorrelation berechnet. Da bei den meisten Dokumenten nicht alle Zeichen gleich häufig sind, ergibt sich der Effekt, dass die Wahrscheinlichkeit, dass zwei Zeichen gleich sind relativ groß ist, wenn sie ein Vielfaches der Schlüssellänge auseinander liegen. Daher ergibt sich bei einer Autokorrelationsanalyse eine typische Kamm-Formation, bei der die einzelnen Zinken genau den Abstand der Schlüssellänge haben. Sollte die automatische Erkennung der Schlüssellänge ein falsches Ergebnis liefern, so besteht die Möglichkeit, die Schlüssellänge manuell festzulegen.
Nach der Schlüssellänge wird der eigentlich verwendete Schlüssel ermittelt. Hierzu wird für jedes Zeichen des Schlüssels eine Häufigkeitsanalyse (siehe Histogramm) durchgeführt. Dabei geht CrypTool davon aus, dass das am häufigsten vorkommende Zeichen die binäre Null ist. Wenn bekannt ist, dass ein anderes Zeichen häufiger auftritt, kann dies im Dialog Automatische Analyse (Addition, exklusives Oder) eingetragen werden. Eine nachträgliche Korrektur ist mittels des binären exklusiven Oder des entsprechenden Zeichens nach der Analyse möglich.
Über den Dialog Optionen für automatische Analysen kann eingestellt werden, welche und wie viele Zwischenergebnisse als eigene Fenster angezeigt werden. Wird eines dieser Zwischenergebnisse mit Abbrechen anstelle von OK bestätigt, so erfolgt danach keine weitere Anzeige dieser Fenster oder untergeordneter Fenster. (Für eine genauere Erklärung, siehe automatischen Analyse des Vigenère-Verschlüsselungsverfahrens)
Es kann durchaus passieren, dass ein oder mehrere Teile des Schlüssels nicht korrekt ermittelt werden konnten.
Im Kapitel Szenarien befindet sich ein Beispiel zum Angriff auf das Verschlüsselungsverfahren.
Voraussetzungen an das Dokument für einen erfolgreichen Angriff:
Der Schlüssel wird immer gefunden, falls im unverschlüsselten Dokument das am häufigsten vorkommende Zeichen bekannt ist. Dabei ist die Länge des Dokuments unerheblich. Oft kennt man aber das am häufigsten vorkommende Zeichen eines Textes nicht. Siehe dazu das Szenario mit der Verschlüsselung durch binäres exklusives Oder.