Mit Deepfake-Simulationen testen Sie, wie Ihre Mitarbeitenden auf eine KI-Imitation in einem Videoanruf reagieren. Mitarbeitende erhalten per E-Mail eine Einladung zu einem Meeting und treten einem Anruf bei, der wie ein Microsoft-Teams-Anruf aussieht. Im Anruf stellt der Deepfake einer echten Person aus Ihrem Unternehmen (zum Beispiel Ihres CEO) eine verdächtige Bitte und postet einen Link in den Chat. Sie sehen, wie viele Mitarbeitende dem Anruf beigetreten sind und auf den Link geklickt haben. Wer auf den Link klickt, erfährt, woran der Angriff zu erkennen war.
Der Deepfake ist ein KI-generiertes Video einer echten Person aus Ihrem Unternehmen, die damit einverstanden ist. Bevor Sie die Simulation erstellen können, muss diese Person einwilligen und auf ihrem Smartphone oder Tablet ein Foto machen und ihre Stimme aufnehmen. Planen Sie dafür etwas Zeit ein und klären Sie früh, wer in Ihrem Unternehmen eingebunden werden muss, zum Beispiel beim Datenschutz oder bei der Arbeitnehmervertretung (zum Beispiel dem Betriebsrat).
Die Einwilligung steht an erster Stelle. Ein Deepfake wird erst erstellt, wenn die Person selbst zugestimmt hat, und nur für das Szenario, dem sie zugestimmt hat. Sie kann ihre Einwilligung jederzeit widerrufen. Der Deepfake wird dann sofort nicht mehr verwendet, und ihr Foto, ihre Stimme und ihr Deepfake werden innerhalb von 24 Stunden gelöscht.
So funktioniert eine Deepfake-Simulation
Eine Deepfake-Simulation wird wie eine Phishing-Simulation eingerichtet, nur mit einem Deepfake-Szenario statt eines regulären Phishing-Templates. Für Mitarbeitende läuft sie in 4 Schritten ab:
- Meeting-Einladung: Mitarbeitende erhalten eine E-Mail mit der Bitte, an einem kurzen Anruf teilzunehmen. Die E-Mail enthält einen Link, der wie ein Microsoft-Teams-Link aussieht.
- Der Anruf: Wer auf den Link klickt, sieht im Browser eine Meeting-Seite. Die Seite sieht aus wie Microsoft Teams, ist es aber nicht. Die Mitarbeitenden entscheiden, ob sie dem Anruf beitreten.
- Der Deepfake: Im Anruf läuft ein vorab aufgezeichnetes Deepfake-Video der Person aus Ihrem Unternehmen. Der Deepfake stellt eine dringende Bitte und postet einen Link in den Meeting-Chat.
- Lernmoment: Wer auf den Link im Chat klickt, landet auf einer Lernseite. Die Lernseite erklärt, dass der Anruf eine Simulation war und an welchen Warnsignalen man ihn hätte erkennen können.
Mitarbeitende können jederzeit aussteigen: Sie können die E-Mail ignorieren oder melden, dem Anruf nicht beitreten, den Anruf verlassen oder nicht auf den Link klicken. Alle, die dem Anruf beitreten, erhalten nach dem Video eine E-Mail. Die E-Mail erklärt, dass der Anruf eine Simulation war und die Person im Video mit KI erzeugt wurde.
Datenschutz und Einwilligung
Ein Deepfake nutzt Gesicht und Stimme einer echten Person. Deshalb ist die Einwilligung fest im gesamten Ablauf verankert:
- Sie können nur Deepfakes von Personen in Ihren Nutzerdaten erstellen, und nur, wenn diese selbst zustimmen. Niemand kann in ihrem Namen einwilligen.
- Der Deepfake erscheint nur in dem Szenario, dem die Person zugestimmt hat, und sagt nur, was im festen Skript des Szenarios steht.
- Die Einwilligung gilt 180 Tage. Die Person kann sie jederzeit widerrufen. Der Deepfake wird dann sofort nicht mehr verwendet, und ihr Foto, ihre Stimme und ihr Deepfake werden innerhalb von 24 Stunden gelöscht.
Alle Details finden Sie unter Datenschutz und Einwilligung bei der Deepfake-Simulation.
Szenarien
Ein Szenario legt die Geschichte der Simulation fest: die Einladungs-E-Mail, worum der Deepfake im Video bittet und den Link im Chat. SoSafe stellt die Szenarien bereit. Derzeit gibt es 2 Szenarien:
| Szenario | Was passiert | Wen Sie fragen | Für wen |
|---|---|---|---|
| CEO-Fraud | Ein Mitglied der Geschäftsführung bittet um eine dringende, vertrauliche Zahlung an einen neuen Partner und postet einen Link zur Zahlungsfreigabe in den Chat. | Ihren CEO oder CFO | Gedacht für Mitarbeitende, die Zahlungen freigeben oder auslösen können, zum Beispiel in der Finanzabteilung. Wir empfehlen, das Szenario nur an diese Gruppen zu senden. |
| IT-Support | Eine Person vom IT-Helpdesk bittet Mitarbeitende, wegen eines Sicherheitsupdates ihre Anmeldung auf einer verlinkten Seite zu bestätigen. | Eine IT-Fachkraft oder einen Admin | Alle Mitarbeitenden oder ausgewählte Gruppen. |
Bevor Sie beginnen
Für Deepfake-Simulationen brauchen Sie:
- Eine für Ihr Unternehmen aktivierte Deepfake-Simulation. Deepfake-Simulationen sind Teil des Advanced-Pakets. Für die Aktivierung wenden Sie sich an Ihren Customer Success Manager.
- Die passende Admin-Rolle. Administratoren und Campaign Manager können die Charakterbibliothek nutzen und Deepfake-Simulationen erstellen. Siehe Administratorrollen und Berechtigungen.
- Eine Person aus Ihrem Unternehmen, die einem Deepfake zustimmt. Die Person muss in Ihren Nutzerdaten enthalten sein, aber kein Admin-Nutzer im SoSafe Manager. Für Foto und Sprachaufnahme braucht sie ein Smartphone oder Tablet. Wie Sie Nutzer hinzufügen, erfahren Sie unter Nutzerverwaltung: einzelne Nutzer hinzufügen und bearbeiten.
- Whitelisting. Wie bei Phishing-Simulationen startet eine Deepfake-Simulation erst, wenn Sie bestätigt haben, dass das Whitelisting erledigt ist. Die Domains für die Meeting-Seite und den Chat-Link finden Sie zusammen mit den anderen Simulations-Domains unter Einstellungen / Whitelisting. Siehe Whitelisting.
- Geklärte Datenschutzfragen. Ihr Unternehmen ist für die Daten verantwortlich, die für einen Deepfake genutzt werden (es ist datenschutzrechtlich der Verantwortliche). Je nach Unternehmen und Land müssen Sie vorher eventuell eine Datenschutz-Folgenabschätzung (DSFA) durchführen oder Ihren Betriebsrat einbinden. Siehe Datenschutz und Einwilligung bei der Deepfake-Simulation.
Erste Schritte
- Klären Sie die Datenschutzanforderungen mit den zuständigen Personen in Ihrem Unternehmen: Datenschutz und Einwilligung bei der Deepfake-Simulation.
- Lassen Sie einen Deepfake erstellen:
- Sprechen Sie mit der Person, deren Deepfake Sie verwenden möchten, und fragen Sie dann in der Charakterbibliothek ihre Einwilligung an: Einwilligung in der Charakterbibliothek anfragen.
- Die Person willigt ein, macht auf ihrem Smartphone oder Tablet ein Foto und nimmt ihre Stimme auf. Sie können ihr diesen Artikel vorab schicken: Einwilligen und Ihren Deepfake erstellen.
- Sobald der Deepfake bereit ist, erstellen Sie die Simulation: Eine Deepfake-Simulation erstellen.
- Verfolgen Sie die Ergebnisse in den Analytics: Kennzahlen für Deepfake-Simulationen.
Was Sie messen können
Deepfake-Simulationen haben in den Analytics einen eigenen Kanal, getrennt von E-Mail- und SMS-Simulationen. Sie sehen die Kennzahlen, die Sie von Phishing-Simulationen kennen, etwa die Klickrate, die Interaktionsrate und die Melderate. Bei Deepfake-Simulationen zeigt die Interaktionsrate, welcher Anteil der Mitarbeitenden, die dem Meeting beigetreten sind, auf den Link im Chat geklickt hat. Zusätzlich zeigt die Meeting-Beitrittsrate, welcher Anteil der Mitarbeitenden, die auf den Meeting-Link geklickt haben, dem Anruf beigetreten ist. Details finden Sie unter Kennzahlen für Deepfake-Simulationen.
Wie bei Phishing-Simulationen wählen Sie für jede Simulation eine Reporting-Einstellung. Mit Nutzergruppenbasiert sehen Sie die Ergebnisse nur pro Nutzergruppe. Mit Individuell sehen Sie, wie einzelne Mitarbeitende reagiert haben.
Gut zu wissen
Ist der Deepfake ein Live-Gespräch?
Nein. Der Deepfake ist ein vorab aufgezeichnetes Video, Mitarbeitende können also nicht mit ihm sprechen. So ist genau festgelegt, was der Deepfake sagt: nur das Skript des Szenarios, dem die Person zugestimmt hat. Niemand kann ihn dazu bringen, etwas anderes zu sagen. Außerdem sehen alle Mitarbeitenden dasselbe Video, sodass die Ergebnisse vergleichbar sind.
Läuft die Simulation in Microsoft Teams?
Nein. Der Anruf findet auf einer Webseite statt, die wie ein Microsoft-Teams-Meeting aussieht. In Ihrer Microsoft-Teams-Umgebung wird nichts installiert und nichts darüber verschickt.
Welche Sprachen gibt es?
Ein Deepfake kann eine der folgenden 6 Sprachen sprechen: Englisch, Deutsch, Spanisch, Französisch, Niederländisch oder Italienisch. Jeder Deepfake spricht 1 Sprache: die Sprache, die im Nutzerprofil der dargestellten Person eingestellt ist. Wird diese Sprache noch nicht unterstützt, spricht der Deepfake Englisch. Der Deepfake wird nicht in andere Sprachen übersetzt, und Dialekte wie Schweizerdeutsch werden nicht unterstützt.
Sie können eine Deepfake-Simulation trotzdem an Mitarbeitende senden, deren Sprache sich von der des Deepfakes unterscheidet. Bei der Auswahl der Zielgruppe zeigt der SoSafe Manager, in welcher Sprache das Szenario bereitgestellt wird und wie viele Ihrer Nutzer diese Sprache eingestellt haben.
Kann ich das Skript oder die E-Mails ändern?
Nein. Das Videoskript, die Einladungs-E-Mail und der Text der Lernseite sind für jedes Szenario festgelegt.
Wie viele Szenarien und Deepfakes kann ich nutzen?
Sie können 1 Deepfake pro Szenario haben: derzeit 1 für CEO-Fraud und 1 für IT-Support. Jede Simulation verwendet 1 Szenario. Um beide Szenarien zu nutzen, erstellen Sie 2 Simulationen.
Jedes Szenario wird in der Sprache seines Deepfakes bereitgestellt. Spricht der Deepfake Ihres CEO zum Beispiel Deutsch, erhalten alle in der Zielgruppe das Szenario CEO-Fraud auf Deutsch. Wenn Sie überlegen, wen Sie um einen Deepfake bitten, denken Sie an die Sprache, die die meisten in der Zielgruppe sprechen.
Gilt das Branding meiner Lernseite?
Teilweise. Die Lernseite einer Deepfake-Simulation unterstützt nicht alle Branding-Einstellungen. Folgende Einstellungen werden nicht übernommen:
- die alte Farbpalette (Sekundär-, Footer-, Marker-, Button- und Textfarben)
- eigener Text auf der Lernseite
- die Einstellungen für Feedback und den Phishing-Meldebutton