Deepfake-Simulationen verwenden einen Deepfake einer echten Person: ein KI-generiertes Video mit ihrem Gesicht und ihrer Stimme. Dieser Artikel erklärt, wer für diese Daten verantwortlich ist, wozu die Person einwilligt, wie lange ihre Einwilligung gilt und wann ihre Daten gelöscht werden. Er richtet sich an Admins und an alle, die die Simulation in Ihrem Unternehmen prüfen, etwa Ihre Datenschutzbeauftragten, Ihre Rechtsabteilung oder Ihren Betriebsrat.
Die rechtlichen Dokumente von SoSafe, einschließlich ausführlicher Informationen zum Datenschutz, finden Sie im SoSafe Trust Center.
Rollen und Verantwortlichkeiten
Wer ist für die Daten verantwortlich?
Ihr Unternehmen ist datenschutzrechtlich Verantwortlicher, und SoSafe verarbeitet die Daten in Ihrem Auftrag. Die Person erteilt Ihrem Unternehmen ihre Einwilligung, und Ihr Unternehmen entscheidet im Rahmen dieser Einwilligung, wie ihr Deepfake verwendet wird. SoSafe stellt die Szenarien und ihre Skripte bereit.
Wem gegenüber willigt die Person ein?
Gegenüber Ihrem Unternehmen als Arbeitgeber, nicht gegenüber SoSafe.
Welche Unterauftragsverarbeiter sind beteiligt?
SoSafe speichert das Foto und die Sprachaufnahme und übermittelt sie an seinen Videopartner und Unterauftragsverarbeiter Anam, der den Deepfake erstellt. Die Daten werden nur für Ihr Unternehmen verarbeitet und nie zum Training von KI verwendet. Alle Unterauftragsverarbeiter von SoSafe finden Sie in der Liste der Unterauftragsverarbeiter.
Wer führt die Datenschutz-Folgenabschätzung (DSFA) durch?
Als Verantwortlicher führt Ihr Unternehmen eine eigene DSFA durch. SoSafe stellt Ihnen die Informationen bereit, die Sie dafür brauchen.
Müssen wir unseren Betriebsrat einbinden?
Das hängt von Ihrem Unternehmen und vom Arbeitsrecht in Ihrem Land ab. Da Deepfake-Simulationen das Abbild einer Person aus Ihrem Unternehmen nutzen und messen, wie Mitarbeitende reagieren, empfehlen wir, das früh zu klären.
Einwilligung
Von wem können Sie einen Deepfake erstellen?
Nur von Personen in den Nutzerdaten Ihres Unternehmens, zum Beispiel von Ihrem CEO. Diese Personen müssen keine Admin-Nutzer im SoSafe Manager sein. Die Person muss selbst einwilligen und bestätigen, dass sie mindestens 18 Jahre alt ist und dass das Foto und die Stimme, die sie aufnimmt, ihre eigenen sind. Niemand sonst, auch kein Admin, kann in ihrem Namen einwilligen.
Wie willigt die Person ein?
Ein Admin sendet aus der Charakterbibliothek eine Anfrage für ein bestimmtes Szenario (siehe Einwilligung in der Charakterbibliothek anfragen). Die Person erhält eine E-Mail mit einem persönlichen Link. Auf ihrem Smartphone oder Tablet liest sie, worauf sich die Anfrage bezieht, und willigt ein. Dann macht sie ein Foto und nimmt etwa 1 Minute lang auf, wie sie einen kurzen Text vorliest. Insgesamt dauert das etwa 3 Minuten. Der Deepfake wird erst erstellt, wenn sie eingewilligt und beides übermittelt hat. Die einzelnen Schritte finden Sie unter Einwilligen und Ihren Deepfake erstellen.
Die Person kann auch ablehnen. Dann wird nichts aufgenommen. Der Admin erfährt, dass sie abgelehnt hat, aber nicht den Grund.
Was umfasst die Einwilligung?
Die Person willigt ein, dass Ihr Unternehmen ihr Foto und ihre Sprachaufnahme, also biometrische Daten, nutzt, um einen Deepfake zu erstellen, der wie sie aussieht und klingt. Die Einwilligung umfasst:
- nur 1 Szenario, im Security-Awareness-Training
- eine Gültigkeit von 180 Tagen, die in den letzten 30 Tagen vor Ablauf verlängert werden kann
- das Recht, sie jederzeit zu widerrufen. Der Deepfake wird dann sofort nicht mehr verwendet, und die Daten werden innerhalb von 24 Stunden gelöscht.
Die Einwilligungsseite zeigt, was der Deepfake im Szenario tun würde und wer ihn sehen würde. Der Deepfake erscheint nur in diesem Szenario und sagt nur, was im Skript des Szenarios steht.
Wird die Einwilligung dokumentiert?
Ja. SoSafe protokolliert die Einwilligung und gegebenenfalls ihren Widerruf als Nachweis für Ihr Unternehmen. SoSafe bewahrt diesen Nachweis 3 Jahre lang auf. Wenn die Person zustimmt, erhalten sie und der Admin, der die Anfrage gesendet hat, jeweils eine Bestätigungs-E-Mail.
In der Charakterbibliothek zeigt die Detailseite jedes Deepfakes unter Einwilligung, wann die Einwilligung angefragt und erteilt wurde, wann der Deepfake bereit war und bis wann die Einwilligung gilt. Außerdem sehen Sie dort, welche biometrischen Daten aufgenommen wurden und wer sie verarbeitet.
Wie lange ist eine Einwilligungsanfrage gültig?
Der Link in der Anfrage ist 30 Tage gültig. Um die Anfrage erneut zu senden, zum Beispiel nachdem der Link abgelaufen ist, wählen Sie auf der Detailseite der Person in der Charakterbibliothek E-Mail erneut senden. Die E-Mail mit einem neuen Link wird sofort gesendet.
Gültigkeit und Verlängerung
Wie lange gilt die Einwilligung?
Die Einwilligung gilt 180 Tage ab dem Zeitpunkt, an dem die Person sie erteilt. In dieser Zeit können Sie den Deepfake in beliebig vielen Simulationen verwenden. Die Person muss nicht für jede Simulation erneut einwilligen.
Kann die Einwilligung verlängert werden?
Ja, in den letzten 30 Tagen vor Ablauf. Zu Beginn dieses Zeitraums erhält die Person eine Erinnerung per E-Mail. Verlängert sie, bevor ihre Daten gelöscht werden, muss sie nichts neu aufnehmen.
Was passiert, wenn die Einwilligung abläuft?
Der Deepfake wird gesperrt und kann nicht mehr verwendet werden. Simulationen, die ihn verwenden, werden deaktiviert und archiviert, auch geplante. Verlängert die Person ihre Einwilligung nicht, werden ihr Foto, ihre Stimme und ihr Deepfake 30 Tage später automatisch gelöscht. Verlängert sie, bevor ihre Daten gelöscht werden, muss sie nichts neu aufnehmen.
Widerruf und Löschung
Kann die Person ihre Einwilligung widerrufen?
Ja, jederzeit, mit der Schaltfläche Einwilligung widerrufen in den E-Mails, die sie zu ihrem Deepfake erhält. Sie kann einen Grund angeben, muss es aber nicht. Der Admin, der die Anfrage gesendet hat, erfährt, dass sie widerrufen hat, aber nicht den Grund. Der Deepfake wird sofort nicht mehr verwendet, und Foto, Stimme und Deepfake werden innerhalb von 24 Stunden gelöscht.
Kann ein Admin einen Deepfake löschen?
Ja. Admins können einen Deepfake jederzeit in der Charakterbibliothek löschen. Die Einwilligung der Person endet dann, ihr Foto, ihre Stimme und ihr Deepfake werden innerhalb von 24 Stunden gelöscht, und der Admin und die Person erhalten jeweils eine E-Mail, die die Löschung bestätigt. Simulationen, die den Deepfake verwenden, werden deaktiviert und archiviert.
Was passiert, wenn die Person das Unternehmen verlässt?
Wenn Sie die Person aus Ihren Nutzerdaten entfernen, zum Beispiel weil sie das Unternehmen verlässt, werden ihr Foto, ihre Stimme und ihr Deepfake innerhalb von 24 Stunden gelöscht. Dasselbe gilt, wenn der Vertrag Ihres Unternehmens mit SoSafe endet.
Mitarbeitende, die die Simulation erhalten
Erfahren Mitarbeitende, dass das Video mit KI erzeugt wurde?
Ja. Alle Mitarbeitenden, die dem Anruf beitreten, erhalten nach dem Ende des Videos eine E-Mail. Sie erklärt, dass der Anruf eine Simulation war und die Person im Video mit KI erzeugt wurde. Diese E-Mail erhalten sie unabhängig davon, ob sie den Anruf früh verlassen haben, bis zum Ende geblieben sind oder auf den Link im Chat geklickt haben.
Mitarbeitende, die dem Anruf nie beigetreten sind, etwa weil sie die Einladung ignoriert oder gemeldet haben, erhalten diese E-Mail nicht.
Welche Daten über Mitarbeitende werden erfasst?
Dieselbe Art von Daten wie bei einer Phishing-Simulation: ob Mitarbeitende auf den Link in der Einladungs-E-Mail geklickt haben, dem Anruf beigetreten sind, auf den Link im Chat geklickt oder die E-Mail gemeldet haben.
Wie bei Phishing-Simulationen wählen Sie für jede Deepfake-Simulation beim Erstellen eine Reporting-Einstellung:
- Mit Nutzergruppenbasiert sehen Sie die Ergebnisse nur auf Ebene der Nutzergruppen. Einzelne Mitarbeitende können Sie nicht identifizieren.
- Mit Individuell sehen Sie, welche Mitarbeitenden mit der Simulation interagiert haben.
Die Reporting-Einstellung kann nicht mehr geändert werden, sobald die Simulation gestartet ist. Siehe Eine Deepfake-Simulation erstellen.