-
Face Swap und Voice Cloning: So entlarvt ein Detektor Deepfake-Anrufer
- Stiller Alarm für den Angerufenen
- Etwa ein Check pro Sekunde
- Deepfake-Erkennung derzeit nur mit viel Rechenleistung
- Stetig wachsender Bedarf
Im Videocall fühlen sich viele Mitarbeiter sicher, nicht auf Betrüger hereinzufallen, denn Kollegen oder Vorgesetzte sind zu sehen und zu hören. Doch Betrüger können sich per Face Swap und Voice Cloning maskieren, mit aktuellen Tools auch in Echtzeit. Eventuell ist ein Wackler zu sehen, ein Ruckeln zu bemerken, aber das irritiert bei Videokonferenzen kaum jemanden – und schon haben Kriminelle einen Fuß in der Tür. Das Fraunhofer-Institut für Sichere Informationstechnologie (SIT) betreibt Grundlagenforschung und hat Ende Oktober einen Deepfake-Detektor auf der Fachmesse it-sa in Nürnberg demonstriert. Wir sprachen mit den Entwicklern.
Der Detektor ist derzeit ein Proof of Concept. Er schlägt innerhalb einer Sekunde an, meldet eine prozentuale Betrugswahrscheinlichkeit und zeigt auf einer Heatmap, welche Bildinhalte ihm besonders verdächtig vorkommen. Angerufene können sich damit ihr eigenes Bild machen und die aktualisierte Warnung im Blick behalten.
Im Sinne des Datenschutzes wird der Videocall nicht etwa zur Kontrolle auf einen Server umgeleitet. Stattdessen ist der Deepfake-Detektor als ein lokaler Client konzipiert, erfordert dafür aber auch viel Rechenleistung. Für einfache Smartphones ist er in dieser Form noch nicht geeignet.
Das war die Leseprobe unseres heise-Plus-Artikels "Face Swap und Voice Cloning: So entlarvt ein Detektor Deepfake-Anrufer". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.Dieser Link ist leider nicht mehr gültig.
Links zu verschenkten Artikeln werden ungültig, wenn diese älter als 7 Tage sind oder zu oft aufgerufen wurden.
Sie benötigen ein heise+ Paket, um diesen Artikel zu lesen. Jetzt eine Woche unverbindlich testen – ohne Verpflichtung!