HMD Praxis der Wirtschaftsinformatik Computer science
Deepfake-Erkennung auch ohne große Datensätze: Ein Prototyp für Organisationen
Abstract
Zusammenfassung Deepfakes, KI-generierte synthetische Medien, die Menschen realistisch manipulieren, stellen ein wachsendes Sicherheitsrisiko für Unternehmen dar. Ein Beispiel hierfür ist der sogenannte CEO-Fraud. In einem bekannt gewordenen Fall wurde ein Manager von einem vermeintlichen CEO zu einer Millionenüberweisung bewegt, was einen finanziellen Verlust von über 35 Mio. USD zur Folge hatte. Eine schnelle und zuverlässige Erkennung von Deepfakes wird für Unternehmen daher immer bedeutender. In diesem Beitrag wird ein Ansatz vorgestellt, der auf Vision-Transformer und einem expertenbasierten Ensemble-Modell aufbaut, das mit Hilfe von Few-Shot-Learning schnell auf neue Generationsmodelle reagieren kann, ohne ein vollständiges Retraining durchführen zu müssen. Unternehmen ermöglicht dieser Ansatz eine ressourcenschonende, skalierbare und anpassungsfähige Deepfake-Erkennung. So lassen sich visuelle Manipulationen bei unbekannten Angriffsmustern frühzeitig erkennen und Risiken in der digitalen Kommunikation wirksam reduzieren. Der entwickelte Prototyp, ein Ensemble-Modell, das auf einer Mehrheitsentscheidung der Experten beruht, wurde an ausgewählten Deepfake-Datensätzen evaluiert und erzielte eine Gesamtgenauigkeit, die im Vergleich zur Baseline um 57,6 % gestiegen ist.