Florian Helbig, LL.M.oec., RA, Dr. Andreas Eckhardt, RA, und Michael Ipatov
Deepfakes im Unternehmenskontext: Chancen und Risiken, Erkennung und rechtliche Einordnung
Ein kurzer Videoanruf der Geschäftsführung, eine dringende Zahlungsanweisung per Sprachnachricht oder ein Statement in den sozialen Medien – was vertraut und echt erscheint, kann heute nicht mehr ohne Weiteres für bare Münze genommen werden. Deepfakes haben sich von technisch aufwendigen Manipulationen zu niedrigschwellig verfügbaren Werkzeugen entwickelt und bergen neben sinnvollen Einsatzmöglichkeiten zugleich neue Gefahren. Seit dem 2.8.2026 gilt außerdem die Kennzeichnungspflicht der KI-VO. Der vorliegende Beitrag zeigt auf, dass eine unternehmerische Auseinandersetzung mit dem Phänomen der Deepfakes längst überfällig ist und ordnet es rechtlich ein. Es wird dargestellt, in welchen Formen die Technologie im Unternehmensalltag auftritt, wie sich Manipulationen erkennen und abwehren lassen, und welche rechtlichen Vorgaben zu beachten sind.
I. Hintergrund
Bereits 2024 hat das World Economic Forum Deepfakes als das wirtschaftliche Risiko Nr. 1 eingestuft. Art. 3 Nr. 60 KI-VO definiert diese als einen durch Künstliche Intelligenz (KI) erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen aus der Realität ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde. Dieser Neologismus setzt sich zusammen aus den Begriffen Deep Learning – also eine Methode des maschinellen Lernens – und Fake. Seinen Ursprung hat die Bezeichnung und die Verbreitung von Deepfakes als Massenphänomen vermutlich 2017, als auf der Online-Plattform reddit erste sexualisierte Montagen von Promis kursierten. Zwar war Bildmanipulation schon weitaus länger möglich und verbreitet, zum Beispiel durch den Einsatz von Computer Generated Imagery (CGI) und Photoshop, aber auch rein analog. Dies erforderte jedoch stets einen gewissen Aufwand und einschlägige Kenntnisse, wogegen die Verbreitung von generativer KI Deepfakes einer breiten Masse zugänglich gemacht hat.