Report

Fake-Fotos aufdecken

Der Forensiker Dr. Stefan K. Braun berichtet

Angesichts von Fake-Bildern scheint es nur zwei Lösungen zu geben: Keiner Aufnahme mehr zu vertrauen oder blind zu hoffen, kein Betrugsopfer zu werden. Zwischen diesen Extremen gibt es freilich noch einige Gewissheiten. FOTO HITS stellte in Ausgabe 6/2023 Werkzeuge vor, mit denen jeder Fälschungen aufspüren kann. Zudem fragte die Redaktion den Forensiker Dr. Stefan K. Braun nach dem Stand der Technik und wie er mit ihr Manipulationen aufdeckt.

FOTOHITS: Bildforensik kennen die meisten nur vom Hörensagen. Es wäre daher erhellend, sie in Bezug auf Künstliche Intelligenz einzuordnen.

Dr. Braun: Grundsätzlich gilt, dass seit den Anfängen der Fotografie auch gefälscht wird. Berühmt ist etwa das Porträt von Abraham Lincoln von zirka 1860, bei dem sein Kopf auf den Körper des Südstaaten-Politikers John Calhoun montiert wurde. Zur zeitlichen Einordnung: Das erste Lichtbild entstand 1826 und die Lincoln- Fälschung ist 160 Jahre alt. 

Im FOTO HITS-Artikel kommen drei Bereiche zusammen: KI, Bild- und Fotoforensik. Die Bildforensik befasst sich überwiegend mit Bildern, die aus Digitalkameras kommen. Selten bekomme ich allerdings Originale, sondern häufiger etwa YouTube-Links oder gar Screenshots. Schlimmstenfalls wurden die Bilder ausgedruckt, abfotografiert und dann in ein PDF-Dokument eingebettet. Aus ihnen lässt sich nichts mehr herauslesen.

FOTOHITS: Mancher Laie sähe solche Änderungen sofort als Beweis, dass ein Original verfälscht wurde. Dagegen bewertet ein Wissenschaftler das PDF als kontaminiertes und damit unbrauchbares Ausgangsmaterial, richtig?

Dr. Braun: Richtig. Das war auch der Fall bei Ihrem montierten Kuhkopf. Hier entpuppten sich nicht einmal die beiden Ausgangsbilder als original: Sowohl die Kuh als auch die Frau wurden von ihren Fotografen massiv nachbearbeitet, dann erstellte die Redaktion ein Mischbild aus beiden. Damit war bereits das Grundmaterial für einen Test ungeeignet. Wie also soll man noch „echt“ von „falsch“ abgrenzen?

Nochmals zur Einordnung: Die Bildforensik ist eine Teildisziplin der Multimedia-Forensik. Sie ist darauf ausgelegt, die Authentizität digitaler Bilder festzustellen und gilt als blindes Verfahren. Das heißt, dass ich gewöhnlich keine Originale vorliegen habe, sondern nur die Manipulation. Es fehlt  der direkte Vorher-Nachher-Vergleich. Der Fälscher ist schließlich nie so dumm, das Original mitzuliefern. Rein am Computer erstellte Grafiken würde ich hier ebenfalls ausklammern, sie deckt die Bildforensik nicht ab.

Wichtig ist zudem, die Bild- von der Fotoforensik abzugrenzen. Letztere beschäftigt sich mit vorrangig damit, Metadaten auszulesen. Dazu gehören etwa die Dateisysteme von Kameras, Bildformate, Daten im Sinne der Informationstechnik sowie Personen-Identifizierung oder „Face Recognition“ im Unterschied zur bloßen „Face Detection“, die ein Fotograf als kleines Rechteck auf seinem Kameramonitor sieht. Wir sprechen über Bildforensik!

FOTO HITS: Gehören zur weiteren Einschränkung ebenfalls keine echten Fotos, die in einem falschen Zusammenhang zitiert werden? Im Artikel in FOTO HITS 6/2023 führten wir etwa das Beispiel von Eritreern auf, die tatsächlich niemals an eine Kirchenwand urinierten, wie es Rassisten erlogen hatten - sie beteten dort.

Dr. Braun: Damit ist bereits das obere Ende der Fahnenstange in der Bildforensik erreicht. Denn hier kommen investigative Verfahren hinzu wie die Gesichtserkennung oder eine anthropologische Untersuchung.

In diesem Zusammenhang leisten beispielsweise Redaktionen schon sehr gute Vorarbeit und kommen dann auf mich zu. Nachfolgend verifiziere ich mit forensischen Mitteln – etwa einer biometrischen Analyse - ein Foto, was diese mit allgemein verfügbaren Mitteln nicht leisten könnten. 

FOTO HITS: Bekannt wurde auch das Bild eines bosnischen Gefangenen von 1992. Es offenbart, dass „echtes Foto“, „verzerrter Blickwinkel“ und das reale Leid von Fikret Alic gleichzeitig wahr sein können. Daran ändert auch ein Zertifikat nichts. Dessen ungeachtet deckten damals Journalisten die Zusammenhänge auf, und jeder kann sie noch heute nachvollziehen.

Dr. Braun: Qualitätsjournalismus hat die Aufgabe, solche Aufnahmen zu überprüfen. Und alle Journalisten, die ich von namhaften Nachrichtenmagazinen kennenlernte, kamen nicht unvorbereitet zu mir – ganz im Gegenteil.

FOTOHITS: Welche Art von Fälschungen begegnen Ihnen in Ihrem Berufsalltag am häufigsten?

Dr. Braun: Im kriminalistischen Umfeld geht es um Straftaten wie Einbrüche, Überfälle und Sexualdelikte. Gerade zu letzterem Thema wird es Ihnen nicht möglich sein, öffentliche Online-Tools wie fotoforensic.com zu benutzen, da Nacktdarstellungen zur Sperrung führen. Das gilt umso mehr, wenn Sie mit wirklich schlimmen Fällen wie etwa Missbrauch kommen.

In anderen Strafverfahren werden Menschen denunziert oder retuschierte Fotos auf Porno-Plattformen hochgeladen. Des Weiteren täuschen Kontrahenten Körperverletzungen vor, indem sie Hämatome aufmalen. Sie werden dann an den Sachverständigen in der Hoffnung geschickt, dass er den Fake nicht aufdeckt und er ihn auf diese Weise sogar reinwäscht. Manchmal geht es auch um Baumängel, die angeblich nicht vorhanden sind. Schaue ich dann genauer hin, wurde beispielsweise eine fehlende Klemme einfach hineinretuschiert. Oft kommt auch Versicherungsbetrug vor, bei der ein Foto eine KFZ-Beschädigung nachweisen soll. Solche Sachen sind oft dilettantisch ausgeführt.

Falls jetzt ein Leser auf die Idee kommt, mir ein Bild zuzuschicken, damit es der Experte rasch überprüft: Die Analyseverfahren, die wir gleich besprechen, sind sehr aufwendig. Je besser der Fake, um so komplizierter ist es, eine sichere Aussage zu treffen. Bei manchem erkenne ich mit bloßem Auge die schlechte Retusche, dann genügen ein bis zwei Methoden, um den Verdacht nachzuprüfen und die Fälschung zu beweisen. Wenn ich damit ein bis zwei Tage zubringe, kostet das selbstverständlich Geld.

FOTOHITS: Angesichts Ihrer Praxis bleibt festzuhalten, dass ein Papst in Rapper-Klamotten das geringste Problem zu sein scheint.

Dr. Braun: Solche Bilder sind ebenso wie die der Trump-Verhaftung lächerlich. Hier genügt es, den gesunden Menschenverstand einzuschalten, dass sie nicht stimmen können. 

Grundsätzlich ist die Künstliche Intelligenz nicht neu, 1956 förderte etwa die Rockefeller-Stiftung ein Forschungsprojekt, das Vorgänge des menschlichen Denkens automatisieren sollte. Den Gedanken griffen auch Science-Fiction-Autoren wie Stanislaw Lem oder Isaac Asimov auf, der das friedliche Zusammenleben von KI und Mensch beschrieb. Sie gibt es also seit 70 Jahren, bekam aber in den letzten Jahren eine neue Dynamik.

Das maschinelle Lernen ist momentan erst in einer Trainingsphase. Sie können davon ausgehen, dass es sich in den kommenden Jahren in großen Sprüngen verbessern wird. Dazu kommen Entwicklungen wie die Quanten-Technologie, die schnellere und komplexere Rechenvorgänge ermöglicht. Die Kombination mit KI wird revolutionär sein.

Nach dem Industrie- und dem Informationszeitalter, nach der Kommerzialisierung des Internets 1989 sowie ab 2003 dem bidirektionalen Austauschen von Inhalten auf Social-Media-Plattformen (dem User Generated Content, besser bekannt als Web 2.0), war mir lange nicht klar, was noch kommen wird. Jetzt liegt es auf den Tisch.

Analysewerkzeuge

FOTOHITS: Wir reden an dieser Stelle darüber, Manipulationen an einem echten Foto aufzudecken. Trotz aller Einschränkungen scheint mir die Error-Level-Analyse (ELA) die griffigsten Resultate zu bringen. 

Dr. Braun: Sie gehört zu den unzuverlässigeren Methoden, da gibt es Besseres. Aber ich würde sie nicht als minderwertiges Tool bezeichnen. Die ELA schafft einen Interpretationsspielraum, der je nach Vorlage größer oder kleiner ist. Es benötigt einige Erfahrung, die mehr oder weniger deutlichen Ergebnisse zu erkennen. 

Es existieren ein bis zwei Dutzend Methoden, um Bildinhalte zu analysieren. Nicht jede von ihnen funktioniert immer. Man sollte sich also nicht auf ein Verfahren kaprizieren, die Wahl hängt von der Entstehung einer Aufnahme, der Tages- oder Nachtzeit sowie der Art der Manipulation ab.

FOTOHITS: Einige Ihrer Analysen haben wir begleitend zu diesem Interview online gestellt, sie sind im nachfolgenden Artikel veröffentlicht. Unsereins erkennt nach der Filterung unter „Color Palette“ nur psychedelische Muster und türkise Flächen, noch kryptischer sind die Zahlenreihen. Ebenso ist das nach Lichtwinkel gefilterte Foto, das Sie uns lieferten, aufschlussreich, aber schwer lesbar. Könnten Sie zumindest unter den drei genannten Verfahren die letztgenannte Luminanz-Methode erläutern? 

Dr. Braun: Wenn man eine Fotomontage mit abendlichem Motiv erstellt, wo nach der Filterung bestimmte Stellen Rot sein sollten, aber Gelb oder Grün sind - bei Grün kommt das Licht von oben -, dann entstand sie tatsächlich zur Mittagszeit. 

Jüngst wurde ich bei einer Gerichtsverhandlung hinzugezogen, bei der es um Lichtwinkel in einem Video ging. Die Wetterdaten-Analyse in einem Standbild ergab, dass es zehn Minuten vor Sonnenuntergang erstellt wurde, was mit dem zu erwartendem Lichteinfall übereinstimmte.

Dieses und die anderen Verfahren unterstützen aber nur die Erkenntnis, dass das Foto bearbeitet wurde. Daher wäre es in einem gerichtlichen Zusammenhang nicht mehr verwertbar. Es gehört eher zum sportlichen Ehrgeiz, nachzuweisen, wo überall eingegriffen wurde. 

FOTOHITS: Ihre Antwort verdeutlicht nochmals, dass mehrere Methoden zusammenarbeiten müssen, deren Erkenntnisse sich bestenfalls verdichten. Das ist mit fotoforensics.com eingeschränkt möglich, doch sind die Resultate ebenso wie ihre Interpretation problematisch.

Dr. Braun: Wichtig für Ihre Leser ist außerdem, dass ich dort absichtlich die Marmorstatue eines Nackten hochlud. Nun bin ich dort für drei Monate gesperrt. Die KI-Erkennung unterschied nicht zwischen einem Museumsstück und einem Aktfoto.

Wesentlicher ist, dass eine Anmeldung trotz Browserwechsel oder VPN nicht mehr möglich war. Die Seitenbetreiber besitzen also von mir alle möglichen Daten von der IP-Adresse bis zur Browser-Version. Damit ist klar, dass ich nichts anonym hochladen kann.

Zudem beruft sich die Website auf das US Copyright Law, der Server steht vermutlich in den USA. Seit 2015 gilt zwischen den USA und der EU das Datenschutzrecht „Privacy Shield“. Man kann also nicht jede Datei hochladen, da sie möglicherweise dieses Abkommen verletzen. Nicht zuletzt bemerkte ich über Direktlinks, die nach wie vor aufrufbar sind, dass meine Bilder nicht gelöscht wurden.

Ringen um die Wahrheit

FOTOHITS: Haben Sie im Hase-und-Igel-Rennen von Forensik und Fälschern mit Ihren Techniken momentan noch einen Vorsprung?

Dr. Braun: Der forensische Analyse-Prozess ist komplex und enthält zahlreiche Herangehensweisen. Erst in der Kombination ihrer Erkenntnisse zeichnen sich schließlich Antworten ab. Anders gesagt beruht die Lösung immer auf Wahrscheinlichkeiten, es geht also von „unwahrscheinlich“ bis zu „an Sicherheit grenzender Wahrscheinlichkeit“.

Hase und Igel würde ich gern durch Forensik und Anti-Forensik ersetzen. Dieses Wettrennen existiert tatsächlich, und dabei ist einmal die eine und dann die andere Seite vorn. Wenn gewissermaßen die Bösen überholen, beflügelt das die Guten, einen neuen Ansatz zu finden, um sie auszubremsen.

Die erschreckende Professionalisierung der Deep-Fake-Videos etwa bereitete mir anfangs Sorgen. Suchen Sie beispielsweise einmal bei TikTok nach „Fake“ und „Tom Cruise“. Das Ergebnis ist vom originalen Schauspieler nicht zu unterscheiden. Doch führte ich bei einer Sicherheitsmesse ein Gespräch mit jemandem vom Austrian Institute of Technology. Die Forschungseinrichtung ist dabei, dem etwas mit einer Deep Fake Detection entgegenzusetzen. 

FOTOHITS: Als Zwischenbilanz bleibt einem Laien nur übrig, sein kulturelles Wissen zu nutzen, dass eine Emma Watson, die zuletzt in „Little Women“ brillierte, nie in einem Porno mitspielen würde. Darüber hinaus ist er von Ihrem Fachwissen abhängig.

Dr. Braun: In der theoretischen Annahme, dass die Videos hundertprozentig perfekt wären und der Forensik weitere Mittel fehlten, der Anti-Forensik die Stirn zu bieten, bliebe in letzter Konsequenz, Fotos und Filme nicht mehr als Beweismittel zuzulassen. 

FOTOHITS: Genau das meinte ein Mitarbeiter von Lucasfilm Arts schon 1982. Mit ihrer Tricktechnik sei „das Ende der Fotografie als Beweis für egal was besiegelt“.

Dr. Braun: Da hat er nicht völlig unrecht. Doch sagt uns der technische Fortschritt, dass das Spiel von Forensik und Anti-Forensik immer weitergehen wird. Es wird nur immer anspruchsvoller und schwieriger. Wenn ich bereits nur vier ELA-Methoden anwende, dann bekomme ich vier unterschiedliche Erkenntnisse, die es zu interpretieren gilt. 

Daher kann ein Normalbürger eigentlich keine sinnvolle Analyse mehr vornehmen. Sie erfordert vertieftes IT-Wissen, technisches und gestalterisches Verständnis sowie die richtigen Werkzeuge. Darüber hinaus muss er deren Resultate richtig interpretieren. Ein Fachmann beschäftigt sich jahrelang damit, sammelt Erfahrungen und ist immer auf dem neuesten Stand, was neue Entwicklungen angeht. 

Taugen Echtheitszertifikate?

FOTOHITS: Abschließend würde mich interessieren, was Sie von Echtheitszertifikaten wie TruePic Lens oder CAI halten.

Dr. Braun: Das gehört weniger zu meinen Themengebieten. Ich denke, sie sind unter bestimmten Bedingungen ganz nützlich, aber kein Allheilmittel. Denn sie bieten weitere Angriffsflächen. Die Musik- und Buchindustrie versuchte es zum Beispiel mit Kopierschutz-Varianten, die den Benutzer jedoch auf bestimmte Geräte und Installationen einer Firma einengte. Das halte ich nicht für zielführend. Wer kreiert so ein fotografisches Wasserzeichen? Wer schafft einen internationalen Standard, wer verwaltet ihn, wer verfügt über die Datenbank? Hier fehlt mir die Fantasie, wie ein einheitlicher internationaler Standard geschaffen werden soll.

Schon seit Jahrzehnten kann man Wasserzeichen einbinden. Trotzdem hat sich kein Weltstandard durchgesetzt. Ohne ihn entstehen erstens viele Einzelverfahren. Zweitens ist es ohne Überblick schwer nachprüfbar, ob überhaupt ein echtes Zertifikat vorliegt. Dazu kommen ähnliche Probleme wie bei SSL, dass Sicherheitszertifikate kompromittiert werden können und sich damit die Authentizität der verwendeten Zertifikate nicht mehr gewährleisten lässt. 

FOTOHITS: Welche Lösung erscheint Ihnen dann sinnvoll?

Dr. Braun: Neben einer technischen Implementierung unveränderlicher Metadaten würde ich auch auf die ethische Verpflichtung setzen. Schon wenn ein Fotograf ein Bild aus seiner Kamera nicht nachbearbeitet, kann man es als nachprüfbares Dokument betrachten. Falls notwendige Modifizierungen etwa mittels Druckprofil nötig sind, gibt er der Kopie das unbearbeitete Original mit. So ist für jeden erkennbar, was bearbeitet wurde.