Deepfakes, manipulierte Bilder und Fake News erkennen

Gefälschte Nachrichtenbeiträge, Fotomanipulationen oder Gerüchte, die auf Social Media kursieren, sind im Internet immer häufiger anzutreffen. Vermehrt wird auch Künstliche Intelligenz (KI) dazu eingesetzt, um Falschinformationen zu produzieren und rasant zu verbreiten. Um sich im Alltag vor Desinformation und Manipulation zu schützen, ist es wichtig, sich mit diesen Phänomenen vertraut zu machen. In diesem Leitfaden rund um die Anwendung von KI im Alltag wollen wir aufzeigen, wie man KI-generierte Inhalte, aber auch insbesondere Fake News oder Deepfakes erkennt. Wir erklären, wie Informationen überprüft und vertrauenswürdige Inhalte von gezielten Täuschungen unterschieden werden können.

KI und Desinformation: Wie KI zu schädlichen Zwecken eingesetzt wird

Der Einsatz von KI-Programmen hat ein enormes Potenzial, birgt aber leider auch viele Risiken. Auch wenn Phishing-Angriffe, Bildmanipulationen oder die Verbreitung von Fehlinformationen bereits seit Jahren bekannte Probleme sind, erhalten solche schädlichen Prozesse durch den Einsatz von KI-Tools eine bisher ungeahnte Dynamik. Durch KI erstellte oder bearbeitete Inhalte können zur bewussten Irreführung oder Manipulation eingesetzt werden, weshalb es besonders wichtig ist, Informationen kritisch zu hinterfragen und zu bewerten. Zunächst ist es daher sinnvoll, aufzuzeigen, in welchen Bereichen Künstliche Intelligenz zu schädlichen Zwecken genutzt wird und einige wichtige Begriffe zu definieren:

KI und falsche Informationen: Was sind Fake News?

Fake News bedeuten übersetzt „gefälschte Nachrichten“. Sie können in Form von Artikeln, Bildern, Videos oder Social-Media-Beiträgen in Umlauf gebracht werden und sind häufig darauf ausgelegt, sich viral zu verbreiten. Häufig werden sie dazu genutzt, um Menschen in die Irre zu führen, zu manipulieren oder zu bestimmten Handlungen zu beeinflussen. Auch bei Fake News gibt es jedoch ein Spektrum, das von unabsichtlichen Fehlmeldungen bis zu bewusst schädlichen Inhalten reicht.

• Desinformation: Falsche Informationen, die absichtlich verbreitet werden, um Schaden anzurichten, werden auch als Desinformation bezeichnet. Dazu zählen zum Beispiel erfundene Inhalte, die auf Lügen oder Gerüchten basieren, aus dem Kontext entnommene Daten wie gekürzte Zitate oder fehlerhafte Statistiken und auch manipulierte Fotos und Deepfakes.

• Fehlinformationen: Auch hierbei handelt es sich um falsche Informationen, die allerdings nicht immer mit einer Täuschungsabsicht verbreitet werden. Oftmals gehen Fehlinformationen auf journalistische Fehler oder Fehlinterpretationen zurück. Das kann zum Beispiel der Fall sein, wenn reisserische Überschriften die Leserinnen und Leser eines Artikels fehlleiten oder auch, wenn satirische Inhalte missverstanden werden.

KI und manipulierte Inhalte: Was sind Deepfakes?

Bei Deepfakes handelt es sich um Medieninhalte (Bilder, Videos oder Audio-Dateien), die mithilfe von Künstlicher Intelligenz erzeugt oder manipuliert wurden und oft nur schwer als Fälschung erkennbar sind. Meist wird mit Deepfakes das Gesicht oder die Stimme von Personen täuschend echt nachgebildet. Zwar ist es schon länger möglich, Bild- und Videodateien zu manipulieren, doch durch den Einsatz von künstlichen neuronalen Netzwerken sind solche Fälschungen in völlig neuen Dimensionen möglich. Deepfakes können zur Unterhaltung, aber auch zur Täuschung eingesetzt werden. Besonders gefährlich werden sie, wenn sie zur Verbreitung von Desinformation, zur Rufschädigung oder für kriminelle Zwecke verwendet werden.

(KI-)Texte hinterfragen: Wie kann man Fake News erkennen?

Mit der rasanten Entwicklung von KI-gestützten Textgeneratoren ist es einfacher denn je, überzeugende, aber dennoch gefälschte Texte zu erstellen. Egal, ob Fake News von Menschen oder von Maschinen erstellt sind, bergen sie jedoch dieselben Risiken. Es wird daher immer wichtiger, kritisch mit Online-Informationen umzugehen und zu lernen, wie man gefälschte Texte und verlässliche Quellen identifiziert:

An diesen Merkmalen kann man textbasierte Fake News erkennen:

• reisserische, schockierende oder polarisierende Botschaften

• emotional aufgeladene Sprache

• fehlende Quellenangaben für Daten, Fakten und Zitate

• gekürzte oder aus dem Kontext gerissene Zitate

• häufige Rechtschreib- oder Grammatikfehler (Achtung: Bei KI-Texten nicht der Fall!)

So lassen sich Informationen überprüfen:

• Wenn es sich um aktuelle Schlagzeilen handelt, ist es ratsam, dieselbe Nachricht auf verschiedenen Nachrichtenportalen zu prüfen. Wie behandeln andere seriöse Zeitungen und Nachrichtensender dasselbe Thema?

• Ein weiterer wichtiger Schritt ist die Überprüfung der Originalquellen für die genannten Informationen (etwa Experten-Zitate, Studien oder Umfrageergebnisse). Werden überhaupt Quellen genannt und wenn ja, in welchem Kontext stehen die genannten Daten und Fakten?

• Weiterhin lohnt es sich, die Herkunft eines Artikels genauer zu untersuchen. Wer ist der Urheber der Information? Gibt es ein Impressum? Bei anonymen Informationen ist Skepsis angebracht.

Bilder und Videos hinterfragen: Wie kann man Deepfakes und Fake Bilder erkennen?

Die Manipulation von Fotos und Videos ist kein unbekanntes Problem, allerdings erleichtern zahlreiche KI-Tools die Bearbeitung oder Neuerstellung von Bild- und Videomaterial. Die Ergebnisse wirken oft täuschend echt. Insbesondere Deepfakes haben das Potenzial, die Wahrheit zu verzerren und das Vertrauen in visuelle Medien zu untergraben.

Dennoch gibt es auch hier einige Merkmale, die auf manipulierte Fake Bilder hinweisen:

• sehr weichgezeichnete, perfekte Gesichter (Achtung: Kann auch ein Filter sein!)

• verschwommene, generische Hintergründe

• unrealistische Lichtverhältnisse und unpassende oder fehlende Schatten

• fliessende oder verschwimmende Details (z. B. Übergang von Schmuck in Haut oder Kleidung, Verschmelzung von Brille und Gesicht, in der Luft unterbrochene Haarsträhnen)

• verformte, nicht lesbare Schrift (keine Übereinstimmung mit echten Buchstaben)

Deepfake-Videos lassen sich oft an folgenden Anzeichen erkennen:

• unnatürliche Mimik oder Bewegungen (z. B. stockende oder verzerrte Gesten, unpassende bzw. unmögliche Bewegungen)

• verzerrte Ränder, vor allem an Augen und um den Mund

• Fehler in der Synchronisation von Audio und Video

Da KI-Bildgeneratoren rasante Fortschritte machen, ist es sehr wahrscheinlich, dass sich in Zukunft Fake Bilder nicht mehr so leicht erkennen lassen. Während anfängliche Versionen der gängigen KI-Tools starke Probleme mit der Darstellung von Händen oder Ohren hatten, erzeugen aktuelle Programme täuschend echte Modelle von Menschen. Zusätzlich ist es daher sehr wichtig, auch bei Bild- und Videomaterial die Entstehung und Herkunft der Dateien zu hinterfragen:

• Wie berichten verschiedene seriöse Nachrichtenseiten über das vermeintliche Ereignis? Gibt es andere Quellen als z. B. einzelne Social-Media-Posts oder Gerüchte?

• Wer hat das Foto oder das Video aufgenommen? Wann und wo wurde die Aufnahme gemacht? Gibt es Informationen über den Urheber oder die Originaldatei? Bei Deepfakes oder manipulierten Bildern lässt sich häufig eine Originaldatei finden, die im Nachhinein verändert wurde.

• Es kann ausserdem helfen, Fotos oder Videos mit einer umgekehrten Bildersuche im Netz aufzuspüren. Tauchen die Inhalte bereits in einem anderen Kontext auf? Wurden sie seit der Originalaufnahme verändert?

• Gibt es weitere Fotos oder Videos von dem gezeigten Ereignis? Vor allem bei aussergewöhnlichen Ereignissen ist es sehr wahrscheinlich, dass mehrere Personen Fotos oder Videos aus unterschiedlichen Perspektiven gemacht haben, die dementsprechend ebenfalls auffindbar sein sollten.

• Inhalte mit Bedacht teilen: Bevor du Inhalte auf Social Media oder in Chatgruppen teilst, die sensationell, schockierend und/oder emotional sehr aufgeladen sind, prüfe die Quellen sorgfältig.

• Aufklärung im eigenen Umfeld: Unterstütze andere dabei, Informationen im Internet kritischer zu hinterfragen. Teile zum Beispiel hilfreiche Ressourcen wie Faktenchecker-Webseiten auch mit Kollegen und Familienmitgliedern.

Fazit: Deepfakes und Fake News erkennen

Der Einsatz von Künstlicher Intelligenz kann im Alltag viele Vorteile bieten, bringt aber auch einige Herausforderungen mit sich. Die Verbreitung von Desinformationen im Internet ist kein neues Problem, kann aber durch den Einsatz von KI-Programmen noch viel schneller und häufiger geschehen. Um sich vor Manipulationsversuchen zu schützen, ist es daher sehr wichtig, Informationen kritisch zu hinterfragen, Quellen zu prüfen und Inhalte nur mit Bedacht zu teilen. So ist auch zukünftig ein verantwortungsvoller Umgang mit Informationen im Internet möglich.

______________________________________________

Quellen und weiterführende Informationen

https://correctiv.org/faktencheck/faktencheck-tipps/2023/05/01/wie-erkenne-ich-falschmeldungen-2/
(abgerufen am 17.10.2024)

https://blog.alertswiss.ch/de/rubriken/gefahren/wie-sie-desinformation-erkennen/
(abgerufen am 17.10.2024)

https://www.ch.ch/de/abstimmungen-und-wahlen/desinformation-online-erkennen/
(abgerufen am 17.10.2024)

https://www.bpb.de/themen/medien-journalismus/stopfakenews/
(abgerufen am 17.10.2024)

https://www.br.de/nachrichten/netzwelt/ki-bilder-stimm-klone-ki-generierte-fakes-erkennen-faktenfuchs
(abgerufen am 17.10.2024)

https://www.br.de/nachrichten/netzwelt/bots-bilder-deepfakes-wie-ki-fuer-desinformation-genutzt-wird-faktenfuchs
(abgerufen am 17.10.2024)

https://www.lmz-bw.de/lmz-spotlights/deepfakes-erkennen-tipps-fuer-eltern-und-lehrkraefte
(abgerufen am 17.10.2024)

https://www.medienanstalt-nrw.de/desinformation.html
(abgerufen am 17.10.2024)

https://www.saferinternet.at/faq/informationskompetenz/welche-faktenchecker-gibt-es
(abgerufen am 17.10.2024)

Bildquellen in chronologischer Reihenfolge im Text

Titelbild: Gorodenkoff – stock.adobe.com
1. Bild im Text: Nina Lawrenson/peopleimages.com – stock.adobe.com
2. Bild im Text: terovesalainen – stock.adobe.com
3. Drobot Dean – stock.adobe.com