Es beginnt mit einem harmlosen Foto. Ein Selfie auf Instagram, ein Screenshot aus einer Sendung, ein Bild von der Firmenwebsite. Material, das öffentlich zugänglich ist und das in falschen Händen zu einer Waffe werden kann.

Der Fall Collien Fernandes hat Deutschland aufgerüttelt. Die Schauspielerin berichtete offen, was ihr jahrelang im Netz widerfahren ist: Fake-Profile auf ihren Namen, gefälschte Nacktfotos, Sex-Chats mit Männern, die glaubten, sie würden mit ihr schreiben, alles ohne ihr Wissen. Sie wirft ihrem Ex-Mann Christian Ulmen vor, über gefälschte Profile mehrere Jahre lang Männer kontaktiert und pornografische Aufnahmen verschickt zu haben, die sie zeigen sollen, ohne dass sie je zugestimmt hat. Für Ulmen gilt die Unschuldsvermutung.

Aber darum geht es hier nicht in erster Linie.

Was sind Deepfakes eigentlich?

Der Begriff setzt sich aus "Deep Learning", einer Methode des maschinellen Lernens, und "Fake" zusammen. Gemeint sind Bild-, Audio- oder Videoinhalte, die mithilfe Künstlicher Intelligenz so überzeugend manipuliert oder vollständig neu erzeugt werden, dass sie auf den ersten und oft auch auf den zweiten Blick echt wirken.

Die Technologie dahinter ist keine Science-Fiction mehr. Moderne KI-Systeme werden mit tausenden Fotos oder Videosequenzen einer Person trainiert. Das System lernt dabei, Mimik, Gestik, Stimme und Bewegungsmuster so präzise nachzuahmen, dass es anschliessend in der Lage ist, diese Person in völlig erfundenen Situationen darzustellen: sprechend, handelnd, in Kontexten, die nie stattgefunden haben.

Bekannte Tools wie FaceSwap oder DeepFaceLab sind längst öffentlich verfügbar und kostenlos nutzbar. Hinzu kommen kommerzielle Apps, die den Prozess noch weiter vereinfachen. Was früher ein aufwendiges Filmstudio erforderte, funktioniert heute mit einem handelsüblichen Computer und einer Handvoll Fotos aus dem Internet. Die Qualität dieser Fälschungen hat sich in den vergangenen zwei Jahren dramatisch verbessert. Die Hürde ist erschreckend niedrig. Die Ergebnisse sind erschreckend überzeugend.

Es geht um mehr als einen Prominenten-Fall

Was Fernandes beschreibt, passiert täglich, und längst nicht nur Prominenten. Es reicht häufig, dass jemand in sozialen Netzwerken ein paar Fotos von sich veröffentlicht hat. Das genügt, um das eigene Gesicht in gefälschte, kompromittierende Inhalte einzubauen.

Zu Jahresbeginn 2026 reichten zwei Worte aus, damit eine KI auf der Plattform X Menschen auf Fotos virtuell auszog, ohne deren Zustimmung. In nur neun Tagen entstanden so drei Millionen sexualisierte Bilder von Aktivistinnen, Politikerinnen und Kindern.

Die Folgen sind real

Wer denkt, das betreffe nur Frauen im Rampenlicht, irrt. Deepfakes werden eingesetzt, um Menschen zu erpressen, zu demütigten, aus dem Job zu drängen. Betroffene verlieren die Kontrolle über ihr eigenes Bild, sehen sich Rufschädigung, Ehrverletzung und dem Eindringen in ihre Intimsphäre ausgesetzt. Und das oft für Jahre, weil einmal veröffentlichte Inhalte im Netz kaum wieder vollständig verschwinden.

Fernandes kämpfte über Jahre mit Anwälten und Löschaufforderungen, vergeblich. Eine Frau mit Ressourcen, mit einem Anwalt, mit Öffentlichkeit auf ihrer Seite. Und trotzdem: vergeblich.

Was bedeutet das für alle anderen?

Das Recht hinkt hinterher, aber es bewegt sich

Die gute Nachricht: Der Fall Fernandes hat politisch etwas ausgelöst. Bundesjustizministerin Stefanie Hubig kündigte unmittelbar daraufhin an, ein Digitales Gewaltschutzgesetz vorzulegen. Täter sollen damit rechnen müssen, dass sie erkannt und wirksam strafrechtlich verfolgt werden. Geplant ist ausserdem, dass Betroffene künftig Accounts von Tätern per richterlicher Anordnung sperren lassen können und bessere Möglichkeiten bekommen, die Identität der Urheber herauszufinden.

Das ist ein Schritt in die richtige Richtung. Aber Gesetze allein lösen das Problem nicht.

Was wir daraus mitnehmen sollten

Der Fall Fernandes ist ein Weckruf, nicht nur für die Politik, sondern für uns alle. Dafür, wie wir mit digitalen Inhalten umgehen. Dafür, wie wir Menschen glauben, die von digitalem Missbrauch berichten.

Wer im Netz präsent ist, hinterlässt digitale Spuren, ob gewollt oder nicht. Das gilt fuer Privatpersonen genauso wie für Unternehmen und ihre Mitarbeitenden. Zu wissen, welche Risiken damit verbunden sind, ist heute Teil digitaler Grundkompetenz. Was tun, wenn ein Deepfake von mir oder jemandem aus meinem Umfeld auftaucht? Wer ist zuständig? Welche Schritte helfen wirklich? Das sind Fragen, auf die zu viele Menschen noch keine Antwort haben.

Digitale Bildung bedeutet auch das: zu verstehen, welche Risiken das Netz birgt, und was wir tun können, wenn wir oder jemand in unserem Umfeld betroffen sind. Schweigen schützt die Falschen.