Was ist ein Deepfake, kindgerecht erklärt?

Ein Bild, Video oder eine Stimme, die ein Computer mit künstlicher Intelligenz nachgemacht hat, sodass es echt aussieht oder klingt. Menschen sagen oder tun darin Dinge, die nie passiert sind.

Wie viel Material braucht man, um eine Stimme zu kopieren?

Nach Berichten von Fachmedien und Verbraucherschützern reichen oft schon wenige Sekunden Audio, etwa aus einem Video oder einer Sprachnachricht.

Wie funktioniert ein Familien-Codewort?

Sie vereinbaren ein ungewöhnliches Wort, das nirgends notiert oder online zu finden ist. Wer am Telefon Geld, Daten oder etwas Ungewöhnliches verlangt, muss es nennen können. Fehlt es, wird aufgelegt und über die bekannte Nummer zurückgerufen.

Ab welchem Alter sollte ich mit meinem Kind über Deepfakes sprechen?

Sobald Ihr Kind selbst telefoniert, Sprachnachrichten bekommt oder Videos schaut, also oft schon im Grundschulalter. Mit sechs Jahren reicht eine einfache Erklärung und das Codewort, ältere Kinder können auch lernen, wie Fakes entstehen.

Deepfakes und KI-Stimmen Kindern erklären

Was Deepfakes sind, in einfachen Worten

Ein Deepfake ist ein Bild, ein Video oder eine Tonaufnahme, die mit künstlicher Intelligenz erzeugt oder verändert wurde, sodass sie echt wirkt. Menschen sagen darin Dinge, die sie nie gesagt haben, oder sind an Orten zu sehen, an denen sie nie waren. Dasselbe gilt für Stimmen: Schon wenige Sekunden Audio aus einem Video oder einer Sprachnachricht können reichen, um eine Stimme täuschend echt nachzumachen ¹.

Für Kinder ist das eine neue Erfahrung. Bisher galt: Was man sieht und hört, ist passiert. Diese Faustregel stimmt nicht mehr, und Kinder brauchen dafür eine neue Gewohnheit: erst prüfen, dann glauben.

Wo Ihr Kind Deepfakes begegnen kann

Videos mit Stars oder Influencern, die angeblich Gewinnspiele, Gratis-Spielwährung oder Produkte bewerben.
Gefälschte Bilder von Mitschülern, die zum Lachen oder zum Bloßstellen verschickt werden. Schon ein einziges harmloses Foto kann ausreichen, um daraus Deepfakes zu erzeugen, bis hin zu sexualisierten Darstellungen. Solche Fälschungen gelten als sexualisierte Gewalt, auch wenn sie nicht echt sind ².
Sprachnachrichten oder Anrufe mit einer vertrauten Stimme, die um etwas bittet: Geld, ein Passwort, ein Geheimnis oder ein Treffen.

Wie man KI-Bilder an Details erkennt, erklären wir im Ratgeber KI-Bilder erkennen.

Enkeltrick 2.0: die nachgemachte Stimme

Beim klassischen Enkeltrick geben sich Betrüger am Telefon als Verwandte in Not aus. Mit KI klingen sie nun wirklich wie der Enkel, die Tochter oder der Vater. Für solche Schockanrufe reichen Betrügern wenige Sprachaufnahmen, etwa aus sozialen Netzwerken ³. Das betrifft Familien in beide Richtungen:

Großeltern oder Eltern hören angeblich ihr Kind, das dringend Hilfe oder Geld braucht.
Ein Kind hört angeblich Mama oder Papa, die sagen, es solle etwas Bestimmtes tun, ein Passwort nennen oder jemandem folgen.

Unnatürliche Pausen oder eine merkwürdige Sprechweise können auf KI hindeuten, sind aber oft schwer zu bemerken ³. Deshalb hilft eine feste Regel mehr als genaues Hinhören.

So erklären Sie es Ihrem Kind, je nach Alter

Alter	So können Sie es sagen	Die Regel dazu
6 bis 8 Jahre	„Computer können heute Stimmen nachmachen, so wie ein Papagei. Am Telefon kann also jemand klingen wie ich, obwohl ich es gar nicht bin.“	Wenn jemand am Telefon etwas Ungewöhnliches will, fragst du nach unserem Codewort.
9 bis 10 Jahre	„Mit KI kann man Fotos und Videos so verändern, dass Menschen Dinge sagen oder tun, die nie passiert sind. Das sieht oft ganz echt aus.“	Erst prüfen, dann glauben: Wer hat es geschickt, und warum?
11 bis 12 Jahre	„Ein paar Sekunden aus einem Video reichen, um eine Stimme zu kopieren. Deshalb ist es gut, nicht überall Videos und Sprachnachrichten öffentlich zu teilen.“	Nichts weiterleiten, was jemanden bloßstellt, auch wenn es „nur ein Fake“ ist.

Machen Sie das Thema greifbar: Schauen Sie gemeinsam ein bekanntes, harmloses Fake-Video an oder sprechen Sie darüber, wie Synchronstimmen im Film funktionieren. Kinder verstehen schneller, wenn sie den Effekt einmal selbst erlebt haben. Grundlagen zu KI finden Sie im Ratgeber KI für Kinder erklärt.

Das Familien-Codewort: einfache Regel, große Wirkung

Verbraucherschützer empfehlen, mit Familie und Freunden ein geheimes Codewort zu vereinbaren ³. Wer am Telefon Geld, Daten oder eine ungewöhnliche Handlung verlangt, muss das Wort nennen können. Eine KI kann eine Stimme kopieren, aber kein Geheimnis kennen, das nirgends steht.

So wählen Sie ein gutes Codewort

leicht zu merken, aber ungewöhnlich ⁴,
nicht aus öffentlich auffindbaren Informationen ableitbar: also kein Name des Haustiers und kein Lieblingsverein ⁴,
nie in Chats, sozialen Netzwerken oder auf Notizzetteln im Ranzen,
für Kinder: ein lustiges Wort, das sie sich gut vorstellen können.

So üben Sie es mit Ihrem Kind

Spielen Sie zwei, drei Situationen als kurzes Rollenspiel durch: Jemand ruft an und sagt, er sei Papa und brauche schnell das Passwort fürs Tablet. Jemand am Schultor sagt, Mama habe ihn geschickt. Ihr Kind fragt nach dem Codewort, und wenn es nicht kommt, legt es auf oder geht zurück zur Lehrkraft. Loben Sie es, wenn es standhaft bleibt, auch gegenüber Ihnen.

Plan B, wenn das Codewort vergessen wird

Wer das Wort nicht weiß, beendet das Gespräch und ruft die Person unter der bekannten, gespeicherten Nummer zurück oder schreibt im bestehenden Familienchat ⁴. Eine weitere Möglichkeit ist eine Frage, deren Antwort nur die Familie kennt und die nirgendwo im Netz steht ³.

Was tun im Ernstfall?

Verdächtiger Anruf oder Sprachnachricht

Ruhig bleiben, keine Daten nennen, nichts überweisen ³.
Auflegen und die Person über die bekannte Nummer zurückrufen ¹.
Datum, Uhrzeit, Nummer und Inhalt notieren und den Anruf bei der Polizei melden ³.
Großeltern und andere Verwandte warnen, denn Betrüger versuchen es oft bei mehreren Familienmitgliedern.

Gefälschtes Bild oder Video von Ihrem Kind

Ihr Kind entlasten: Es hat nichts falsch gemacht.
Das Bild nicht weiterverbreiten und bei der Plattform melden.
Bei Mitschülern die Schule einbeziehen, bei Bloßstellung hilft unser Ratgeber zu Cybermobbing.
Bei sexualisierten Fälschungen sofort zur Polizei und das Bild nicht speichern. Die Schritte dazu stehen in Kind hat ein Foto verschickt.

Vorbeugen: weniger Material, weniger Risiko

Je weniger Fotos, Videos und Sprachaufnahmen Ihres Kindes öffentlich im Netz stehen, desto weniger Material gibt es für Fälschungen. Klicksafe empfiehlt, Kindergesichter nicht erkennbar zu zeigen, Profile auf privat zu stellen und Familie und Freunde darum zu bitten, verantwortungsvoll zu posten ². Das gilt auch für öffentliche Sprachnachrichten und Videos, in denen Ihr Kind spricht.

Checkliste: Deepfakes und KI-Stimmen

Mit Ihrem Kind altersgerecht über nachgemachte Bilder und Stimmen sprechen
Familien-Codewort vereinbaren, ungewöhnlich und nirgends notiert
Codewort im Rollenspiel üben, auch für das Abholen von der Schule
Regel: Bei Geld, Passwörtern oder Geheimnissen immer zurückrufen
Großeltern einweihen und mit ihnen dasselbe Codewort nutzen
Wenige Fotos, Videos und Sprachaufnahmen Ihres Kindes öffentlich teilen
Fakes nie weiterleiten, sondern melden

Das Codewort schützt vor dem Anruf. Im Alltag begegnen Kindern aber viel öfter gefälschte Bilder, Videos und KI-Antworten, die nicht stimmen. Im KI-Führerschein lernt Ihr Kind, was KI ist, wo sie sich irrt, wie man KI-Bilder und nachgemachte Stimmen erkennt und warum man keine Daten an KI gibt. Es übt an echten Szenen, entscheidet selbst und bekommt sofort erklärt, warum. Mehr über den Einsatz von Chatbots lesen Sie im Ratgeber ChatGPT und Kinder.

Deepfakes und KI-Stimmen: So erklären Sie es Ihrem Kind