AI Companions : Warum Politik und Eltern bei KI-Companions endlich aufwachen müssen

Vielen Eltern sind die negativen Folgen von Social Media inzwischen bewusst geworden. Doch während viele über Whatsapp-Nutzung und Tiktok-Bildschirmzeit streiten, kommt der nächste ungebetene Gast ins Kinderzimmer: Künstliche Intelligenz (KI) hält Einzug in die Welt von Kindern und Jugendlichen – getarnt als digitaler Freund, als sogenannter „AI Companion“.

KI erreicht Minderjährige über die digitale Infrastruktur direkt auf ihren Smartphones. Dort gibt es längst kostenlose Angebote wie „Character AI“ mit 200 Millionen monatlichen Aufrufen. Die durchschnittliche Gesprächsdauer liegt bei rund 29 Minuten – ein Zeichen dafür, wie fesselnd diese Technologie ist.

Was ist das Problem?

Die verwendete Technologie beherrscht die menschliche Sprache nahezu perfekt und verfügt über gewaltiges Fachwissen: Medizin, Technik, Psychologie – alles an Bord. Sie kann den Persönlichkeitsmustern des Gesprächspartners folgen, sich anpassen und entwickelt so erstaunliche Fähigkeiten.

Forscher der Universität Cambridge zeigten in einer Studie, dass Kinder mindestens bis zum zwölften Lebensjahr KI als „quasi menschlich und vertrauenswürdig“ einstufen. Diese wissenschaftlichen Erkenntnisse sind keine abstrakten Warnungen: In den USA tötete sich im vergangenen Jahr ein Teenager nach Gesprächen mit einem „AI Companion“ selbst.

Trotz daraus resultierender Klagen geht der Vormarsch weiter: Meta integrierte jüngst die hauseigene KI in Whatsapp. Problematisch – denn Meta betreibt mit Facebook und Instagram digitale Spielplätze, auf denen Kinder- und Jugendschutz kaum existiert. Diese Entwicklung lässt sich nicht mehr aufhalten. Umso dringender stellt sich die Frage nach konkreten Schutzmaßnahmen.

Wie können wir Kinder schützen?

Warten Sie nicht auf Hilfe aus der Politik. Familien sollten direkt Schutzmaßnahmen ergreifen. Der Schlüssel liegt dabei nicht im Verbot – das wäre realitätsfern und kontraproduktiv. Vielmehr geht es um Begleitung und klare Regeln.

Zeitaufwendig, aber effizient: Ernennen Sie sich selbst zum IT-Admin Ihres Nachwuchses und aktivieren Sie Jugendschutzeinstellungen und Zeitlimits auf allen Geräten. Bei Teenagern kann man hin und wieder Tage zur freien Nutzung geben – aber werten Sie die Aktivitäten hinterher gemeinsam aus. Wichtig: Am Ball bleiben – nur wer die Apps seiner Kinder versteht, kann seine Kinder wirksam schützen.

Als Vater spreche ich mit meinen Kindern häufig über KI. Dabei achte ich darauf, die Technologie nicht als bedrohliches Monster darzustellen, sondern als das, was sie ist: eine Maschine, die nützliches Wissen vermittelt und menschliche Gespräche simuliert. Meinem siebenjährigen Sohn erkläre ich den Unterschied zwischen echten Freunden und generierten Antworten. Mit meiner älteren Tochter führe ich seit Jahren Gespräche über die Geschäftsmodelle großer Tech-Firmen.

Der Datenhunger dieser Unternehmen ist dabei zentral: Fast immer, wenn eine App kostenlos ist, bist du das Produkt. Google und Meta dominieren die KI-Entwicklung nicht zufällig – ihre Plattformen sind Datengoldminen. Je mehr Trainingsdaten verfügbar sind, desto besser werden die KI-Systeme. Diese Mechanismen sollten Kinder verstehen lernen.

Der wichtigste Schutzfaktor: Information und Aufklärung

Es lohnt sich, sie zu Mini-Experten in Sachen Datensicherheit zu machen. Denn KI steht auch Hackern zur Verfügung. Die Attacken werden perfider, schädliche Nachrichten personalisierter. KI-manipulierte Bilder, sogenannte Deepfakes, sind inzwischen schwer von der Realität zu unterscheiden. Speziell auf Social Media sind Kinder dahingehend besonders gefährdet, obwohl der EU Digital Services Act hier eigentlich als regulatorisches Mittel greifen sollte. Entsprechend vorbereitet durchschauen informierte Kinder schädliche Mechanismen häufig selbst.

Die unbequeme Wahrheit: Künstliche Intelligenz ist hier und wird bleiben. Perfekten Schutz vor Missbrauch gibt es nicht. KI ist aber nicht per se schlecht, aber potenziell gefährlich. Informierte, kritische Kinder und aufmerksame Eltern können den Unterschied ausmachen. Die Spanne zwischen sinnvollem Werkzeug und einer toxischen künstlichen Beziehung ist andernfalls viel zu klein.

Mattias Protzmann ist Mitgründer des KI-Start-ups Blockbrain und war zuvor unter anderem Mitgründer der Datenplattform Statista.