Wenn Bots mitreden : Digitale Kommunikation braucht mehr Transparenz

Wir kommunizieren täglich in sozialen Netzwerken und Messenger-Diensten mit anderen Menschen. Was uns oft nicht bewusst ist: Viele Beiträge oder Kommentare stammen nicht von Menschen, sondern von Computerprogrammen, sogenannten Bots. Während einfache Bots auf vielen Webseiten mit vorgegebenen Textbausteinen reagieren, können moderne, KI-gestützte Bots auf einem menschlichen Sprachniveau kommunizieren.

Die größte Gefahr entsteht, wenn sich Bots und KI-Agenten als reale Personen ausgeben. Mit fiktiven Namen und KI-generierten Profilbildern treten sie in sozialen Netzwerken als scheinbar gewöhnliche Nutzer auf. Solche „Social Bots“ greifen vermehrt in Diskussionen ein und verbreiten falsche Informationen. Dabei handeln sie auch koordiniert in Netzwerken. Sie kommentieren gegenseitig ihre Beiträge oder geben sich in Diskussionen so, als hätten sie unterschiedliche Meinungen. Werden Social Bots gezielt eingesetzt, können sie Debatten beeinflussen. Es kann der Eindruck entstehen, eine bestimmte Meinung werde von einer großen Zahl von Menschen vertreten. So erzeugen sie künstliche Meinungsbilder und verschärfen gesellschaftliche Konflikte.

Social Bots sind die dunkle Seite von Social Media. Denn Täuschungen stellen die Integrität digitaler Kommunikation in Frage: Sind Bots nicht mehr als solche zu erkennen, können wir ihre Beiträge für menschliche Meinungen oder gar Fakten halten. Dies bedroht unsere Gesellschaft.

Konsequenzen der fehlenden Transparenz

Neben Desinformation werden Social Bots für Phishing-Angriffe und Betrugsversuche verwendet. Sie geben sich als Kundendienst-Mitarbeitende oder private Kontakte aus, um an sensible Daten oder Geld zu gelangen. Der Einsatz von künstlicher Intelligenz erhöht die Glaubwürdigkeit der Social Bots und steigert den Erfolg solcher Angriffe. Mit neuen KI-Modellen können Bots zudem selbstständig Angriffe im Netz ausüben.

Wir brauchen in Deutschland und Europa Transparenz zum Einsatz von automatisierter Kommunikation. Nur so können soziale Netzwerke und andere digitale Plattformen Orte echter menschlicher Kommunikation bleiben. Der europäische AI Act schreibt Transparenz gegenüber natürlichen Personen vor. Doch diese Pflicht gilt bei bestimmungsgemäßer Nutzung. Wer täuschen will, wird versuchen, die Kennzeichnung gezielt zu umgehen. Im Digital Services Act (DSA) hat die Europäische Union weitere wichtige Transparenz- und Sorgfaltspflichten für Plattformen geschaffen. Der DSA verpflichtet sehr große Plattformen, ihre Angebote auf sogenannte „systemische Risiken“ hin zu prüfen und Gegenmaßnahmen zu ergreifen. Tatsächlich verbieten die meisten Plattformen in ihren Nutzungsbedingungen schon heute unauthentische Konten. Zudem haben sich viele Plattformen in einem gemeinsamen europäischen Verhaltenskodex verpflichtet, gegen Desinformation und manipulative Bot-Aktivitäten vorzugehen.

Anbieter von digitalen Diensten sind durch den DSA zudem verpflichtet, diese Regeln sorgfältig, objektiv und verhältnismäßig anzuwenden. Sie müssen dabei die Rechte und Interessen aller Beteiligten und die Grundrechte der Nutzer berücksichtigen.

Plattformen setzen eigene Regeln nicht durch

Unser Eindruck – der sich mit den Beobachtungen der Europäischen Kommission deckt – zeigt, dass manche Plattformen die DSA-Standards und eigenen Regeln bisher nicht konsequent genug anwenden. Die Europäische Kommission hat daraufhin bereits Verfahren eingeleitet und wird weiter Verfahren führen, deren Ausgang klarstellen wird, dass Risiken richtig identifiziert und gemindert werden müssen.

Unabhängig von diesen Verfahren sehen wir jedoch schon jetzt die Notwendigkeit, dass die Plattformen selbst ihren eigenen Nutzungsbedingungen und Selbstverpflichtungen Genüge tun:

1. Bots müssen auf Plattformen eindeutig gekennzeichnet werden. Social-Media-Plattformen ziehen Profit aus digitaler Kommunikation und sind daher auch verpflichtet, Manipulation zu erkennen, einzudämmen und offenzulegen. Betreiber tragen eine besondere Verantwortung, sie sind Gatekeeper der digitalen Kommunikation. Sie müssen Transparenz auf ihren Plattformen schaffen und nicht gekennzeichnete Bots konsequent sanktionieren.
2. Wir brauchen Transparenz darüber, wer für automatisierte Nutzerkonten verantwortlich ist. Die Inhaber solcher Konten müssen dazu verpflichtet sein, ihre Identität offenzulegen. Die Plattformbetreiber müssen diese Vorgaben durchsetzen. Plattformen haben die technischen Lösungen, nicht gekennzeichnete Bots zu erkennen, konsequent zu sperren und Bot-Netzwerke wirksam einzudämmen. Wir fordern mehr Transparenz, welche Erkennungsverfahren von den Plattformen eingesetzt werden und wie wirksam diese sind.
3. Technische Erkennungsmethoden müssen weiterentwickelt werden. Aktuell existieren unterschiedliche Verfahren, die Kommunikationsmuster, Vernetzungsstrukturen oder Verhaltensauffälligkeiten analysieren. Sie werden aber bislang nicht einheitlich eingesetzt. Daher müssen sie geprüft und weiterentwickelt werden. Hier ist neben den Plattformen auch die Forschung gefragt.

Klar ist: Bots werden auch künftig Teil digitaler Kommunikation sein. Aber sie dürfen sich nicht als Menschen ausgeben. Digitale Kommunikation muss wieder vertrauenswürdig werden, und zwar durch klare und verbindliche Kennzeichnung von Bots. Wir alle haben das Recht zu wissen, ob wir mit anderen Menschen oder einer Maschine kommunizieren.

Claudia Plattner ist Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik. Zuletzt war sie Generaldirektorin für Informationssysteme bei der Europäischen Zentralbank und zuvor als Chief Information Officer der DB Systel GmbH in leitender Funktion tätig.

Klaus Müller ist Präsident der Bundesnetzagentur und war seit Mai 2014 Vorstand des Verbraucherzentrale Bundesverbands. Von 2006 bis 2014 leitete Klaus Müller die Verbraucherzentrale in Nordrhein-Westfalen. Zuvor war der Volkswirt in der Politik tätig.