Chaos Computer Club : 38C3: Zeit, sich zu wappnen

Eine Diskobrezel glitzert an der Decke, ein buntes Einhorn beleuchtet den Eingang: Im Congress Centrum Hamburg (CCH) herrscht auf drei Stockwerken eine fröhliche Festivalstimmung. Schon an der Außenfassade des Gebäudes zeigt sich deutlich, wer hier vier Tage lang das Sagen hat: Statt CCH prangen an der Front drei große Cs – kurz für Chaos Communication Congress oder auch den veranstaltenden Chaos Computer Club (CCC). Rund 14.500 Menschen haben sich dieses Mal angemeldet – für Vorträge zu Sicherheitsmängeln in der elektronischen Patientenakte, Datenlecks bei Volkswagen und Cum/Ex, aber auch um zu löten, coden, faxen, basteln und diskutieren.

Von der fröhlichen Anarchie darf man sich nicht täuschen lassen. Der Frust und die Enttäuschung über die Digitalpolitik der vergangenen Jahre mit Chatkontrolle und Sicherheitspaket hinterlässt Spuren. „Wir leben in schwierigen Zeiten“, fasst Gabriela Bogk vom CCC die Lage bei der Eröffnung zusammen.

Es ist Zeit, sich zu wappnen: Das spiegelt sich auch in dem doppeldeutigen Motto „Illegal Instructions“ wider. „Eigentlich ist ‚Illegal Instructions’ eine Fehlermeldung, die der Computer ausgibt, wenn man ihm einen Befehl gibt, der für ihn keinen Sinn ergibt“, erklärt Jochim Selzer vom CCC. Gleichzeitig sei das Motto aber auch ein Aufruf, Hacken wieder mehr als politische Aktionsform zu sehen. „Wir hatten die Hoffnung, dass sich mit der Ampelkoalition etwas verändert, im Koalitionsvertrag standen schließlich gute Vorhaben.“ Passiert sei jedoch wenig, stattdessen herrsche eine zunehmend repressive politische Atmosphäre, eine Besserung nach der Bundestagswahl sei nicht zu erwarten. „Wir müssen uns wieder mehr wehren“, sagt Selzer.

Sicherheitslücken bei der ePA

Direkt am ersten Tag des Kongresses widmeten sich die Sicherheitsforscher:innen Bianca Kastl und Martin Tschirsich der elektronischen Patientenakte (ePA). Die ePA wurde 2021 eingeführt, ab Mitte Januar wird für alle 70 Millionen gesetzlich Versicherten, die nicht wiedersprechen, automatisch eine Akte angelegt. Den Wechsel zur „Opt-Out“-Anwendung hat die Ampelregierung im Digital-Gesetz (DigiG) beschlossen.

Tschirsich und Kastl zeigten in ihrem Vortrag ein buntes Sammelsurium an Sicherheitslücken auf, die einen Angriff auf die elektronische Patientenakte und die darin liegenden Daten zulassen. Dabei dienen die Karten – die Gesundheitskarte für Versicherte und die Praxiskarten für Ärzt:innen – als Zugangsschlüssel: Stecken Patient:innen ihre Karte in das Lesegerät einer Praxis, kann diese 90 Tage lang auf deren ePA zugreifen.

Doch diese Zugangsschlüssel sind laut den Sicherheitsforscher:innen alles andere als sicher: Mit nur zwei Anrufen bei der Krankenkasse konnte sich Tschirsich eine Gesundheitskarte für eine andere Person bestellen. Dieser Prozess sei seit Jahren unzureichend abgesichert. Für ihn sei es bereits ein jährliches Ritual, erzählt der Sicherheitsforscher.

Zugriff auf alle ePAs möglich

In ihrem Vortrag zeigten Kastl und Tschirsich auch einen neuen Angriffsweg, mit dem sie auf alle ePAs zugreifen könnten. Dazu kauften sie über das Verkaufsportal Kleinanzeigen gebrauchte Kartenterminals, um sich Zugang zur Telematikinfrastruktur zu verschaffen. Mit der Praxiskarte konnten sie sich dann gegenüber dem Versichertenstammdatendienst (VSDD) als vermeintliche Praxis identifizieren. Um auf eine ePA zuzugreifen, brauchen sie dann nur die sogenannte Integrated Circuit Card Serial Number (ICCSN), die auf dem Chip der elektronischen Gesundheitskarte gespeichert ist. Die wird unverschlüsselt und unsigniert an den VSDD übermittelt und kann so leicht manipuliert werden.

Übermittelt man die ICCSN an den Stammdatendienst, schickt dieser einen Prüfungsnachweis zurück, mit dem dann die Daten aus der ePA abgerufen werden können. Nützlich für Angreifende ist hier, dass die Nummern fortlaufend vergeben werden: „Man kann also einfach hochzählen“, erklärte Kastl. Ob Karte und angegebene Nummer übereinstimmen, wird dabei nicht geprüft. „Ein kleiner Fehler mit großer Wirkung“, so Tschirsich: Denn so gelinge der Zugriff auf alle 70 Millionen Patientenakten.

Das Angriffsszenario ist der Gematik bekannt. In einem Statement bedankt sich die Gematik bei Kastl und Tschirsich für deren Hinweise. Die Angriffe seien zwar technisch möglich, in der Realität aber eher unwahrscheinlich. Zudem sei der unberechtigte Zugriff auf die Patientenakte strafbar. Die Forscher:innen ziehen ein anderes Fazit: Die elektronische Patientenakte ist unsicher. Stattdessen sollte das Projekt überarbeitet werden, mit einer unabhängigen Bewertung der Sicherheitsrisiken und transparenter Kommunikation zu diesen. Ein anderer, offener Entwicklungsprozess sei dringend notwendig. „Wenn wir immer das Gleiche tun, kommt auch am Ende immer dasselbe raus. Und es ist irrwitzig zu erwarten, dass jetzt auf einmal ein sicheres Produkt kommt“, sagte Tschirsich. Vertrauen könne nicht verordnet werden.

Keine Lücke, sondern Lückenteppiche

Bei den anwesenden Parlamentarierinnen sorgte der Vortrag der Sicherheitsforscher:innen für Ärger und Frust. „Es ist nicht eine Lücke, sondern ein Lückenteppich – und alle sind der Gematik bekannt“, sagte Digitalpolitikerin Anke Domscheit-Berg (Gruppe die Linke). „Es wird aber einfach so getan, als wäre nichts.“ Problematisch sieht Domscheit-Berg hier die unbesetzten Stellen für IT-Sicherheit im Bundesgesundheitsministerium. „Es fehlt das Fachwissen und die Kompetenz, diese Risiken einzuschätzen.“

Die grüne Digitalpolitikerin Sabine Grützmacher kritisierte, dass die Sicherheitslücken nicht im Kontext der nationalen Sicherheit betrachtet werden. „Ständig hören wir von den Sicherheitsbehörden, wie stark die Gefahr für Cyberangriffe seit Beginn des Ukrainekriegs gestiegen ist“, sagte Grützmacher. „Aber trotzdem lassen wir gut dokumentierte Sicherheitslücken weit offen.“ Zudem seien Sicherheitsforscher:innen wie Kastl und Tschirsich durch den sogenannten „Hackerparagrafen“ in ihrer Arbeit stark eingeschränkt, der auch ethisches Hacken kriminalisiert. „Potenziell gibt es also noch viele weitere Angriffsvektoren, die Kriminellen offenstehen.“ Beide Politiker:innen hatten vor einem Jahr einen offenen Brief unterschrieben, in dem gefordert wurde, die Digitalisierung des Gesundheitswesens neu aufzustellen.

Digitale Schule: ChatGPT schreibt, ChatGPT korrigiert

Die beliebte KI-Plattform für Lehrer:innen Fobizz knöpften sich die Philosophin Marte Henningsen und Rainer Mühlhoff, Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück, in ihrem Vortrag vor. Dabei präsentierten die beiden Forschenden ihre Studie, in der sie untersuchten, wie gut die Fobizz-KI funktioniert. Das Unternehmen hatte – Stand Dezember 2024 –Landeslizenzverträge mit Bayern, Sachsen, Sachsen-Anhalt, Mecklenburg-Vorpommern und Rheinland-Pfalz. Pro Jahr kostet die Lizenz 1,75 Millionen Euro, das meldete zumindest Rheinland-Pfalz auf Nachfrage der Forschenden zurück. Insgesamt wird Fobizz an 7.500 Schulen in Deutschland, Österreich und der Schweiz eingesetzt, der Großteil davon in Deutschland.

Konkret untersuchten die Forscher:innen das Korrekturtool, das auf ChatGPT basiert und auf der Plattform angeboten wird. Damit können Lehrkräfte Texte auf Schreibfehler, inhaltliche Richtigkeit und Grammatik prüfen lassen, inklusive eines Notenvorschlags. Ziel der Studie war nicht, zu evaluieren, ob das KI-Werkzeug pädagogisch sinnvoll ist, sagte Mühlhoff in dem Vortrag, sondern lediglich zu ermitteln, ob es die „Mindestanforderungen der Qualität“ erfülle. Dazu ließen die Forschenden das Korrektur-Tool zehn Texte fünfmal nach eigenen Kriterien bewerten.

Dabei stellte sich heraus, dass das Tool Schreibfehler findet, wo keine sind, reine Unsinn-Texte und inhaltliche Fehler nicht erkannt. Zudem ist die KI in der Bewertung instabil: Drei der zehn Texte bekamen in verschiedenen Durchgängen Noten, die sich um mehr als eine Schulnote unterschieden. Bei einem Aufsatz vergab die KI zunächst vierzehn Punkte, später nur einen Punkt. Nur bei zwei von zehn Texten blieb die Bewertung stabil.

„KI löst keine sozialpolitischen Probleme“

Bei der Korrektur gibt das Werkzeug auch Feedback, wie der Text verbessert werden kann. Als die Forscher:innen die Texte jedoch nach den Anweisungen der KI anpassten, wurden die Noten nicht besser. „Die besten Noten bekamen wir, wenn wir ChatGPT die Texte schreiben ließen“, sagte Mühlhoff. Fobizz reagierte auf die Hinweise der Forscher:innen, indem sie den Prompt für das Korrekturtool anpassten und die seit einem Jahr auf ihrer Plattform einen Hinweis darüber einfügten, wo das Korrekturtool noch schwächelt. Zudem lud das Unternehmen Mühlhoff und Hennigsen zu einem Termin ein.

Diese bewerten das Verhalten des Unternehmens als „sehr korrekt“, kritisierten jedoch das fehlende Verantwortungsbewusstsein. „Sie sehen sich als Start-up, machen halt was, werfen es auf den Markt und gucken dann, was als Feedback kommt“, sagte Mühlhoff. „In dem Moment, wo man Flächenlizenzen mit Bundesländern abschließt und alle Lehrkräfte darauf zugreifen können, ist das kein Start-up mehr.“ Auch an eine schnelle technische Behebung der Fehler glauben die beiden nicht. „Die meisten Mängel gehen auf die grundsätzlichen Limitationen von Large Language Models zurück“, so Henningsen. „Selbst wenn: KI ist nicht in der Lage, sozialpolitische Probleme wie eine Bildungskrise zu lösen.“ Stattdessen brauche es besser Arbeitsbedingungen für Lehrkräfte und mehr Investitionen in das Bildungssystem.

Datenleck bei VW

Für die meisten Schlagzeilen sorgten wohl IT-Securityexperte Flüpke und Datenjournalist Michael Kreil mit ihrem Vortrag zu dem Datenleck bei der Volkswagen-Tochter Cariad: Bewegungsdaten von 800.000 E-Autos in Europa sowie Kontaktinformationen zu Besitzern standen ungeschützt im Internet. Zuerst berichtete der „Spiegel“. Wegen eines Softwarefehlers waren über Monate Daten von VW-, Seat-, Audi- und Skoda-Fahrzeugen in einem Amazon-Cloudspeicher zugänglich.

Zu 460.000 Fahrzeugen sollen demnach präzise Standortdaten einsehbar gewesen sein, die Rückschlüsse auf das Leben der Menschen hinter den Lenkrädern zugelassen hätten. In dem Vortrag zeigten Flüpke und Kreil – auf aus Datenschutzgründen handgemalten Karten – dass selbst bei Geheimdienstmitarbeitenden und hohen Regierungsbeamten detaillierte Bewegungsprofile bis auf 10 cm genau nachvollzogen werden konnten. Die Fahrt zur Arbeit, zum Einkauf, zur Kita – oder auch zum Bordell.

Der VW-Konzern teilte mit, der Fehler sei inzwischen behoben. Sensible Informationen wie Passwörter oder Zahlungsdaten seien nicht betroffen gewesen. Bis auf den Chaos Computer Club (CCC), der Cariad auf den Fehler am 26. November aufmerksam gemacht hatte, habe niemand auf die Daten zugegriffen, heißt es in einem Statement. Betroffen seien ausschließlich Daten ausgewählter Fahrzeuge gewesen, die für Online-Dienste registriert waren und über eine Online-Konnektivität verfügten. Dabei ging es nach Unternehmensangaben um Daten zum Ladeverhalten und Ladegewohnheiten, um Batterie- und Ladesoftware zu optimieren.

Ein Anbieter bestimmt die Preise

(Ausversehen) einsehbare Daten gibt es, wie sich beim CCC zeigt, in verschiedensten Anwendungen. So lässt sich auch viel aus Software in Gefängnissen herausholen, wie Lilith Wittmann, Softwareentwicklerin und Aktivistin, vorstellte.

Fünzig Prozent der Gefängnisse haben Flurtelefone, bei 26 Prozent gibt es Haftraumtelefone, die deutlich mehr Privatsphäre bieten, aktuell werde an der Einführung von HamSy gearbeitet, dass sind Tablets. Grundsätzlich gibt es dort nur einen Telekommunikationsanbieter, die Telio GmbH. Dementsprechend hoch waren jahrelang die Preise für die Insassen. So kostete ein Anruf 2013 ungefähr 70 Cent die Minute, es dauerte bis 2023 bis ein Anruf so viel kostete wie außerhalb von Gefängnissen, ungefähr zwei Cent pro Minute aktuell. Der Anbieter wirbt damit, dass Anrufe überwacht, abgehört und begrenzt werden können.

Und genau diese Daten konnte Wittmann auslesen lassen. Über eine API in das Gefängnisse, waren Namen der Insassen, Telefonnutzung, vorherige Inhaftierung und Metadaten wie Anrufdauer, Anrufziel sowie Station des Inhaftieren einsehbar. Wittmann meldete die Lücke im Sommer, das System wurde nach zwei bis drei Tagen abgeschaltet. Verwaltungssoftware hingegen sei wenig transparent, über die verwendeten Systeme ist kaum etwas bekannt. Manchmal finde sich etwas in Gefängniszeitschriften erzählt Wittmann, dafür hat sie jedes Bundesland angefragt, die zugeschickten Zeitungen sind nun in einem Archiv öffentlich verfügbar. Mit dpa, Josefine Kulbatzki