Eine neue Methode, die hilft, Deepfakes zu erkennen, und moderne Fahrzeuge, die lernen, manipulierte Verkehrsschilder von echten zu unterscheiden: Diese konkreten Projekte aus der IT-Sicherheitsforschung hat der nordrhein-westfälische Ministerpräsident Hendrik Wüst am 27. Juni 2024 beim Besuch in Bochum aus erster Hand und im Austausch mit Forscherinnen und Forschern kennengelernt. Bei seiner Station an der Ruhr-Universität hat sich Wüst über einen der weltweit führenden Standorte der Cybersicherheitsforschung informiert.
Hotspot der IT-Sicherheitsforschung
„Bochum hat sich in den vergangenen 20 Jahren zu einem Hotspot der IT-Sicherheitsforschung entwickelt. Exzellente Forschung, ausgezeichnete Nachwuchsförderung und eine hervorragende Vernetzung vor Ort machen die besondere Stärke des IT-Sicherheitsstandorts Bochum aus“, so Wüst. „Forschung aus Bochum trägt dazu bei, Informationstechnologien sicherer zu machen – davon profitieren wir, im Zeitalter von KI und Quantentechnologien, am Ende alle. Zu Recht legt der IT-Sicherheitsstandort Bochum einen besonderen Fokus auf gelingenden Transfer von der Wissenschaft in die Praxis – denn ein prosperierendes Ökosystem für Unternehmensgründungen ist ein Katalysator für positiven Strukturwandel.“
Vernetzter Standort
Keimzelle des Standorts ist das 2003 an der Ruhr-Universität gegründete Horst-Görtz-Institut für IT-Sicherheit (HGI), das seit 2019 das Exzellenzcluster CASA (Cyber Security in the Age of Large-Scale Adversaries) beheimatet. 2019 ist zudem das Max-Planck-Institut für Sicherheit und Privatsphäre (MPI-SP) in Bochum gegründet worden. Ein weiterer Meilenstein wurde im Jahr 2021 mit dem Research Center Trustworthy Data Science and Security in der Research Alliance Ruhr erreicht, gefördert vom Land NRW und entstanden aus der Ruhrkonferenz. Hier arbeiten Forschende standortübergreifend innerhalb der Universitätsallianz Ruhr an den drei großen Universitäten der Region zusammen.
Größter Studienstandort für IT-Sicherheit in Europa
Ministerpräsident Wüst tauschte sich vor Ort mit Wissenschaftlerinnen und Wissenschaftlern über Cybersicherheit und insbesondere über die Chancen und Risiken von Künstlicher Intelligenz aus.
Begrüßt wurde er von Rektor Prof. Dr. Martin Paul im Beisein des Bochumer Oberbürgermeisters Thomas Eiskirch: Paul betonte: „Wir sind an der RUB inzwischen der größte Studienstandort für IT-Sicherheit in Europa. Darüber hinaus entwickeln unsere Forscherinnen und Forscher gemeinsam effektive Lösungen gegen mächtige Cyber-Angreifer. Das HGI und sein Exzellencluster CASA überzeugen dabei durch internationale Spitzenleistungen, interdisziplinäre Forschung, innovative Ansätze und mit vielen erfolgreichen Ausgründungen auch durch einen gelungenen Wissenstransfer in die Praxis. Wir werden alles daransetzen, dass der IT-Sicherheitsstandort Bochum weiterhin weltweit ganz vorne im Bereich Cybersicherheit mitspielt.“
Nur ein paar Zahlen, die dafürsprechen:
• derzeit werden über 900 Studierende in vier Studiengängen ausgebildet – das sind dringend benötigte Expertinnen und Experten, stark nachgefragte Fachkräfte von morgen;
• was mit zwei Stiftungsprofessuren vor rund 20 Jahren begann, ist heute eins der größten Institute seiner Art mit 41 Professuren; derzeit sind Forschende des Standorts an Drittmittelprojekten im Volumen von über 50 Millionen Euro beteiligt
• drei von vier internationalen Kryptographie-Standards für die künftigen Quantencomputer-Generation kommen aus Bochum (nach internationalem NIST, vergleichbar mit der deutschen DIN )
Konkrete Einblicke in die Forschung erhalten und dabei auch selbst Hand anlegen, das stand für den Ministerpräsidenten nach einer Gesprächsrunde bei zwei Live-Demonstrationen auf dem Programm:
Neue Methode zur Erkennung von Deepfakes (Prof. Dr. Asja Fischer)
Mit modernen Text-zu-Bild-Modellen kann jeder täuschend echte Bilder mit beliebigen Inhalten erstellen, wodurch die Gefahr von visueller Desinformation erhöht wird. Ein wichtiger Fortschritt dabei sind Latente Diffusionsmodelle (LDMs), die hochauflösende Bilder mit geringem Rechenaufwand erzeugen können. Im Gegensatz zu herkömmlichen Modellen arbeiten LDMs im niederdimensionalen, latenten Raum eines vortrainierten Autoencoders (AE) statt im hochdimensionalen Bildraum.
In der Demo erlebte Wüst anhand eines realen Bildes von sich (aus der Süddeutschen Zeitung) und eines durch künstliche Bildverfahren erzeugten Bildes, wie das neue Verfahren „AEROBLADE“ – vereinfacht dargestellt – funktioniert: Bochumer Forscherinnen und Forscher haben herausgefunden, dass generierte Bilder vom vortrainierten Auto-Encoder besser rekonstruiert werden können als echte Bilder. Die Demo veranschaulichte dies, indem sie die vorgegeben Bildern erst durch den AE komprimiert und dann rekonstruiert werden. Anschließend ist eine Detektion auf Basis des Rekonstruktionsfehlers möglich. Innerhalb der Demo wurde dies anhand eines Farbschemas angezeigt.
Manipulationen von Verkehrsschildern und damit einhergehende Probleme für moderne Fahrzeuge (Prof. Dr. Ghassan Karame)
Manipulationen von Verkehrsschildern und damit einhergehende Probleme für moderne Fahrzeuge (Prof. Dr. Ghassan Karame)
Moderne Fahrzeuge erkennen durch KI-Unterstützung Verkehrszeichen und passen ihr Fahrverhalten dementsprechend an. Dies kommt in zahlreichen Fahrerassistenz-Systemen zum Einsatz und findet sich ebenfalls in autonom fahrenden Fahrzeugen wieder. Ein Forschungs-Team der RUB zeigt, dass Verkehrszeichen mit Hilfe von harmlosen Infrarotlicht gezielt manipuliert werden können. Die KI interpretiert die Verkehrszeichen anschließend nicht mehr korrekt und kann damit beispielsweise Stopp-Schilder übersehen oder Tempo-Limits nicht mehr einhalten, was ein großes Problem für die Sicherheit aller Verkehrsteilnehmer ist. Das verwendete Infrarotlicht ermöglicht besonders unauffällige Manipulationen, da dieses für den Menschen unsichtbar ist. Diese sehen weiterhin das unveränderte Verkehrszeichen, wobei die Kameras des Fahrzeuges die Manipulationen wahrnehmen können und diese dann an die KI weiterleiten.
Allgemeiner Hinweis: Mit einer möglichen Nennung von geschlechtszuweisenden Attributen implizieren wir alle, die sich diesem Geschlecht zugehörig fühlen, unabhängig vom biologischen Geschlecht.
