CASA PI Nils Jansen wurde mit einem ERC Proof of Concept Grant für sein Projekt Pro-DEUCE: A Platform for Safe Reinforcement Learning and Verification with Industrial Applications ausgezeichnet.
Das Projekt zielt darauf ab, die Sicherheit von KI-Agenten zu verbessern, die durch Reinforcement Learning (bestärkendes Lernen) trainiert werden. Im Mittelpunkt steht insbesondere der Schutz vor gezielten Angriffen, die bereits durch minimale Manipulationen von Sensordaten unsichere Entscheidungen auslösen können. Hierfür entwickelt Pro-DEUCE die Open-Source-Plattform VeriGym, mit der die Sicherheit von KI-Agenten formal überprüft werden soll.
An dem Projekt sind Industriepartner aus den Niederlanden, Deutschland, Großbritannien und Schweden beteiligt. Pro-DEUCE baut auf Jansens ERC Starting Grant DEUCE (Data-Driven Verification and Learning Under Uncertainty) auf.
Allgemeiner Hinweis: Mit einer möglichen Nennung von geschlechtszuweisenden Attributen implizieren wir alle, die sich diesem Geschlecht zugehörig fühlen, unabhängig vom biologischen Geschlecht.
