Künstliche Intelligenzen (KI) wie ChatGPT scheinen die Zukunft zu sein. Trainiert wurden die Sprachmodelle allerdings mit Daten aus der Vergangenheit. "Und wir wissen alle, dass es in der Vergangenheit Diskriminierung gab", sagt Informatiker Prof. Dr. Bilal Zafar. "Seit einer Weile ist bekannt, dass Sprachmodelle wie ChatGPT unter einem Bias leiden. Sie geben manchmal rassistische oder sexistische Antworten, aber auch ganz andere und subtilere Bias kommen vor." Das möchte Bilal Zafar mit seinem Team ändern.
Der neu ernannte CASA PI und Professor für Computing and Society am Horst-Görtz-Institut für IT-Sicherheit, Fakultät für Informatik der Ruhr-Universität Bochum, erforscht, welche Tendenzen Sprachmodelle haben und wie man sie verhindern könnte. Seit dem 1. April 2024 ist Zafar nicht nur Mitglied der Fakultät für Informatik an der Ruhr-Universität, sondern auch Mitglied im Exzellenzcluster CASA und im Research Center Trustworthy Data Science and Security. Im Research Center kooperieren Forschende aus Bochum, Dortmund und Duisburg-Essen interdisziplinär im Rahmen der Universitätsallianz Ruhr .
In Bochum ist mir sofort aufgefallen, wie freundlich alle hier sind und dass Hierarchien egal sind.
– Bilal Zafar
"Die Mischung der Leute am Research Center ist mir sehr wichtig", sagt Bilal Zafar. "Ich glaube, dass man in der Forschung besonders gut vorankommt, wenn Leute aus unterschiedlichen Disziplinen zusammenkommen." Außerdem fühlt sich der gebürtige Pakistani im Ruhrgebiet sehr wohl. "In Pakistan sind die Menschen sehr hilfsbereit und gastfreundlich, und das ist mir auch wichtig", erzählt er. "In Bochum ist mir sofort aufgefallen, wie freundlich alle hier sind und dass Hierarchien egal sind – auch berühmte Professoren benehmen sich genauso freundlich wie alle anderen. Für mich war es sehr leicht, mich hier einzugewöhnen."
Bevor er die Professur antrat, war Bilal Zafar fünfeinhalb Jahre in der Industrie tätig. "Ich wollte allerdings unbedingt in die akademische Welt zurück, weil es mir wichtig ist, junge Menschen in der Ausbildung begleiten zu können", sagt Zafar. Er selbst erinnert sich noch gut daran, wie entscheidend das für ihn war. "Ich stamme nicht gerade aus reichen Verhältnissen", erzählt er. "Dank eines Stipendiums konnte ich in Pakistan eine Universität besuchen, die ich mir sonst niemals hätte leisten können. Hier wurde mir klar, wie sehr Bildung und gute Lehrkräfte ein Leben beeinflussen können. Ich habe davon profitiert und möchte nun etwas zurückgeben."
Fairness und Diversität als Herzensangelegenheit
Auch sein Forschungsgebiet ist kein Zufall. Fairness und Diversität sind Bilal Zafar eine Herzensangelegenheit. Als er erfuhr, dass KI gewisse Gruppen von Menschen diskriminiert, dachte er sofort: Das darf nicht sein. Die Motivation für seine Forschung zieht er aus der Nähe des Themas zum täglichen Leben. "Aber Wissenschaft ist natürlich mehr als das", sagt er. "Es bedeutet, ganz tief in die Materie einzutauchen, auch wenn es dann abstrakter werden kann." Irgendwo in den Tiefen der Sprachmodelle hofft Bilal Zafar den Schlüssel zu finden, um KI fairer zu machen.
Zur Person
- 2011: Ericsson-PTA Mobile Excellence Award der Pakistan Telecommunication Authority
- 2012: Bachelor-Abschluss Informatik, LUMS SBA School of Science and Engineering, Lahore, Pakistan
- 2015: Master-Abschluss Informatik, Universität des Saarlandes
- 2012 bis 2018: Wissenschaftlicher Mitarbeiter während der Promotion, Max-Planck-Institut für Softwaresysteme, Saarbrücken
- 2019: Promotion, Universität des Saarlandes
- 2018 bis 2020: Wissenschaftlicher Mitarbeiter, Bosch Center for Artificial Intelligence, Renningen
- 2020 bis 2024: Applied Scientist, Amazon Web Services, Berlin
- 2021: Otto-Hahn-Medaille der Max-Planck-Gesellschaft für herausragende wissenschaftliche Leistungen von jungen Wissenschaftler*innen
- Seit 2024:
- Professor für Computing and Society, Ruhr-Universität Bochum und Research Center for Trustworthy Data Science and Security
- sowie Mitglied des Exzellenzclusters CASA und des Horst-Görtz-Instituts für IT-Sicherheit
Allgemeiner Hinweis: Mit einer möglichen Nennung von geschlechtszuweisenden Attributen implizieren wir alle, die sich diesem Geschlecht zugehörig fühlen, unabhängig vom biologischen Geschlecht.
