Doktorandin ­­/­­ Doktorand (w/m/d) im Bereich IT-Sicherheit und "Explainable AI" (XAI)

Das Institut für Informationssicherheit und Verlässlichkeit (KASTEL) sucht zum nächstmöglichen Zeitpunkt eine/einen Doktorandin / Doktorand (w/m/d) im Bereich IT-Sicherheit und »Explainable AI« (XAI) Die Stelle ist auf 18 Monate befristet. Die volle Finanzierung über die gesamte Promotionszeit und über die initiale Befristung hinaus ist vorgesehen. Ihre Aufgaben Die Forschungsgruppe »Künstliche Intelligenz & IT-Sicherheit" betreibt Spitzenforschung an der Schnittstelle von künstlicher Intelligenz und IT-Sicherheit. Wir arbeiten an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software und Hardware. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von künstlicher Intelligenz. In beiden Kernbereichen der Forschungsgruppe (Sicherheit von KI und KI für IT-Sicherheit) können Methoden der erklärbaren künstlichen Intelligenz (XAI) zur Angriffserkennung eingesetzt werden. Zum Beispiel: Erkennen und Vorbeugen von Angriffen auf Computersysteme Analyse von Angriffen und Schadcode Schwachstellensuche und Fuzz Testen (Fuzzing) Erkennung von Angriffen auf künstliche Intelligenz Hintertüren in ML Modellen ("ML Backdoors") Auslösen von Fehlverhalten ("Adversarial Examples") Datendiebstahl ("Model Stealing" und "Membership Inference") Gleichzeitig ist aber auch die Angriffssicherheit von XAI Methoden besonders relevant. Neben der Demonstration von neuartigen Angriffen, ist vor allem die Entwicklung von robusten XAI Methoden zukünftig essentiell. Zum Beispiel: Eingabe- bzw. Modellmanipulationen und »Data Poisoning« "Fairwashing" von XAI-Ausgaben Zertifizierbar/ Beweisbar robuste XAI-Methoden Wir suchen Sie für eine Promotionsstelle, um Forschung auf Spitzenniveau zu betreiben. Promovierende werden in die "KIT Graduate School Cyber Security" aufgenommen. Darüber hinaus verfügt die Arbeitsgruppe über enge Kontakte zu nationalen und internationalen Forschungsinstituten. Wir betreiben außerdem eine eigene dedizierte Server-/Recheninfrastruktur zur Unterstützung unserer Forschung und statten unsere Mitarbeiter·innen mit der besten Hardware aus. *Die volle Finanzierung über die gesamte Promotionszeit und über die initiale Befristung hinaus ist vorgesehen. Ihre Qualifikation Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master) oder einem verwandten Gebiet. Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen. Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden. Werden auch Sie Teil bei der einzigen deutschen Exzellenzuniversität mit nationaler Großforschung und arbeiten Sie unter hervorragenden Arbeitsbedingungen in einem internationalen Umfeld an der aktuellen Forschung und Lehre für unsere Zukunft. Starten Sie beruflich mit einer zielgerichteten Einarbeitung sowie breitgefächerten Weiterqualifizierungsangeboten. Profitieren Sie von flexiblen Arbeitszeitmodellen (Gleitzeit, Homeoffice), diversen Sport- und Freizeitangeboten sowie Kinder- und Ferienbetreuungsangeboten. Des Weiteren bieten wir einen Zuschuss zum Jobticket BW in Höhe von 25 EUR/Monat und ein vielseitiges Angebot in verschiedenen Mensen. Wir streben eine möglichst gleichmäßige Besetzung der Arbeitsplätze mit Beschäftigten (w/m/d) an und würden uns daher insbesondere über Bewerbungen von Frauen freuen. Bei gleicher Eignung werden anerkannt schwerbehinderte Menschen bevorzugt berücksichtigt. Bewerben Sie sich bitte online bis zum 30.09.2024 unter Angabe der Ausschreibung-Nr. 1342/2024 bei Frau Jana Kehrer, Telefon +49 721 608-45415, Karlsruher Institut für Technologie (KIT), Personalservice, Kaiserstraße 12, 76131 Karlsruhe. Fachliche Auskünfte erteilen Ihnen gerne Herr TT.-Prof. Christian Wressnegger, E-Mail christian.wressnegger@kit.edu. Die Bewerbung soll aus einem Anschreiben, einem Lebenslauf und Zeugnissen bestehen. Achten Sie bitte darauf hervorzuheben, warum Sie zu unserer Arbeitsgruppe und der Forschung im Bereich IT-Sicherheit passen. Weitere Informationen finden Sie im Internet: www.kit.edu KIT - Die Forschungsuniversität in der Helmholtz-Gemeinschaft