Das Fraunhofer-Institut für Sichere Informationstechnologie SIT gehört zu den führenden Forschungs- und Entwicklungseinrichtungen für Cyber-Sicherheit in Deutschland und Europa und ist Teil von ATHENE, dem nationalen Forschungszentrum für angewandte Cybersicherheit. ATHENE ist eine Kooperation der Fraunhofer-Gesellschaft mit der TU Darmstadt, der Hochschule Darmstadt und der Goethe-Universität Frankfurt. Unser gemeinsames Ziel: die Welt von morgen sicherer zu machen.
Was Du bei uns tust
* Entwicklung von Verfahren, um die Sicherheit von LLMs zu steigern. Dabei liegt ein großer Fokus auf der Abwehr von gängigen Angriffen wie bspw. Backdoorattacks und damit einhergehenden Jailbreaks.
* Systematische Evaluation der Robustheit von LLMs gegenüber etablierten und neuartigen Angriffsszenarien, bezüglich gängiger und neuartiger Angriffe wie Backdoorattacks, Divergence Attacks oder Membership Inference Attacks etc.
* Untersuchung, Anwendung und Bewertung von Post-hoc-Explainability-Verfahren zur Analyse des Modellverhaltens, mit dem Ziel, ein tiefergehendes Verständnis der zugrunde liegenden Angriffsmechanismen sowie der Wirksamkeit und Grenzen entsprechender Verteidigungsstrategien zu erlangen.
Was Du mitbringst
* Sehr gute Python-Kenntnisse, die im Interview geprüft werden.
* Grundlegendes Verständnis von KI/ML hauptsächlich im Bezug auf Transformer
* Erfahrung mit Pytorch und Transformerarchitekturen sind wünschenswert
* Gute Englischkenntnisse
* Eingeschriebene/r Student/in (Informatik, Data Science, Mathematik o. ä.)
* Strukturierte, eigenständige Arbeitsweise und Teamfähigkeit
* Ausgeprägtes analytisches Denken
Was Du erwarten kannst
* Flexible Arbeitszeiten, die sich gut mit Deinem Studium vereinbaren lassen
* Eine inspirierende Arbeitsumgebung mit modernster Infrastruktur
* Die Möglichkeit, praktische Erfahrung zu sammeln und wertvolle Kontakte in der Forschung zu knüpfen
* Möglichkeit an wissenschaftlichen Papern mitzuarbeiten und eine spätere Bachelor- oder Masterarbeit anzufertigen.
* Stelle ist remote oder hybrid möglich
* Die monatliche Arbeitszeit beträgt etwa 40 Stunden, je nach Absprache
Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.
Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft.
Haben wir Dein Interesse geweckt? Dann bewirb Dich jetzt online mit Deinen aussagekräftigen Bewerbungsunterlagen. Wir freuen uns darauf, Dich kennenzulernen!
Fraunhofer-Institut für Sichere Informationstechnologie SIT
www.sit.fraunhofer.de
Kennziffer: 81268 Bewerbungsfrist: