PROMED ist ein international tätiges Unternehmen im Bereich Test- und Prüfsysteme für die Elektroindustrie. Unsere Schwerpunkte sind die Entwicklung und Produktion von automatisierten Prüfsystemen, sowie der Prototypen- und Kleinserienbau. Seit über 30 Jahren bieten wir Prüfkonzepte und Lösungen für alle Bereiche der Industrie an.
Wir arbeiten an der Spitze der KI-Infrastruktur und integrieren cutting-edge Hardwarelösungen von Tenstorrent, um leistungsstarke und effiziente ML-Workloads zu ermöglichen. Zur Unterstützung unseres Teams suchen wir eine:n engagierte:n Werkstudent:in mit Interesse an KI-Architekturen, Systemintegration und Deployment moderner LLMs.
Aufgaben
* Installation und Inbetriebnahme von Tenstorrent Hardware (Wormhole und Blackhole Chips) inklusive Firmware-Setup und Treiberkonfiguration
* Einrichtung und Wartung der Tenstorrent Software-Toolchain, insbesondere TT-Metal, pyMetal, ttnn, tt-metal und tt-vllm.
* Integration und Deployment neuer Large Language Models (LLMs) in das Tenstorrent-Ökosystem
* Anbindung und Nutzung von LLMs via VLLM (vLLM inference engine) und OpenAI API
* Unterstützung bei Benchmarking, Performanceanalysen und Troubleshooting im Umfeld von Deep-Learning-Inferenz
* Mitwirkung bei der Umsetzung neuer Softwareprodukte
* Pflege und Erweiterung bestehender Software
Qualifikation
* Eingeschriebene:r Student:in in Informatik, Elektrotechnik, Medieninformatik oder einem verwandten technischen Studiengang
* Grundkenntnisse in Deep Learning Frameworks (z. B. PyTorch, TensorFlow)
* Erste Erfahrung mit LLMs (z. B. LLaMA, Mistral, GPT) wünschenswert
* Interesse an KI-Hardware wie GPUs, ASICs oder speziell Tenstorrent
* Sicherer Umgang mit Linux (CLI, Bash, Package-Management)
* Gute Python-Kenntnisse
* Teamfähigkeit, Eigeninitiative und die Motivation, dich in komplexe technische Themen einzuarbeiten
Benefits
* Direkte Arbeit mit hochmoderner KI-Hardware (Tenstorrent, GPUs, eventuell auch RISC-V Ecosystem)
* Einblicke in das Deployment und Management moderner LLMs auf dedizierter Infrastruktur
* Flexible Arbeitszeiten, hybride Arbeitsmöglichkeiten
* Möglichkeit zur Bachelor-/Masterarbeit in angrenzenden Themenbereichen
Weiterhin bieten wir Ihnen:
Leistungen:
* Betriebliche Altersvorsorge
* Betriebsfeiern
* Flexible Arbeitszeiten möglich
* Jobrad (Lease-a-bike)
* EGYM Wellpass
* Kostenlose Getränke
Interessiert?
Dann freuen wir uns auf deine Bewerbung (CV, ggf. relevante Projekte/GitHub-Links).