Apertus Engineer: Post-training

Wir suchen einen versierten Engineer, um das Apertus Post-training-Projekt zu unterstützen. Der ideale Kandidat wird die SFT- und Reinforcement-Learning-Pipelines entwickeln, ausführen und evaluieren, die eingesetzt werden, um Apertus Base-Modelle in leistungsfähige Assistenten zu verwandeln. Diese Rolle erfordert fundierte Kenntnisse im LLM Post-training, solide Software-Engineering-Fähigkeiten und die Fähigkeit, kollaborativ in einer forschungsorientierten HPC-Umgebung zu arbeiten. Wir trainieren offene Foundation-Modelle mit Hunderten von Milliarden Parametern auf Tausenden von GPUs auf einem der größten KI-bereiten Supercomputer in Europa. Das Team besteht aus mehr als einem Dutzend Vollzeit-Engineers, die Seite an Seite mit führenden Forschern der EPFL und ETH Zürich arbeiten, hat die Modelle Apertus 1 und Apertus 1.5 veröffentlicht und arbeitet mit über dreißig akademischen Kooperationspartnern zusammen, um vollständig offene (Open Source), verantwortungsbewusst trainierte, mehrsprachige und multimodale KI-Modelle für Forschung und Industrie bereitzustellen. Apertus wird auf Alps, der Supercomputing-Infrastruktur des Swiss National Supercomputing Centre, trainiert und entwickelt. Die Rolle erfordert jemanden, der sich in einer HPC-Umgebung wohlfühlt und mit Forschern sowie Infrastructure Engineers zusammenarbeitet. Der Engineer wird zur Entwicklung, Ausführung und Evaluierung skalierbarer Post-training-Workflows für Apertus beitragen. Infrastructure and systems engineering Aufbau und Wartung von containerisierten Umgebungen für LLM Post-training und RL-Workloads Anpassung von Containern und Abhängigkeiten für die Ausführung auf der Alps / CSCS Infrastruktur Ausführung und Überwachung von Slurm-basierten Trainings- und Evaluations-Jobs Fehlersuche bei Problemen im Zusammenhang mit verteilter Ausführung, Checkpointing, Filesystem-Performance, Networking und GPU-Auslastung Unterstützung bei der Wartung reproduzierbarer Trainingsrezepte, Konfigurationsdateien, Launch-Skripten und Dokumentation Zusammenarbeit mit Forschern und CSCS Engineers zur Verbesserung der Zuverlässigkeit und Performance von groß angelegten Experimenten LLM post-training und reinforcement learning Unterstützung von SFT, Preference Optimisation und Reinforcement-Learning-Workflows Aufbau und Ausführung von RL-Umgebungen für Aufgaben mit verifizierbaren Ergebnissen, wie Mathematik, Code, Tool-use und Reasoning Implementierung und Ausführung von Reward Modelling, Reward Calibration und Verifier-based Training Generierung und Validierung von synthetischen oder Gym-Trainingsaufgaben Durchführung von Ablationsstudien zum Vergleich von Algorithmen, Reward-Funktionen, Datenmischungen, Hyperparametern und Infrastruktur-Einstellungen Evaluierung des Modellverhaltens über Reasoning, Coding, Mathematik, Instruction-following, Mehrsprachigkeit, Tool-use und Safety Benchmarks hinweg Fehlersuche bei gängigen Post-training-Problemen, einschließlich Optimierungsinstabilität, Reward Hacking, Regressionen und Evaluationsfehlern Essential MSc oder PhD in Informatik, Data Science, Künstliche Intelligenz, Machine Learning oder einem verwandten Bereich Außergewöhnliche BSc-Kandidaten mit starker Engineering-Erfahrung werden ebenfalls berücksichtigt Erfahrung in KI und neuronalen Netzwerkarchitekturen Starke Kollaborations- und Kommunikationsfähigkeiten sowie die Fähigkeit, über Forschungs- und Engineering-Teams hinweg zu arbeiten Vorherige praktische Erfahrung in den Kernbereichen dieser Rolle ist erforderlich Dies kann auf Projekten oder Studien basierende Erfahrung sein; formale Berufserfahrung wird bevorzugt Ein hohes Maß an Flexibilität: Prioritäten, Tools und tägliche Aufgaben ändern sich mit Trainingsplänen, Releases und einem sich schnell bewegenden Feld Praktische Erfahrung mit LLM Post-training, sei es Alignment (SFT, Preference Optimisation) oder Reinforcement Learning Dies bedeutet Erfahrung mit Frameworks wie veRL, slime, Megatron-LM, DeepSpeed, TRL, vLLM, SGLang oder ähnlichen Tools Strongly preferred Vertrautheit mit Konzepten des verteilten Trainings wie Data Parallelism, Tensor Parallelism, Pipeline Parallelism, Checkpointing und GPU-Kommunikation Erfahrung mit Slurm oder einem anderen HPC-Workload-Manager Erfahrung beim Aufbau oder Anpassen von Containern für HPC oder GPU-Cluster Nice to have Publizierte Forschung in den für diese Rolle relevanten Bereichen oder Vertrautheit mit kürzlich publizierter Forschung zu diesen Themen Erfahrung in der Erstellung verifizierbarer Aufgaben für Mathematik, Code, Reasoning oder Tool-use Vertrautheit mit Low-Level GPU/Distributed-Libraries wie NCCL, Transformer Engine, FlashAttention oder Communication Backends Erfahrung mit groß angelegten Evaluations-Pipelines Ein stimulierendes akademisches Umfeld an einer der weltweit führenden technischen Universitäten Die Möglichkeit, mit modernster Supercomputing-Infrastruktur und hochmoderner KI-Forschung zu arbeiten Zusammenarbeit mit Top-Forschern und Engineers von EPFL, ETH Zürich, CSCS und anderen Schweizer Institutionen Flexible Arbeitsmodelle, einschließlich Optionen für Remote Work Berufliche Entwicklungsmöglichkeiten, einschließlich Konferenzteilnahmen und spezialisierter Schulungen Die Chance, zu Open-Source-Projekten mit globaler Wirkung beizutragen Zugang zum breiteren Schweizer akademischen Ökosystem und zu Industriepartnerschaften Teil der souveränen Schweizer KI-Entwicklung zu sein und an Technologien von nationaler Bedeutung zu arbeiten Die Rolle kann entweder in Lausanne an der EPFL oder in Zürich an der ETH Zürich angesiedelt sein Wir freuen uns auf Ihre Online-Bewerbung mit den folgenden Dokumenten: CV/Resume Anschreiben, das Ihr Interesse und Ihre Qualifikationen erläutert Akademische Zeugnisse Kontaktinformationen für 2-3 Referenzen Links zu GitHub-Repositories oder anderen Beispielen Ihrer Programmierarbeit (falls vorhanden) Weitere Informationen über das ETH AI Center und die Swiss AI Initiative finden Sie auf