(Senior) AI Engineer (all genders)

Dein neuer Job

Als LLM Engineer entwickelst du Lösungen zur Integration und Optimierung von Sprachmodellen in der botario-Plattform. Du bleibst über aktuelle Entwicklungen in der KI-Forschung informiert und unterstützt das Team bei der Bewertung der Modellqualität und -effizienz.

Woran du mitwirken wirst

• Du beobachtest Trends und Fortschritte in der NLP- und KI-Forschung, um Innovationen aus dem Bereich der Large Language Models in das Produkt zu integrieren

• Du sorgst dafür, dass LLMs im Zusammenspiel mit der botario Plattform im produktiven Einsatz bei Kunden verwendet werden können – egal ob es um das neueste schnellere Inferenzframework oder die allerneuste Promptingtechnik geht

• Du experimentierst mit neuen Modellen und Architekturen, um den Chatbot leistungsfähiger zu machen

• Du unterstützt das botario Team und unsere Kunden dabei, LLMs hinsichtlich Antwortqualität, Latenzen, Kosten und weiteren Aspekten zu evaluieren, indem du fundierte Analysen lieferst und wertvolle Insights beisteuerst, um optimale Entscheidungen zu treffen

Die Qualifikationen, die Du brauchst

• Du hast sehr gute Programmierkenntnisse und hast auch keine Angst dich mit DevOps zu beschäftigen, lebst die Best Practices und hast bereits erfolgreich Softwareprojekte gemacht

• Du arbeitest gerne im Team und mit agilen Methoden

• Du hast praktische Erfahrung in der Implementierung von KI-bezogenen Funktionen in Softwareprodukten – vom Modeltraining bis zur Bereitstellung und der Versionierung

• Du hast Erfahrung mit Python, Microservice Architekturen, ML-Model Serving, Docker und co.

• Wünschenswert sind erste Erfahrungen im kommerziellen Einsatz von Open-Source-LLMs, gerne in Niedriglatenzkontexten in Kombination mit SpeechToText und TextToSpeech Modellen

• Du hast Erfahrung mit den aktuellsten LLM-Technologien und -Praktiken

• Du bist vertraut mit Cloud-Plattformen und Containerisierungstechnologien

• Du denkst lösungsorientiert und gehst dabei Probleme analytisch und strukturiert an

• Du hast eine eigenständige Arbeitsweise und begeisterst dich für KI

• Du beherrschst Deutsch und Englisch in Wort und Schrift