AI Infrastructure Architect (w/m/d)

Für unseren Kunden in Frankfurt am Main suchen wir einen AI Infrastructure Architect (w/m/d) zur Unterstützung im Projekt.

Konzeption und Aufbau einer Enterprise-Level AI-Infrastruktur für den On-Premises-Betrieb
Entwicklung einer geeigneten Hardware- und Systemarchitektur für das Hosting und den Betrieb eigener KI-Modelle
Evaluierung und Implementierung von Self-Hosted / Open-Source AI-Modellen
Aufbau einer sicheren und compliant betriebenen AI-Umgebung unter Berücksichtigung von Datenschutz, Security und Governance
Integration von MCP (Model Context Protocol) zur Anbindung von Daten, Tools und internen Unternehmenssystemen
Anbindung und Integration bestehender Unternehmensanwendungen, insbesondere CAD-Systeme
Entwicklung von Schnittstellen und Workflows zwischen KI-Modellen und bestehenden Anwendungen
Sicherstellung von kontrollierbaren, nachvollziehbaren und möglichst deterministischen KI-Prozessen
Entwicklung einer Architektur, in der die KI durch Nutzung und Feedback zunehmend eigenständige Aufgaben übernehmen kann
Technische Beratung des Kunden bei der Auswahl von Modellen, Hardware, Infrastruktur und geeigneten Technologien
Aufbau einer skalierbaren und zukunftsfähigen AI-Plattform, die schrittweise erweitert und auf weitere Anwendungsfälle übertragen werden kann

Mehrjährige Erfahrung im Aufbau und Betrieb von Enterprise AI / AI-Infrastrukturen
Fundierte Kenntnisse in Self-Hosting von KI-Modellen, On-Premises und AI-Hardware
Erfahrung mit MCP sowie der Integration von KI in bestehende Unternehmenssysteme
Erfahrung in der Anbindung und Integration von CAD- oder technischen Anwendungen
Kenntnisse in Security, Datenschutz, Compliance und Governance im Enterprise-Umfeld
Verständnis für LLMs, AI Agents und autonome AI-Systeme
Erfahrung mit skalierbaren und produktionsnahen AI-Architekturen
Nice to have: Erfahrung in der Baubranche / Bauindustrie

Ähnliche Jobs