Embedded-AI-Entwickler

Was macht ein Embedded-AI-Entwickler?

Du bringst Modelle dorthin, wo keine Cloud ist: auf Steuergeräte, Sensoren, Maschinen und Kameras. Gründe dafür gibt es mehrere – das Gerät hat keine stabile Verbindung, die Antwort muss in Millisekunden da sein, die Daten dürfen das Werk nicht verlassen, oder die laufenden Kosten einer Übertragung wären bei tausenden Geräten nicht tragbar.

Das eigentliche Thema sind die Beschränkungen. Auf einem Server ist Rechenleistung eine Frage des Budgets; auf einem Steuergerät ist sie festgelegt, seit die Platine entworfen wurde. Du arbeitest mit wenigen Megabyte Speicher, mit einem Stromverbrauch, der eine Batterie über Monate tragen muss, und mit Zeitgrenzen, die nicht im Durchschnitt, sondern im schlechtesten Fall eingehalten werden müssen. Ein Modell, das meistens schnell genug ist, ist in einer Maschinensteuerung unbrauchbar.

Daraus folgt das Handwerk: Modelle verkleinern, Genauigkeit in geringerer Zahlendarstellung ablegen, überflüssige Teile entfernen, für die vorhandene Recheneinheit übersetzen, messen, wieder verkleinern. Jeder Schritt kostet etwas Genauigkeit und bringt Geschwindigkeit oder Speicher; die Abwägung dazwischen ist die Rolle. Dazu kommt das Zusammenspiel mit der hardwarenahen Entwicklung – ein Modell ist hier nicht der Kern des Produkts, sondern eine Funktion in einem eingebetteten System, das noch viel anderes tun muss.

Vom KI-Plattform-Engineer trennt dich genau diese Richtung. Der baut die Umgebung im Rechenzentrum, in der Modelle laufen, und kann im Zweifel Rechenleistung dazukaufen. Du kannst nichts dazukaufen: Die Hardware steht seit Jahren fest, oft für die gesamte Laufzeit des Produkts, und ein Update erreicht die Geräte im Feld nur mit Aufwand – manchmal gar nicht.

Was du im Praktikum machst

Häufig eine Messreihe: Ein bestehendes Modell auf die Zielhardware bringen und sauber erfassen, wie lange es rechnet, wie viel Speicher es belegt und wie viel Strom es zieht. Das klingt einfach und ist der Teil, an dem die meisten Annahmen im Team zerbrechen.

Danach folgt meist ein Verkleinerungsversuch mit Vergleich: mehrere Varianten gegeneinander, aufgetragen als Genauigkeit gegen Rechenzeit, damit die Entscheidung nicht nach Gefühl fällt. Dazu kommt Integrationsarbeit – Daten vom Sensor holen, aufbereiten, das Ergebnis an die restliche Steuerung übergeben.

Ein wiederkehrender Auftrag ist außerdem die Absicherung des Zeitverhaltens: nicht nur den Mittelwert erfassen, sondern die Ausreißer – wie lange dauert der langsamste von zehntausend Durchläufen, und was passiert im System, wenn er die Grenze reißt.

In der deutschen Industrie ist die Rolle stark gefragt, weil viele Hersteller ihre Geräte um Funktionen erweitern, die früher einen Rechner im Hintergrund gebraucht hätten. Praktika finden entsprechend oft in klassischen Industriebetrieben statt, nicht in Softwarehäusern.

Was du mitbringen solltest

C oder C++ neben Python, Verständnis für Rechnerarchitektur und dafür, was Speicher, Bus und Recheneinheit kosten. Ein Studium der Elektrotechnik oder technischen Informatik ist der übliche Hintergrund; aus der reinen Informatik kommend fehlt oft der hardwarenahe Teil, der sich aber nachholen lässt.

Dazu Freude am Messen. In dieser Rolle wird viel behauptet und wenig gewusst, solange niemand ein Messgerät angeschlossen hat. Wer belastbare Zahlen liefert, verschiebt Entscheidungen.

Und Kompromissbereitschaft: Das beste Modell ist hier fast nie das richtige. Das richtige ist das, das auf der vorhandenen Hardware zuverlässig innerhalb der Zeitgrenze bleibt.

Was du verdienst

Praktika liegen bei rund 1.750 Euro brutto im Monat. Der Einstieg bewegt sich um 5.100 Euro, mit zwei bis drei Jahren Erfahrung zwischen 5.600 und 7.300 Euro. Das sind Erfahrungswerte, sie hängen stark an Branche und Tarifbindung.

Die Kombination aus Hardwarenähe und Modellwissen ist selten, und in der Industrie ist sie gesucht. Das macht die Rolle vergleichsweise gut bezahlt und den Einstieg über ein Praktikum aussichtsreich.

Wie es weitergeht

Ein Weg führt in die Systemarchitektur, wo entschieden wird, welche Funktion überhaupt auf welches Gerät gehört. Ein anderer führt tiefer in den gemeinsamen Entwurf von Hardware und Software. Und wer koordiniert, übernimmt mit der Zeit die Leitung einer Entwicklungsabteilung.