AI Security Engineer

Was macht ein AI Security Engineer?

Die Rolle hat zwei Richtungen, und beide gehören dazu. Die erste ist die Sicherheit von KI-Systemen. Ein Sprachmodell verarbeitet Text, und Text kann Anweisungen enthalten – auch dann, wenn er eigentlich nur Inhalt sein sollte, etwa in einem hochgeladenen Dokument oder einer abgerufenen Seite. Aus dieser einen Eigenschaft folgt der größte Teil der Arbeit: Ein System, das fremde Inhalte liest und danach handelt, braucht klare Grenzen zwischen dem, was es liest, und dem, was es tun darf.

Dazu kommen der Schutz vertraulicher Daten – Trainingsmaterial, Kundendaten, Interna, die auf dem Weg durch ein Modell an Stellen auftauchen können, an die sie nicht gehören –, die Rechte von Agenten, die selbstständig Werkzeuge aufrufen, und die Anbindung dieser Werkzeuge selbst. Ein Agent mit einem Zugang, der mehr kann als nötig, ist ein Risiko, unabhängig davon, wie gut das Modell ist. Die übliche Antwort ist unspektakulär: möglichst wenig Rechte, getrennte Zugänge, Bestätigung durch Menschen vor folgenreichen Schritten, vollständige Protokollierung.

Die zweite Richtung ist der Einsatz von KI in der Sicherheitsarbeit selbst. Sicherheitsteams ertrinken in Meldungen; Modelle helfen beim Sortieren, beim Zusammenfassen von Vorfällen und beim Auffinden von Auffälligkeiten in Protokollen. Auch hier gilt: Das Ergebnis ist ein Hinweis, keine Entscheidung.

Vom AI Governance Manager unterscheidest du dich in der Ebene. Der beschreibt Regeln, Zuständigkeiten und Nachweise und sorgt dafür, dass sie eingehalten werden. Du baust und prüfst die technischen Maßnahmen, mit denen ein System diese Regeln überhaupt einhalten kann. Beide arbeiten eng zusammen und reden über dieselben Risiken – aber der eine schreibt, was gelten soll, und der andere sorgt dafür, dass es im System auch so ist.

Was du im Praktikum machst

Am Anfang steht oft ein Bedrohungsmodell für eine konkrete Anwendung: Wer könnte etwas davon haben, dieses System zu missbrauchen, welche Wege stünden offen, und was wäre der Schaden. Das ist Schreibtischarbeit mit vielen Gesprächen und der Anfang von allem Weiteren.

Danach folgen Prüfungen und Absicherung: Zugriffsrechte durchgehen, Protokollierung ergänzen, Grenzen zwischen Diensten nachziehen, Prüfungen für Ein- und Ausgaben einbauen. Häufig kommt eine Auswertung dazu – etwa ein Werkzeug, das Protokolle vorsortiert, damit die Fachleute nicht jede Zeile lesen müssen.

Prüfungen an lebenden Systemen finden nur im abgesteckten Rahmen und mit schriftlicher Freigabe statt. Wer das umgeht, hat den Beruf verfehlt, und zwar unabhängig vom Ergebnis.

Was du mitbringen solltest

Grundlagen der IT-Sicherheit, Verständnis für Netze, Zugriffsverwaltung und Verschlüsselung, dazu genug Softwareentwicklung, um ein System zu lesen, statt es dir erklären zu lassen. Kenntnisse darüber, wie KI-Anwendungen aufgebaut sind, kannst du dir im Praktikum aneignen; das Sicherheitsdenken ist der schwerere Teil.

Dazu gehört eine Eigenschaft, die man schlecht üben kann: sich vorzustellen, wie jemand ein System benutzt, der es nicht wohlmeinend benutzt. Und das Gegengewicht dazu – Nüchternheit. Sicherheitsarbeit, die alles verbietet, wird umgangen, und ein umgangenes System ist unsicherer als ein pragmatisch abgesichertes.

Verschwiegenheit ist Voraussetzung. Du siehst Schwachstellen, bevor sie behoben sind. Wohin diese Information gehört und wohin nicht, ist keine Geschmacksfrage.

Was du verdienst

Praktika liegen bei rund 1.800 Euro brutto im Monat. Der Einstieg bewegt sich um 5.300 Euro, mit zwei bis drei Jahren Erfahrung zwischen 5.900 und 7.600 Euro. Das sind Erfahrungswerte; in regulierten Branchen liegen sie tendenziell höher.

Die Vergütung gehört zu den höchsten im Katalog, weil zwei knappe Gebiete zusammenkommen: Sicherheit und KI. Wer beides verbindet, ist am Markt schwer zu ersetzen.

Wie es weitergeht

Der nächste Schritt ist meist die Sicherheitsarchitektur, die für ganze Systemlandschaften festlegt, was gelten soll. Wer den Ernstfall mag, geht Richtung Incident Response und arbeitet an Vorfällen statt an Vorbeugung. Und wer die organisatorische Seite dazunimmt, landet in der Leitung der Informationssicherheit.