Senior Security Engineer, Agentic Red Team, DeepMind - Google Careers

info_outline

X Hinweis: Durch die Bewerbung auf diese Position haben Sie die Möglichkeit, Ihren bevorzugten Arbeitsort aus den folgenden Optionen anzugeben: Mountain View, CA, USA; New York, NY, USA; Zürich, Switzerland.

Mindestanforderungen: ###

• Bachelor-Abschluss in Informatik, Informationssicherheit oder eine gleichwertige praktische Erfahrung.
• 5 Jahre Erfahrung in Red Teaming, Offensive Security oder Adversarial Machine Learning.
• Erfahrung mit Large Language Model (LLM) Architekturen, agentic Workflows (z. B. Chain-of-Thought Reasoning) und KI-Schwachstellenklassen.
• Erfahrung in der Entwicklung von Exploits für GenAI-Modelle (z. B. Prompt Injection, Adversarial Examples, Training Data Extraction).

Bevorzugte Qualifikationen: ###

• Erfahrung in beratender Funktion mit Produktteams oder in einem „Startup-ähnlichen“ Umfeld.
• Vertrautheit mit KI-Sicherheits-Benchmarks, Evaluations-Frameworks und Fuzzing-Techniken.
• Fähigkeit, komplexe probabilistische Risiken in umsetzbare Engineering-Fixes für Entwickler zu übersetzen.
• Exzellente Programmierkenntnisse in Python, Go oder C++ mit Erfahrung im Aufbau von Sicherheitstools oder Automatisierungen.

Über den Job ###

Bei Google DeepMind ist es unsere Mission, den weltweit ersten universell einsetzbaren Lernagenten zu entwickeln. Zentral für diese Mission ist die komplexe Aufgabe, die Intelligenz unserer Prototypen zu messen. Als Software Engineer werden Sie mit den modernsten KI-Agenten arbeiten, die von unserem außergewöhnlichen Team aus Machine Learning und Neuroscience Research Scientists entwickelt werden. Ihre Aufgaben werden alles umfassen, von der Erstellung von Systemen für Agententests unter Verwendung von 2D- und 3D-Spielen bis hin zur Entwicklung von Testproblemen in Physiksimulatoren. Sie werden grafische Visualisierungen von Ergebnissen erstellen, kompetitive Agent Leaderboards aufbauen und neue Algorithmen an Robotern testen. Um in dieser Rolle erfolgreich zu sein, benötigen Sie ein starkes Fundament in Software Engineering und Freude daran, an einer Vielzahl anspruchsvoller Probleme innerhalb eines missionsgetriebenen Teams zu arbeiten.

Als Teil des Agentic Red Team werden Sie eine spezialisierte, hochgeschwindigkeitsorientierte Einheit innerhalb von DeepMind Security sein. Ihre Mission ist es, die Agentic Launch Gap zu schließen – das kritische Zeitfenster, in dem neuartige KI-Fähigkeiten herkömmliche Sicherheitsüberprüfungen überholen.

Als Senior Security Engineer im Agentic Red Team werden Sie der primäre technische Ausführende von Adversarial Engagements sein. Sie werden mit Produktentwicklern zusammenarbeiten und architektonische Mängel bereits während der Designphase identifizieren, lange bevor formelle Reviews beginnen.

Ihr Kernfokus wird darauf liegen, Multi-Turn-Angriffe auf KI-Modelle auf Produktionsebene durchzuführen, die speziell auf agentische Verhaltensweisen wie Werkzeugnutzung (Tool Usage) und Reasoning Chains abzielen. Sie werden nicht nur Schwachstellen finden, sondern auch dazu beitragen, den Kreislauf zu schließen, indem Sie zu Auto Red Teaming Frameworks und Verteidigungsstrategien beitragen und so sicherstellen, dass Ihre Erkenntnisse in wiederverwendbare Guardrails für alle Google Agent-Entwickler kodifiziert werden.

Künstliche Intelligenz wird eine der transformativsten Erfindungen der Menschheit sein. Bei Google DeepMind sind wir ein wegweisendes KI-Labor mit außergewöhnlichen interdisziplinären Teams, die sich darauf konzentrieren, die KI-Entwicklung voranzutreiben, um komplexe globale Herausforderungen zu lösen und die Innovation hochwertiger Produkte für Milliarden von Nutzern zu beschleunigen. Wir nutzen unsere Technologien für den breiten öffentlichen Nutzen und wissenschaftliche Entdeckungen und stellen sicher, dass Sicherheit und Ethik stets unsere höchste Priorität haben.

Wir verschieben die Grenzen in mehreren Bereichen. Unsere globalen Teams bieten vielfältige Lernmöglichkeiten und unterschiedliche Karrierewege für diejenigen, die bestrebt sind, durch kollektive Anstrengung außergewöhnliche Ergebnisse zu erzielen.

Die individuelle Vergütung wird durch Faktoren wie berufsbezogene Fähigkeiten, Erfahrung und relevante Ausbildung oder Trainings bestimmt.

US: $174000 - $252000 (USD) + 15% bonus target + equity + benefits

Erfahren Sie mehr über die Vorteile bei Google.

Verantwortlichkeiten ###

• Durchführung schneller Sicherheitsbewertungen von agentischen Diensten, mit Fokus auf Schwachstellen, die einzigartig für Generative KI sind, wie Prompt Injection, Tool-Use Escalation und autonome laterale Bewegung.
• Entwicklung und Ausführung von Angriffsequenzen, die nicht-deterministische Modellverhaltensweisen, agentische Logikfehler und Data Poisoning Vektoren ausnutzen.
• Schreiben von Code, um manuelle Entdeckungen von Schwachstellen in automatisierte Regressions-Test-Frameworks („Auto Red Teaming“) zu transformieren, die Regressionen in zukünftigen Modellversionen verhindern.
• Direkte Zusammenarbeit mit Entwicklern während der Design- und Build-Phasen, um sofortiges Feedback zu geben und so die Feedbackschleife zwischen offensiven Erkenntnissen und defensiver Entwicklung effektiv zu verkürzen.
• Pflege und Erweiterung einer Bibliothek agentenspezifischer Angriffsmuster und Exploit-Primitives, um Freigabekriterien für neue Modelle festzulegen.