Senior AI Application Engineer - LLM & VLM Enablement

About Us

Axelera AI (https://www.axelera.ai) non è la solita azienda deep-tech. Stiamo creando la piattaforma AI di prossima generazione per supportare chiunque voglia contribuire al progresso dell'umanità e migliorare il mondo che ci circonda.

In soli cinque anni, abbiamo raccolto un totale di $450 milioni e costruito un team di livello mondiale composto da oltre 250 dipendenti (inclusi oltre 60 PhD con più di 40.000 citazioni), sia da remoto da 21 paesi diversi che con uffici in Belgio, Francia, Svizzera, Italia, UK, con sede principale presso l'High Tech Campus di Eindhoven, Paesi Bassi.

Abbiamo inoltre lanciato la nostra Metis™ AI Platform, che raggiunge un incremento di efficienza e prestazioni di 3-5x, e abbiamo visibilità su una solida pipeline commerciale che supera i $100 milioni.

Il nostro incrollabile impegno per l'innovazione ci ha affermato fermamente come pionieri globali del settore.

Sei pronto alla sfida?

Position Overview

In qualità di Senior AI Application Engineer nel team Model Enablement (Application Software), ti occuperai del supporto LLM e VLM su Metis ed Europa AIPUs, dallo studio di nuovi modelli al loro rilascio nel Voyager SDK.

Il ruolo combina la conoscenza di LLM/VLM con una solida ingegneria del software. Il nostro team utilizza agenti di coding AI nel lavoro quotidiano, e tu li userai per costruire, testare e verificare il tuo lavoro.

Accogliamo anche field application engineer esperti, technical lead e engineering manager che desiderano tornare all'ingegneria pratica. L'esperienza nella pianificazione, delega e revisione del lavoro si traduce bene nel lavoro con gli agenti AI.

Responsabilità chiave:

• Studio LLM/VLM: Studiare nuove famiglie e architetture di LLM e VLM (ad esempio mixture-of-experts, piccoli VLM, nuovi schemi di attention e decoding). Prototiparli e profilarli su Metis ed Europa, e decidere come dovrebbero girare sul nostro hardware.
• Productization: Trasformare i tuoi risultati e quelli del nostro gruppo di ricerca ML in funzionalità supportate del Voyager SDK, con API stabili, test, documentazione e release gates.
• Model-side contracts: Per ogni blocco di costruzione LLM/VLM, gestire il riferimento PyTorch con quantizzazione integrata, la mappatura dei pesi e un contratto che elenchi ogni input, output, peso e stato persistente (come un paged KV cache), e consegnare tale contratto al team dei compilatori. Il runtime e i test utilizzano la stessa definizione.
• Integrazione pipeline: Integrare il serving di LLM e VLM nel Voyager SDK pipeline builder: prefill e decode, gestione KV-cache, output di testo in streaming e input multimodali.
• Qualità: Insieme ai proprietari di regressione e quantizzazione, misurare l'accuratezza rispetto al riferimento floating-point e chiudere o spiegare ogni discrepanza.
• Piattaforma di bring-up LLM/VLM: Estendere la piattaforma di model enablement per il bring-up di LLM e VLM: ambienti con accesso al compilatore, runtime e hardware reale (ad esempio tramite strumenti MCP), esecuzioni a ciclo chiuso che applicano una modifica, misurano accuratezza e velocità rispetto al riferimento e ripetono, e valutazioni che assegnano un punteggio a ogni esecuzione.
• Direzione GenAI: Raccomandare di cosa ha bisogno il Voyager SDK per GenAI, agenti e speech su dispositivi edge, e quali demo del model zoo lo mostrano meglio.

Qualifiche:

Essenziali

• Oltre 5 anni di esperienza nell'ingegneria del software, con almeno 2 anni su ML inference, ML systems o ML tooling.
• Solida comprensione dell'inferenza transformer: varianti di attention, KV caching, prefill rispetto a decode, sampling, tokenization, e come un VLM unisca un vision encoder a un modello linguistico.
• Conoscenza operativa della quantizzazione LLM (schemi weight-only e weight-activation, calibrazione, gestione degli outlier), e la capacità di distinguere una perdita di quantizzazione da un bug di implementazione.
• Ottima conoscenza di Python e PyTorch, ed esperienza nella distribuzione di software di qualità produzione.
• Utilizzo quotidiano di agenti di coding AI su codebase reali, con buon giudizio su quando verificare o rifiutare il loro output.
• Capacità di trasformare il codice di ricerca e i vincoli hardware in un design pratico.

Preferenziali

• Esperienza con motori di inferenza o stack di serving (ad esempio llama.cpp, vLLM, ONNX Runtime GenAI, ExecuTorch).
• Esperienza con lo sviluppo di kernel o un compilatore di tensori (ad esempio Triton, TVM o MLIR), o con il profiling di modelli su hardware acceleratore.
• Esperienza con lo speech (ASR, TTS) o applicazioni agentiche su dispositivi embedded.
• Esperienza nella costruzione di harness di valutazione o testing per sistemi ML o agenti AI, o agenti tool-calling (ad esempio server MCP).

Location

Offriamo un accordo di lavoro flessibile, con opzioni per:

• Lavorare da uno degli uffici di Axelera AI (Leuven in Belgio, Amsterdam ed Eindhoven nei Paesi Bassi, Zurigo in Svizzera, Firenze e Milano in Italia o Bristol nel Regno Unito) se ti trovi già nelle vicinanze.
• Lavorare completamente da remoto da qualsiasi paese europeo (incluso il Regno Unito) in cui ti trovi già.
• Trasferirti con noi e lavorare dall'Italia (Firenze o Milano) o dai Paesi Bassi (Amsterdam o Eindhoven).

Si prega di notare che la priorità sarà data ai candidati che [sono interessati a essere] basati in Belgio o Italia.

Cosa offriamo

Questa è la tua occasione per dare forma e far parte di un'organizzazione internazionale, dinamica e in rapida crescita. Offriamo un pacchetto retributivo attraente, che include un piano pensionistico, estese assicurazioni per i dipendenti e l'opzione di ottenere azioni della società.

Una cultura aperta che supporta la creatività e l'innovazione continua ti aspetta. La proprietà collaborativa e la libertà con responsabilità sono caratteristiche del modo in cui agiamo e lavoriamo come team.

A Axelera AI, abbracciamo con tutto il cuore l'uguaglianza di opportunità e teniamo la div