Unleash & Protect: High-Performance AI Inference on Kubernetes

Abstract

Kubernetes è lo standard di fatto per il deployment e la gestione di applicazioni containerizzate e la sua potenza si estende senza soluzione di continuità al mondo dell’intelligenza artificiale. Offre l’affidabilità, la scalabilità e la flessibilità necessarie per gestire i moderni motori di inferenza.

Questo talk illustrerà le tecniche per implementare e gestire efficacemente modelli di machine learning su Kubernetes, esplorando gli strumenti più utilizzati nel settore e soluzioni pratiche per le sfide più comuni. Ma da un grande potere derivano grandi responsabilità: dedicheremo attenzione alla protezione delle pipeline di inferenza dell’intelligenza artificiale. Scopri come identificare potenziali vulnerabilità e implementare solide misure di sicurezza per proteggere i tuoi preziosi modelli e dati. Preparati a sfruttare appieno il potenziale di Kubernetes per l’intelligenza artificiale, con la sicurezza al centro.