Bezpieczeństwo AI — ochrona pipeline'ów GenAI/LLM

Istniejące szkolenie koncentruje się na zagrożeniach specyficznych dla autonomicznych agentów AI działających wieloetapowo. To szkolenie obejmuje szerszy zakres — cały pipeline GenAI/LLM od danych treningowych, przez fine-tuning i RAG, po wdrożenie produkcyjne — w tym zagrożenia niezwiązane wyłącznie z agentami: zatruwanie danych, wycieki przez model, bezpieczeństwo łańcucha dostaw modeli.

Nie ma jednej metody eliminującej prompt injection w 100%, ponieważ granica między instrukcją systemową a danymi wejściowymi jest w LLM inherentnie rozmyta. Na szkoleniu budujemy wielowarstwową obronę: walidację i sanityzację wejścia, ograniczenie uprawnień modelu (least privilege dla function calling), monitorowanie odpowiedzi oraz human-in-the-loop dla akcji wysokiego ryzyka — redukując ryzyko do akceptowalnego poziomu, a nie eliminując je w całości.

Kluczowe kontrole to: walidacja i sanityzacja dokumentów przed indeksacją, ograniczenie źródeł danych do zaufanych repozytoriów, monitorowanie anomalii w wynikach wyszukiwania wektorowego oraz separacja uprawnień między procesem indeksacji a odpowiedziami modelu. Na warsztacie przechodzimy przez konkretną architekturę zabezpieczonego pipeline'u RAG.

Zależy od konfiguracji umowy i ustawień prywatności danych — większość komercyjnych dostawców API oferuje opcje wyłączenia wykorzystania danych do treningu modeli, ale to nie eliminuje ryzyka związanego z transmisją danych wrażliwych w promptach. Na szkoleniu omawiamy kontrole techniczne (anonimizacja przed wysłaniem, DLP dla promptów) i umowne (data processing agreements) minimalizujące to ryzyko.

CAISP (Certified AI Security Professional) to rosnący na znaczeniu certyfikat specjalizujący się w bezpieczeństwie systemów AI, dający według danych branżowych 15-20% premii płacowej. Szkolenie wykorzystuje metodykę CAISP jako ramę merytoryczną i pokrywa większość jej kluczowych obszarów, ale nie jest formalnym kursem przygotowawczym do egzaminu certyfikacyjnego.