Ataki na warstwę modelu

Symulujemy realne próby obejścia zabezpieczeń modelu oraz wymuszenia działań poza jego przeznaczeniem. Zakres obejmuje między innymi:

• prompt injection bezpośredni i pośredni,
• jailbreaking i obchodzenie polityk treści,
• wymuszenie ujawnienia instrukcji systemowej,
• ekstrakcję modelu i danych treningowych,
• manipulację agentami i wywołaniami narzędzi.

Zatruwanie kontekstu i danych

Sprawdzamy, czy dane wprowadzane do pipeline’u RAG mogą zmienić zachowanie systemu lub doprowadzić do wycieku informacji.

Badamy źródła danych, mechanizmy indeksowania oraz kontrolę treści pochodzącej od użytkowników i podmiotów zewnętrznych.

Nadużycie funkcji biznesowych

Weryfikujemy scenariusze, w których system AI zostaje wykorzystany wbrew przeznaczeniu — do uzyskania nieuprawnionej decyzji, obejścia limitów, generowania treści niedozwolonych albo działania w imieniu innego użytkownika.

Pentest aplikacji i API

Testujemy warstwę, przez którą użytkownicy i systemy komunikują się z modelem. Zakres obejmuje:

• uwierzytelnianie i autoryzację,
• kontrolę dostępu do funkcji i danych,
• limity, kwoty i mechanizmy przeciwdziałania nadużyciom,
• walidację danych wejściowych i wyjściowych,
• obsługę błędów i wyciek informacji technicznych.

Pipeline danych i integracje

Analizujemy przepływ danych między źródłami, magazynem wektorowym, modelem i systemami odbierającymi wyniki.

Weryfikujemy rozdzielenie środowisk, ochronę kluczy i poświadczeń oraz zakres uprawnień nadanych integracjom.

Konfiguracja środowiska

Oceniamy konfigurację usług chmurowych i hostingu modeli, w tym izolację zasobów, logowanie zdarzeń, retencję danych wejściowych oraz zgodność ustawień z przyjętą polityką bezpieczeństwa.

Kwalifikacja systemu

Ustalamy, czy system podlega AI Act oraz do której klasy ryzyka należy, a także jaką rolę pełni Twoja organizacja — dostawcy czy podmiotu stosującego. Na tej podstawie określamy zakres obowiązków.

Mapowanie wyników na wymagania

Wyniki testów wiążemy z konkretnymi wymaganiami AI Act i NIS2, tak aby każda luka miała przypisany obowiązek, właściciela i termin realizacji.

Dokumentacja techniczna

Przygotowujemy dokumentację potwierdzającą przeprowadzenie testów i skuteczność zabezpieczeń, na potrzeby audytu, regulatora oraz postępowań przetargowych i due diligence klientów.

Ocena gotowości

Przed audytem lub przeglądem u klienta oceniamy gotowość organizacji i wskazujemy obszary wymagające uzupełnienia, wraz z rekomendowaną kolejnością działań.