Przejdź do treści

Bezpieczeństwo łańcucha dostaw AI zaczyna się przed odpowiedzią modelu

Dragos zaobserwował użycie testowych danych uwierzytelniających po odrzuceniu żądań do AI. Sprawdź, którędy biegną prompty, co obejmuje ZDR i jak interpretować alert.

Ernest Bursa

Ernest Bursa

Founder · · 4 min czytania
Two security engineers trace a yellow cable through a server rack.

Dostawca odrzucił prompt, zanim uruchomił model. Mimo to ktoś użył umieszczonych w nim testowych danych uwierzytelniających. Według Dragos część danych użytych w największym z zaobserwowanych przez firmę incydentów pojawiła się wyłącznie w odrzuconych żądaniach. Odrzucenie żądania przez dostawcę nie cofa tego, co zdążyło już do niego trafić. Badanie Dragos

Wyobraź sobie, że w piątek po południu wpływa zgłoszenie podatności. Asystent AI może wskazać komponent, którego dotyczy zgłoszenie, i podpowiedzieć, który zespół powinien się nim zająć. W oryginale może się jednak znaleźć prywatny załącznik, adres kontaktowy osoby zgłaszającej albo dane uwierzytelniające skopiowane z logu. Gdy asystent zwraca kategorię albo błąd, zawartość promptu jest już wysłana. Dokąd wolno wysłać te dane, trzeba ustalić wcześniej.

Nazwa modelu nie mówi, którędy idzie żądanie

Od lipca do listopada 2026 r. Dragos wysłał do popularnych usług AI około dwóch milionów promptów z unikatowymi znacznikami testowymi. Badacze opisali ślady ujawnienia danych u trzech dostawców hostingu. Zaobserwowali również, że sprzedawcy na platformach handlowych mieli dostęp do logów promptów, a niektóre adresy URL wywołano w okolicznościach odbiegających od oczekiwanego przebiegu przetwarzania. Każde z tych ustaleń dotyczy innego rodzaju zdarzenia i wymaga osobnego wyjaśnienia. Badanie Dragos

Jeśli korzystasz z bramy AI, wybór modelu i wybór dostawcy, który go udostępnia, mogą być niezależne. OpenRouter opisuje oddzielne ustawienia modelu, dostawcy i trasy zapasowej. Gdy pierwszy dostawca ogranicza liczbę żądań, żądanie dotyczące triażu może trafić pod inny adres. Przy publicznym tekście takie przekierowanie może pomóc utrzymać dostępność. Przy prywatnym zgłoszeniu trzeba wcześniej zatwierdzić, że zapasowy punkt końcowy może otrzymać te same pola co podstawowy. Przewodnik OpenRouter po trasowaniu

Zasady zerowej retencji danych (Zero Data Retention, ZDR) dotyczą tego, co dostawca zachowuje po przetworzeniu żądania. Jeśli ograniczysz trasowanie w OpenRouter do punktów końcowych z ZDR, o kwalifikacji każdego z nich decyduje deklaracja dostawcy obsługującego żądanie. Sama kwalifikacja nie gwarantuje, że dostawca przestrzega tych zasad. Dokumentacja osobno omawia też zasady przechowywania danych przez dostawcę modelu i sposób, w jaki przetwarzają je narzędzia zewnętrzne, takie jak wyszukiwarka internetowa. Sprawdź, dokąd trafia prompt w trakcie przetwarzania, co zostaje po jego zakończeniu i czy włączenie narzędzia zmienia odpowiedź. Umowa OpenRouter o przetwarzaniu danych, § 2.4 · Przewodnik OpenRouter po retencji danych

Alert ze znacznika wskazuje zdarzenie do wyjaśnienia

Znacznik alarmowy (canary token) ma wywołać alert, gdy ktoś lub coś wejdzie z nim w interakcję. W wariancie internetowym znacznik to unikatowy adres URL. Alert pojawia się po jego wywołaniu. Może go odwiedzić choćby zatwierdzony skaner linków albo mechanizm podglądu. Z alertu dowiesz się, kiedy i którego znacznika użyto. Żeby ustalić, jaki system wywołał adres, którędy znacznik tam trafił i jak długo się tam utrzymywał, potrzebujesz dodatkowych danych. Cisza oznacza jedynie brak zaobserwowanej interakcji, która w czasie testu uruchomiłaby alert. Dokumentacja znacznika internetowego Thinkst

Zacznij od fikcyjnego zgłoszenia podatności w procesie, który masz prawo testować. Adres testowy nie powinien zawierać poufnych informacji. Wywołaj go w kontrolowany sposób, żeby sprawdzić, czy alert dotrze do zespołu. Zapisz też, które zatwierdzone komponenty mogą wywoływać linki w normalnej pracy. Do późniejszego powiązania alertu z żądaniem przydadzą się czas testu, identyfikator żądania, konfiguracja trasy i ustawienia retencji. Ponów próbę po zmianie trasy lub dostępnych narzędzi.

Jeśli znacznik niespodziewanie wywoła alert, osoba na dyżurze powinna móc zestawić go z metadanymi żądania z bramy i narzędzi. Gdy te dane nie wyjaśniają zdarzenia, prześlij dostawcy identyfikator i czas żądania przez jego kanał bezpieczeństwa. Na czas analizy trzymaj właściwe zgłoszenie w systemie z ograniczonym dostępem. Ustal z góry, kto może wstrzymać automatyczne przetwarzanie, żeby kolejne zgłoszenie przejęła osoba z zespołu. Wytyczne NIST dotyczące reagowania na incydenty

Jeszcze przed piątkiem zdecyduj, jakie dane wysyłasz

Jeśli zadaniem asystenta jest wybór zespołu, zacznij od ustalenia, jakie pola są mu do tego potrzebne. Może wystarczyć nazwa komponentu i krótki opis po sprawdzeniu przez człowieka. Załącznik i dane kontaktowe zostaw w systemie obsługi zgłoszeń. Obok listy pól zapisz, która brama, które punkty końcowe, w tym zapasowy, i które narzędzia mogą je otrzymać. Wróć do tej listy przy każdej zmianie integracji. Wytyczne NIST dotyczące ryzyka związanego z dostawcami generatywnej AI

Kiedy w kolejny piątek wpłynie zgłoszenie, osoba na dyżurze powinna już wiedzieć, które dane może zobaczyć asystent, dokąd mogą one trafić i w jakim systemie zgłoszenie poczeka, jeśli zatwierdzona trasa będzie niedostępna. Przejęcie zgłoszenia przez dyżurnego możesz przećwiczyć podczas próby kanału zgłaszania podatności, przy której sprawdzasz, czy zgłoszenie dociera do osoby z zespołu.

Powiązane artykuły

Wypróbuj Kit przez 30 dni.

Rekrutacja, zgłoszenia podatności i szkolenia w jednym koncie, dla zespołów, w których nikt nie robi tego na pełny etat. Kartę podajesz na starcie; zrezygnuj przed końcem okresu próbnego, a nic nie zapłacisz.

Zacznij za darmo