Bezpieczeństwo narzędzi zbudowanych z AI: kto odczyta CV?

Zanim narzędzie rekrutacyjne zbudowane z AI przyjmie pierwsze prawdziwe CV, sprawdź dostęp do danych kandydatów. Zapisz reguły, wyniki prób i dowody.

Ernest Bursa

Ernest Bursa

Founder · · 7 min czytania
Three startup colleagues review access decisions at a table, with an older man in a startupkit shirt and a laptop showing its plain back.

Formularz dla kandydatów działa. Wpływa testowa aplikacja, CV się otwiera, a osoba prowadząca rekrutację może dodać notatkę. Można już umieścić link w kolejnym ogłoszeniu o pracę i jeszcze dziś przyjąć pierwsze prawdziwe CV.

Brakuje jednej decyzji: kto jeszcze może odczytać tę aplikację? Udane demo pokazuje, że osoba z uprawnieniami potrafi korzystać z narzędzia. Niewiele mówi o tym, czy kandydat odczyta wewnętrzną ocenę, recenzent otworzy aplikacje na inne stanowisko, a były współpracownik zachowa dostęp do plików.

Przed rozpoczęciem zbierania prawdziwych danych zapisz, kto może odczytać każdą część aplikacji. Utwórz fikcyjny rekord, sprawdź wszystkie drogi udostępniania jego danych z kontami uprawnionymi i bez uprawnień, a wyniki powiąż z wersją, którą zamierzasz uruchomić. To test uprawnień o jasno określonym zakresie, przydatny w checkliście bezpieczeństwa narzędzia zbudowanego z AI.

Działające logowanie nie rozstrzyga kwestii dostępu

To konkretny problem. W analizie stron zbudowanych w Lovable Crissy Field opisuje znalezione wrażliwe rekordy dostępne bez logowania, w tym dane z dokumentów tożsamości. Próba pochodziła z Common Crawl i nie była reprezentatywna. Adres e-mail w zwróconym rekordzie mógł być publiczny albo fikcyjny. Badacze nie ustalili, czy doszło do nadużyć, ani nie wykazali, że przyczyną błędów było AI.

Te ograniczenia mają znaczenie. Na podstawie tego badania nie da się przewidzieć, jak zachowa się twoje narzędzie. Warto jednak sprawdzić, jakie dane zwróci żądanie przed uzyskaniem dostępu lub poza zakresem przyznanych uprawnień.

Platforma, na której budujesz, może już pomagać w takich sprawdzeniach. Dokumentacja bezpieczeństwa Lovable opisuje szybkie skanowanie Quick przy publikacji oraz głębszą analizę kodu, obejmującą także problemy z autoryzacją. Zaznacza też, że te narzędzia nie gwarantują pełnego bezpieczeństwa i nie zastępują dokładnego review. Korzystaj ze skanowania, ale określ regułę biznesową, którą ma ono pomóc egzekwować: ten recenzent może odczytać te pola aplikacji na to stanowisko.

Uwierzytelnianie ustala tożsamość. Autoryzacja rozstrzyga, czy dana osoba może odczytać konkretny rekord. Wytyczne OWASP dotyczące autoryzacji na poziomie obiektów zalecają sprawdzanie tego w każdym endpoincie przyjmującym identyfikator obiektu. Trudny do odgadnięcia link do aplikacji nie jest potwierdzeniem uprawnień do jej treści.

Zapisz reguły dostępu, zanim zaczniesz je testować

Załóżmy, że szukasz inżyniera do pierwszego zespołu produktowego. Aplikacja zawiera dane kontaktowe, CV i wewnętrzną ocenę. Kandydat powinien widzieć informacje, których udostępnienie obiecuje portal kandydata. Przypisany recenzent potrzebuje pól niezbędnych do oceny. Osoba pomagająca przy rekrutacji na inne stanowisko może nie mieć powodu, by widzieć cokolwiek z tego zestawu.

Zanim inżynier zacznie testować te zasady, poproś osobę odpowiedzialną za rekrutację o ich zatwierdzenie. W przeciwnym razie nieoczekiwany wynik może wywołać spór o to, jak narzędzie miało działać. Opisz wprost uprawnienia administratorów i osób z szerszym dostępem do rekrutacji oraz wszelkie świadomie przyjęte wyjątki. Poniższy przykład zakłada ograniczony dostęp do rekrutacji na dane stanowisko. Dostosuj go do własnych zasad.

Utwórz jedną aplikację w środowisku stagingowym, z charakterystycznym fikcyjnym imieniem i nazwiskiem, przykładowym CV oraz wyraźnie oznaczoną wewnętrzną oceną. Korzystaj z rekordów i kont, nad którymi masz kontrolę. W samym CV umieść odrębny fikcyjny znacznik. Dzięki temu odróżnisz prawidłowy dostęp do strony aplikacji od dostępu do pliku, który powinien zostać zablokowany.

Skopiuj ten arkusz odbioru i wpisz zatwierdzone oczekiwania:

Tożsamość lub stan Oczekiwany dostęp do fikcyjnej aplikacji Co sprawdzić
Przypisany recenzent Zatwierdzone pola kandydata; ocena tylko wtedy, gdy przewidują to zasady Zwrócone znaczniki i nazwy pól. To próba kontrolna z dozwolonym dostępem.
Osoba niezalogowana Brak dostępu do prywatnej aplikacji, CV i oceny Rzeczywiste dane i odpowiedzi z plikami przed zalogowaniem.
Konto kandydata Własne pola przeznaczone dla kandydata; bez wewnętrznej oceny Pola odpowiedzi, także dane ukryte na stronie.
Recenzent innej rekrutacji Brak dostępu, chyba że zapisana reguła go przyznaje Bezpośrednie żądanie tej konkretnej aplikacji.
Użytkownik z innej firmy Brak dostępu do prywatnego rekordu i załącznika z pierwszej firmy Żądanie tego samego zasobu z konta drugiej firmy.
Usunięty członek zespołu Brak możliwości kolejnych odczytów od ustalonego momentu odebrania uprawnień Nowe żądanie po usunięciu, z zapisanym stanem sesji.

Sama nazwa roli jest zbyt ogólna. Zapis „recenzent może wyświetlić aplikację” nie rozstrzyga dostępu do oceny. Obok roli wypisz dozwolone pola oraz wewnętrzne pola, których nie wolno zwracać. Dla konta kandydata określ zarówno to, czyją aplikację może odczytać, jak i zakres widocznych danych.

Sprawdź dostęp do CV także poza widoczną stroną

Zacznij od przypisanego recenzenta. Potwierdź, że odpowiedź na żądanie zawiera fikcyjny znacznik i zatwierdzone pola. Ta próba kontrolna z dozwolonym dostępem dowodzi, że sprawdzasz działającą drogę dostępu i właściwy rekord. Jeśli każda osoba otrzymuje błąd, bo endpoint nie działa, odmowy dostępu niczego nie potwierdzają.

Następnie wyślij żądanie tego samego fikcyjnego rekordu kolejno z pozostałych kont i bez logowania. W razie potrzeby poproś inżyniera o pomoc w sprawdzeniu odpowiedzi sieciowej. Strona może ukrywać ocenę, mimo że otrzymuje ją w JSON, więc samo obejrzenie ekranu nie wystarczy. Nie używaj w tym ćwiczeniu prawdziwych danych kandydatów.

Sprawdź drogi udostępniania danych, które rzeczywiście istnieją w twoim narzędziu: listy aplikacji, strony szczegółów, eksporty, pobieranie CV, alternatywne formaty odpowiedzi i funkcje serwerowe. Nie wymyślaj dodatkowych ścieżek tylko po to, by wypełnić arkusz. Uwzględnij jednak każdą, która zwraca te same prywatne informacje przez inny interfejs.

Kit jest konkretnym przykładem tego, dlaczego ma to znaczenie. Kontroler aplikacji rekrutacyjnych sprawdza uprawnienia przy żądaniu szczegółów, zanim zwróci HTML lub Markdown. Polityka aplikacji sprawdza konto oraz dostęp do ogłoszenia o pracę. Dokumentacja dostępu zespołu opisuje szerszy model ról w Kit. Te reguły nadal wymagają konkretnych sprawdzeń wszędzie tam, gdzie udostępniane są dane aplikacji.

Jeśli korzystasz z Supabase, poproś inżyniera o review zarówno uprawnień do tabel, jak i reguł dostępu do wierszy. Poradnik Supabase dotyczący Row Level Security rozróżnia te mechanizmy i zaleca testowanie operacji dozwolonych i zabronionych dla ról klienckich. Włączenie zabezpieczeń na poziomie wierszy, które filtrują dostępne wiersze bazy, ma sens tylko wtedy, gdy polityki odpowiadają przyjętym zasadom własności danych. Uprzywilejowany dostęp z rolą service-role omija te polityki. Zablokowane żądanie z przeglądarki nie dowodzi więc, że funkcja serwerowa korzystająca z takich uprawnień prawidłowo sprawdza właściciela danych.

Dla usuniętego członka zespołu ustal moment, w którym odebranie dostępu ma zacząć obowiązywać, i przetestuj dokładnie ten stan. Zapisz, czy użyto istniejącej sesji, czy ponownego logowania. Oprócz strony aplikacji sprawdź nowe żądanie pobrania CV. To test przyszłego dostępu. Nie odbierze informacji, które ktoś już pobrał.

Zachowaj dowody przydatne po kolejnej zmianie

Osoba bez uprawnień może prawidłowo otrzymać błąd dostępu, celową odpowiedź „nie znaleziono” albo pusty wynik przefiltrowany przez politykę. Sprawdzaj treść odpowiedzi, nie tylko jej status. Skuteczna odmowa oznacza, że sprawdzaną drogą nie dotarły prywatne pola ani zawartość załącznika.

Dla każdego wiersza zachowaj środowisko, wersję, ścieżkę żądania, tożsamość testową, oczekiwane pola, rzeczywisty wynik, czas i osobę odpowiedzialną. Dołącz oczyszczony fragment odpowiedzi pokazujący fikcyjny znacznik albo brak prywatnych pól. Usuń z niego ciasteczka sesyjne, tokeny i prawdziwe CV. Wyraźnie oznacz niepowodzenia i ponowne testy, zamiast zastępować błędny wynik późniejszym poprawnym.

Jeśli osoba bez uprawnień otrzyma prywatne dane, nie uruchamiaj zbierania prawdziwych aplikacji. Powierz wykwalifikowanemu inżynierowi poprawienie reguły kontroli dostępu, a następnie powtórz próbę kontrolną z dozwolonym dostępem i przypadki wymagające odmowy. Dozwolone operacje zapisu przetestuj osobno na rekordach jednorazowych. Ten arkusz dotyczy odczytu danych kandydatów i nie stanowi pełnej oceny bezpieczeństwa.

Wyznacz osobę, która powtórzy odpowiednie próby po zmianie ról, uwierzytelniania, tabel, przechowywania plików lub dróg udostępniania danych. Gdy wyniki testów wersji przeznaczonej do uruchomienia potwierdzą zgodność z ustalonymi regułami, osoba odpowiedzialna za rekrutację może zatwierdzić dostęp w sprawdzonym zakresie. Na tym kończy się sprawdzenie uprawnień do odczytu przed przyjęciem pierwszego prawdziwego CV.

Powiązane artykuły

Wypróbuj Kit przez 30 dni.

Rekrutacja, zgłoszenia podatności i szkolenia w jednym koncie, dla zespołów, w których nikt nie robi tego na pełny etat. Kartę podajesz na starcie; zrezygnuj przed końcem okresu próbnego, a nic nie zapłacisz.

Zacznij za darmo