Jailbreak

Jailbreaking w kontekście sztucznej inteligencji odnosi się do celowego tworzenia podstępnych zapytań (promptów), które skłaniają model językowy do wygenerowania odpowiedzi niezgodnych z jego zaprogramowanymi wytycznymi bezpieczeństwa. Te wytyczne mają na celu zapobieganie generowaniu szkodliwych, nieetycznych, nielegalnych lub nieodpowiednich treści.

Techniki jailbreakingu często wykorzystują:

• Manipulację kontekstem: Tworzenie scenariuszy, w których model jest proszony o odegranie roli, np. „aktor grający złoczyńcę”, co może skłonić go do generowania treści, których normalnie by unikał.
• Kodowanie/szyfrowanie: Użycie technik takich jak Base64 lub inne formy kodowania, aby ukryć prawdziwy zamiar zapytania.
• Odwracanie ról: Prośba o wygenerowanie treści z perspektywy osoby, która chce obejść zasady, zamiast bezpośredniego żądania szkodliwej treści.

Celem jailbreaków jest zazwyczaj eksploracja granic możliwości modelu, testowanie jego odporności na manipulacje lub próba uzyskania informacji, które są celowo blokowane. Firmy rozwijające LLM stale pracują nad zwiększaniem odporności swoich modeli na takie ataki, aby zapewnić ich bezpieczne i odpowiedzialne użytkowanie. Jailbreaking różni się od adversarial attacks tym, że skupia się na manipulacji promptem w celu obejścia ograniczeń treści, a nie na celowym wprowadzaniu modelu w błąd w celu uzyskania błędnej klasyfikacji lub predykcji.