Few-shot prompting

Few-shot prompting to metoda stosowana w interakcji z dużymi modelami językowymi (LLM), polegająca na dostarczeniu modelowi kilku par przykładów (wejście-wyjście) bezpośrednio w treści zapytania (promptu). Celem jest pokazanie modelowi, jakiego rodzaju zadanie ma wykonać i jakiego formatu odpowiedzi się oczekuje, bez konieczności przeprowadzania pełnego treningu czy dostrajania (fine-tuning).

Model analizuje te przykłady, identyfikując wzorce i zależności, a następnie stosuje je do nowego, niewidzianego wcześniej zapytania. Jest to szczególnie przydatne w sytuacjach, gdy chcemy, aby model wykonał specyficzne zadanie, dla którego nie ma wbudowanej, domyślnej instrukcji, lub gdy chcemy, aby dostosował się do określonego stylu czy formatu odpowiedzi.

Przykładowo, jeśli chcemy, aby model klasyfikował sentyment tekstu, możemy podać mu kilka przykładów: "Ten film był świetny. - Pozytywny", "To było nudne. - Negatywny", a następnie zapytać o nowy tekst. W ten sposób model uczy się, jak mapować wejście na odpowiednią kategorię.

Few-shot prompting różni się od zero-shot prompting, gdzie model otrzymuje jedynie instrukcję i nowe zapytanie, bez żadnych przykładów. W zero-shot model musi polegać wyłącznie na swojej wcześniejszej wiedzy i zrozumieniu instrukcji, natomiast w few-shot przykłady służą jako dodatkowa wskazówka i kontekst, często prowadząc do bardziej precyzyjnych i pożądanych wyników.