Few-shot prompting je technika zadávání instrukcí jazykovému modelu, při které mu poskytnete 2-5 ukázkových příkladů přímo v promptu. Model se z nich naučí vzor - formát, tón, strukturu - a aplikuje ho na váš skutečný dotaz. Nevyžaduje žádné technické nastavení ani trénování.
Analogie: ukážete novému kolegovi tři hotové vzorové e-maily a řeknete "piš takhle". Není nutné sepisovat manuál.
Příklad v praxi
Few-shot Prompt pro kategorizaci zákaznických e-mailů:
E-mail: "Dobrý den, chtěl bych objednat 50 ks produktu XY." Kategorie: OBJEDNÁVKA E-mail: "Vaše zboží přišlo poškozené, požaduji vrácení peněz." Kategorie: REKLAMACE E-mail: "Máte tuto položku také v modré barvě?" Kategorie: DOTAZ E-mail: "Urgent! Vaše platba selhala, klikněte zde..." Kategorie:
Model odpoví: SPAM. Naučil se vzor ze tří příkladů bez jediné řádky kódu.
Spektrum technik
Few-shot patří do rodiny technik podle počtu příkladů. Zero-shot: žádný příklad, jen instrukce. One-shot: jeden příklad. Few-shot: 2-5 příkladů (prakticky nejpoužívanější kombinace). Výzkum ukazuje, že největší skok kvality nastává přechodem z nuly na dva příklady. Po pátém příkladu výnosy klesají a rostou pouze náklady na tokeny.
Kdy few-shot použít a kdy nestačí
Few-shot dobře funguje pro kategorizaci, přepisování tónu, extrakci strukturovaných dat a generování obsahu v konzistentním formátu. Je vhodný pro experimentování a jednoduché rutinní úlohy.
Nestačí pro složitou logiku s desítkami kategorií nebo pro systémy zpracovávající tisíce požadavků denně, kde každých 5 příkladů přidá stovky tokenů ke každému requestu. V takových případech je efektivnější fine-tuning nebo RAG.
Doporučené postupy
Dva až tři příklady jsou obvykle dostatečné. Příklady musí mít konzistentní formát - pokud první začíná "Vstup:" a druhý ne, model se zmate. Zahrnujte i hraniční případy, ne jen jednoduché. Poslední příklad v pořadí má na výstup největší vliv.
Nejprve vždy zkuste zero-shot (bez příkladů). Přidávejte příklady jen tehdy, když vidíte konkrétní typ chyby, který chcete opravit.
Vztah k dalším metodám
Few-shot patří do prompt engineeringu a je první linií obrany při ladění AI výstupů. Fine-tuning model přetrénuje natrvalo - vhodný pro produkční systémy s vysokým provozem. RAG modelu poskytne aktuální interní znalosti z vaší databáze. Typická sekvence: začít few-shotem, přejít na RAG pokud potřebujete aktuální data, fine-tuning jako poslední krok pro produkci.
Pavel Szabo
Programátor webů, eshopů a informačních systémů s více než 23 lety praxe. Pomáhám firmám i jednotlivcům s online podnikáním, automatizacemi a využitím AI v praxi.