Human-in-the-loop (česky „člověk ve smyčce“) je způsob návrhu AI systému, kde AI připraví výstup nebo akci, ale člověk to musí zkontrolovat a schválit, než se to skutečně provede. AI nedostane plnou autonomii. Poslední slovo má člověk.
Jednoduchá představa: AI je jako šikovný junior, který připraví návrh e-mailu nebo faktury. Podpis a odeslání ale zůstává na vás.
Proč na tom záleží?
Nejnebezpečnější selhání AI je tiché. Jazykové modely umí napsat věcně špatný výstup velmi sebejistě, takže nevypadá jako chyba. Čím jistější tón, tím spíš ho člověk přijme.
K tomu se přidává sklon příliš důvěřovat stroji. Po mnoha kontrolách už člověk návrhy jen zběžně proběhne. Human-in-the-loop tomu dává mantinely a zároveň je díky němu vidět, kdo co schválil.
Kdy nechat člověka ve smyčce a kdy ne?
Není to volba ano nebo ne, ale škála:
- Člověk ve smyčce: systém se zastaví a čeká na schválení. Pro drahé chyby a citlivé operace, jako jsou peníze, smlouvy nebo komunikace navenek.
- Člověk nad smyčkou: AI jede sama, člověk dohlíží a může zasáhnout. Pro střední riziko a velký objem.
- Plná autonomie: AI rozhoduje sama. Pro levné chyby a rutinní úkoly.
Pravidlo, které se vyplatí zapamatovat: správná míra autonomie odpovídá ceně chyby, ne schopnostem modelu.
Chcete automatizovat, ale bojíte se pustit AI úplně ze řetězu? Přesně tohle se dá nastavit: u rutiny necháte AI jet, u citlivých kroků počká na vaše schválení. Jak to v praxi navrhuju, popisuju u tvorby AI agentů a automatizací na míru →.
Jak postupně ubrat dohled?
Osvědčený postup je začít s člověkem ve smyčce a dohled ubírat až tehdy, když se systém osvědčí přes mnoho cyklů. A začít tam, kde jsou chyby levné. Posun mezi úrovněmi by měla řídit data, tedy přesnost a počet oprav, ne dojem.
Pozor na druhý extrém. Když objem rozhodnutí ke kontrole překročí kapacitu člověka, stane se z něj brzda, ne pojistka. Cílem je kontrolovat správné věci, ne všechno.
U vysoce rizikových systémů dohled člověka navíc vyžaduje evropský AI Act. Human-in-the-loop se přirozeně pojí s agentic AI, AI agenty a AI automatizací.
Pavel Szabo
Programátor webů, eshopů a informačních systémů s více než 23 lety praxe. Pomáhám firmám i jednotlivcům s online podnikáním, automatizacemi a využitím AI v praxi.
