AI governance jsou pravidla, postupy a kontroly, kterými firma zajišťuje, že se umělá inteligence používá bezpečně, legálně a spolehlivě. Lidsky řečeno: kdo smí AI používat, na co, s jakými daty a kdo zkontroluje výstup, než jde ven.
Není to o brzdění. Je to o tom, aby AI přinášela užitek bez průšvihu.
Proč na tom firmě záleží?
Důvodů je několik. Zaměstnanec vloží klientská data do veřejného chatbota a firma ztratí kontrolu nad tím, kam se dostala. AI sebejistě vymyslí nepravdivou informaci, která jde ke klientovi. A když se něco pokazí, firma musí umět doložit, jak AI rozhodla a kdo to schválil.
Souvisí to přímo s shadow AI, tedy s neřízeným používáním AI mimo dohled firmy.
Z čeho se governance skládá?
Pro malou firmu stačí lehká verze, ne korporátní byrokracie:
- seznam schválených AI nástrojů a kdo schvaluje nové,
- jasná pravidla pro data: co se do AI smí a co ne,
- lidská kontrola výstupu před odesláním klientovi,
- jeden odpovědný garant a krátké školení lidí.
Velké rámce jako NIST AI RMF nebo ISO 42001 existují, ale malá firma je nepotřebuje. Politika se dá sepsat za půl hodiny.
Chcete dát ve firmě AI zelenou, ale tak, aby vám z toho neutekla data ani jste neporušili pravidla? Bezpečné nasazení se od náhodného účtu liší hlavně v tom, kde běží a kdo vidí na data. Jak to řeším v praxi, popisuju u tvorby AI agentů a automatizací na míru →.
Co říká regulace v roce 2026?
Nejdůležitější je evropský AI Act. Od února 2025 platí zákaz nepřípustných praktik, od srpna 2025 pravidla pro velké AI modely. Od srpna 2026 začíná platit povinnost transparentnosti: u chatbota nebo AI obsahu musíte uživateli říct, že jde o AI. To je pro běžnou malou firmu nejrelevantnější část.
Přísný režim pro vysoce rizikové systémy, jako je nábor nebo scoring, se podle dohody z května 2026 odkládá a finální znění čeká na formální schválení. K tomu stále platí GDPR: jakmile AI zpracovává osobní údaje, platí jeho pravidla.
Pokuty AI Actu mohou jít vysoko, ale pro malou firmu jsou v praxi nejdůležitější transparentní pravidla a GDPR, ne nejtěžší sankce.
Pavel Szabo
Programátor webů, eshopů a informačních systémů s více než 23 lety praxe. Pomáhám firmám i jednotlivcům s online podnikáním, automatizacemi a využitím AI v praxi.
