Co vás čeká v tomto článku?
Článek je pro majitele a vedoucí menších firem, kteří AI ve firmě používají nebo o tom uvažují a chtějí vědět, co se v posledních týdnech posunulo.
Dnes vám přináším tři témata, která spojuje jedna věc: AI už nejen radí, ale sama jedná. Volá do firem, lidé zneužívají cizí AI na útraty jejího provozovatele a velký úkol AI zvládne, jen když ji někdo vede. Pro vás to znamená rozhodnout, kde jí dáte volnost a kde nastavíte hranice.
- Google spustil v aplikaci Gemini funkci, která za uživatele zavolá do firmy a domluví rezervaci.
- Zakladatelka jedné AI služby popsala, jak podvodníci zneužívali její zkušební verzi zdarma a stálo ji to desítky tisíc dolarů.
- Ethan Mollick vyzkoušel nový model Claude Fable 5.2 na velkých projektech a ukázal, kde potřebuje lidské vedení.
Když vám místo zákazníka zavolá Gemini od Googlu
Co se děje: Google 20. listopadu oznámil, že jeho asistent Gemini umí za uživatele telefonovat do firem. Člověk napíše, co potřebuje, a Gemini zavolá, třeba kvůli rezervaci večeře nebo termínu u kadeřníka.
Proč vás to zajímá: na druhé straně linky nemusí být zákazník, ale jeho asistent. Pokud přijímáte objednávky po telefonu, můžete se časem setkat i s hovorem od asistenta.
Co udělat: rozhodnout, jestli takové hovory chcete přijímat, a mít připravené jasné odpovědi na nejčastější dotazy.
Jak to funguje? Podle blogu Google Research (výzkumné oddělení Googlu) navazuje Gemini na technologii Duplex, kterou Google představil v roce 2018. Asistent zvládne i složitější zadání, například naplánovat servis auta tak, aby nekolidoval s kalendářem uživatele. Z vyhledávání a z Map Google navíc umí obvolat firmy a zjistit cenu, dostupnost zboží nebo volný termín.
Pro firmy Google v oznámení uvádí tři důležité věci:
- Každý hovor začíná oznámením, že volá automatický systém od Googlu.
- Firma nemusí nic instalovat ani zaškolovat zaměstnance.
- Automatické hovory lze vypnout v nastavení Firemního profilu Google, případně během hovoru stačí říct, ať firmě přestane volat.
Ve kterých zemích funkce funguje, Google v oznámení neuvádí. Pro české firmy jde zatím spíš o signál, kam se doba posouvá: zákazníci mohou čím dál častěji posílat asistenta, aby za něj vyřídil rutinní věci.
Modelová situace: kadeřnický salon dostane během dne pět hovorů od asistenta. Recepční během nich odpovídá na stejné otázky, které má salon na webu. Kdyby byly na webu a ve Firemním profilu Google aktuální otevírací hodiny, ceník a online rezervace, část těchto hovorů by vůbec nevznikla.
Co s tím můžete udělat už tento týden? Zkontrolujte, jestli máte ve Firemním profilu Google aktuální otevírací dobu, ceny a odkaz na objednání. Právě na tyto věci se zákazníci při rezervaci obvykle ptají.
Proč může AI zdarma pro zákazníky stát desítky tisíc dolarů
Gemini ukazuje, jak AI jedná za zákazníka. Druhé téma ukazuje opačnou stranu: co se stane, když AI nabízíte vy a někdo ji začne zneužívat.
Co se děje: Claire Vo, zakladatelka služby ChatPRD (AI nástroj pro produktové manažery), v podcastu How I AI, který vychází v Lenny's Newsletter (newsletter o vývoji produktů), popsala, jak ji podvodníci za poslední rok připravili o desítky tisíc dolarů.
Proč vás to zajímá: za každou odpověď AI platí její provozovatel poskytovateli. Obvykle se účtuje podle objemu zpracovaného textu, takže kdo vaši AI používá, utrácí z vašeho rozpočtu.
Co udělat: pokud nabízíte AI zákazníkům, nastavit limity a hlídat útraty.
Jak zneužití vypadalo? Podle Claire Vo podvodníci zakládali zkušební účty zdarma, přeprodávali slevové kódy a jeden z nich nechal její službu pracovat nepřetržitě jako výpočetní sílu pro vlastní nástroj. Programátor a bloger Simon Willison ve svém komentáři cituje jeden z popsaných případů: někdo podle něj financoval mezinárodní studio, které přes smyčku zkušebních verzí a slevových kódů vyrábělo mapy pro herní platformy Roblox a Fortnite. Claire Vo proto zkušební verze zdarma zrušila.
Týká se to i menší firmy? Pokud máte na webu chatbota nebo AI kalkulačku bez omezení, může ji někdo používat ve velkém pro vlastní účely. Účet od poskytovatele AI pak přijde vám.
Co s tím můžete udělat už tento týden? Zeptejte se dodavatele vašeho chatbota tří věcí:
- Kolik dotazů smí jeden návštěvník poslat za den?
- Je u poskytovatele AI nastavený měsíční strop útraty?
- Kdo dostane upozornění, když útrata nečekaně vyskočí?
Co nový model Claude Fable 5.2 zvládne a kde potřebuje člověka
První dvě témata se týkají AI, která jedná navenek. Třetí ukazuje, co AI zvládne, když jí svěříte velký úkol uvnitř firmy.
Co se děje: Ethan Mollick, americký profesor podnikání, který o AI píše newsletter One Useful Thing, 9. listopadu popsal své zkušenosti s modelem Claude Fable 5.2 od firmy Anthropic. Model se podle něj ve většině intelektuálních úkolů u počítače blíží úrovni odborníků, ale nerovnoměrně: v některých oblastech za lidmi pořád výrazně zaostává. Mollick to nazývá „nerovnoměrná“ obecná inteligence (v originále „jagged AGI“, tedy umělá inteligence na úrovni odborníků ve většině úloh u počítače, ale s výraznými mezerami).
Proč vás to zajímá: AI může zpracovat velký projekt, ale problémy ve výsledku si nemusí sama všimnout.
Co udělat: u větších úkolů počítat s člověkem, který práci průběžně kontroluje a usměrňuje.
Mollick nechal model například zhodnotit 22 podnikatelských nápadů a přečíst veřejné programy jednání 201 městských a okresních samospráv. Jindy model připravil kurz o básníkovi W. H. Audenovi s 6 000 stranami četby. První verze webu kurzu byla podle Mollicka „přesná a bez radosti“.
Na delších projektech se ukázaly slabiny. Výzkumná studie, kterou model připravil, měla 182 stran a podle Mollicka „v současné podobě není publikovatelná“. Ve velkém projektu, na kterém pracovaly týmy AI agentů (programů, které samostatně plní úkoly), narostla vnitřní pravidla za dvanáct dní z 84 na 204 oddílů a místo stovek nových výstupů denně vznikal jen zhruba tucet. Podle Mollicka si AI těchto problémů, tedy zbytečně rozrostlých pravidel a pomalejší práce, sama nevšimla. Firmu by jí samostatně řídit nesvěřil.
Moje průběžná zpětná vazba se ukázala jako velmi důležitá. (Ethan Mollick, překlad z angličtiny)
Podle mě z Mollickovy zkušenosti plyne pro firmy jednoduché pravidlo: výstup AI potřebuje někoho, kdo ho čte, vrací k přepracování a ví, jak má dobrý výsledek vypadat.
Co s tím můžete udělat už tento týden? Vyberte jeden úkol, který chcete AI svěřit, a určete, kdo bude výsledek kontrolovat a podle čeho pozná, že je hotový.
Co z toho plyne pro vaši firmu
Ve všech třech případech rozhodujete o tomtéž: kolik volnosti AI dáte. Když AI telefonuje za zákazníka, záleží na tom, jak přesné informace o vaší firmě najde. Když AI nabízíte vy, potřebujete strop na útraty. A když jí svěříte větší práci, potřebujete člověka, který ji vede. Pokud uvažujete, jak AI ve firmě nasadit s rozumnou kontrolou, inspiraci najdete v článku první AI agent ve firmě. Pokud už chatbota na webu máte, přečtěte si, jak ohlídat, že odpovídá správně.
Co si z článku odnést?
- Aktualizujte Firemní profil Google: otevírací dobu, ceny a odkaz na objednání.
- Pokud nabízíte AI zákazníkům, nastavte limit dotazů a měsíční strop útraty.
- Každý větší úkol pro AI má mít člověka, který výsledek kontroluje.
Projdeme spolu, kde AI ve vaší firmě potřebuje kontrolu
Pokud chcete projít, kde AI ve vaší firmě ušetří čas a kde potřebuje kontrolu, rezervujte si konzultaci zdarma. Podíváme se na jeden konkrétní proces a určíme, kdo bude výstupy hlídat. Případně mi napište na kontakt.
Zdroje
- Google Research: How Google Duplex evolved to also call businesses for you in Gemini
- Lenny's Newsletter: How I fight token fraud as a solo founder (Claire Vo)
- Simon Willison: Token fraud is here and it's bad
- Ethan Mollick, One Useful Thing: Fable 5.2 and Jagged AGI
Stavím firmám AI agenty a automatizace na míru
Pavel Szabo
Programátor webů, eshopů a informačních systémů s více než 23 lety praxe. Pomáhám firmám i jednotlivcům s online podnikáním, automatizacemi a využitím AI v praxi.



