Firemní chatbot, který odpovídá z vašich dokumentů

Problém

Odpovědi na technické otázky jsou rozházené v Confluence, interních PDF a starých vláknech ve Slacku. Lidé chvíli hledají, pak to vzdají a zeptají se jednoho z mála odborníků, kteří odpověď znají. Ti pak přerušují svou práci, aby znovu a znovu odpovídali na stejné otázky. Nikdo nevidí, které otázky se pořád opakují ani které stránky jsou zastaralé.

Přístup

Chatbot nasazený ve firmě a denně používaný k získávání technických informací z firemní dokumentace. Je napojený na Confluence, interní PDF a vybrané kanály ve Slacku. Zaměstnanci se ptají běžnou řečí přímo ve Slacku a hned dostanou odpověď, i s odkazy na zdroje, ze kterých vychází.

Je pořád aktuální. Změněné stránky a dokumenty si sám znovu načte, takže odpovídá podle současného stavu.
K provozu není potřeba vývojář. Správce jednoduchými příkazy ve Slacku vybere kanály a prostory, ze kterých se má učit.
Učí se ze zpětné vazby. Lidé hodnotí odpovědi palcem nahoru nebo dolů a hodnocení zlepšuje další výsledky.
Ukazuje, co chybí. Zaznamenává otázky, na které neuměl dobře odpovědět, takže tým ví, kterou dokumentaci doplnit nebo opravit.

Jak je postavený

Odpovídá z vyhledávání, ne zpaměti. Bot používá generování s vyhledáváním (RAG): nejdřív najde pasáže, které na otázku odpovídají, a model napíše odpověď jen z nich a uvede, které použil. Před vyhledáváním model otázku přepíše: rozepíše zkratky, opraví překlepy a doplní synonyma. Vyhledávání kombinuje význam (vektorové vyhledávání, 70 %) s přesnými slovy (fulltext, 30 %), takže najde otázku položenou jinými slovy i přesný kód chyby. Odpověď se do vlákna ve Slacku vypisuje průběžně, jak vzniká.

Dokumenty připravené k vyhledávání. Stránky z Confluence se dělí podle nadpisů na pasáže rozumné délky. Tabulky se dělí po řádcích a ke každému se zopakuje záhlaví, takže otázka na jeden řádek najde právě ten řádek, a nalezená pasáž s sebou přinese i sousední pro kontext. Každé vlákno ze Slacku model shrne na problém a jeho řešení s tematickými štítky a téměř stejná vlákna odloží. Interní PDF mají vlastní tok zpracování. Co se od poslední synchronizace nezměnilo, se přeskočí.

Upřímný v tom, jak si je jistý. Když je shoda slabá, odpověď to řekne a doporučí ověřit si to u týmu. Když nic neodpovídá, doporučí zeptat se člověka, místo aby hádal, a otázku zaznamená jako mezeru ve znalostech. Ta se sama uzavře, jakmile přibude odpovídající obsah.

Zpětná vazba, která mění pořadí. Pod každou odpovědí jsou tlačítka Pomohlo a Nepomohlo. Zdroje, které opakovaně dostávají kladné hlasy, se řadí o něco výš, a nepomáhající klesají, záměrně víc, než ty dobré stoupají, takže zpětná vazba vyhledávání zpřesňuje, ale nepřebíjí.

Jedna instalace, mnoho týmů. Podpora, HR i vývoj mohou mít každý vlastního bota s vlastními kanály, stránkami a pokyny, na sdílené infrastruktuře a s oddělenými daty.

Postavený tak, aby běžel. K modelu vede brána LiteLLM, takže poskytovatele lze změnit v konfiguraci. Jističe (circuit breakers) nechají bota při výpadku databáze nebo modelu fungovat v omezeném režimu a kontroly stavu a metriky ukazují, jak na tom je.

Python, Slack v režimu Socket Mode, LangChain a LangGraph, Postgres s pgvector (Supabase), LiteLLM a Prometheus, v jednom kontejneru Dockeru. Jeho nástroje jsou dostupné i přes MCP, takže ve stejné znalostní bázi mohou hledat i další agenti.

Výsledek

V provozu bot odpovídal zhruba na 15 otázek denně a každá odpověď ušetřila kolem 20 minut, které by jinak někdo strávil hledáním v dokumentaci nebo čekáním na odpověď odborníka.

Velká část z toho je čas odborníků. Otázky, které dřív končily u nich, teď zodpoví bot, a oni se mohou věnovat práci, kterou nikdo jiný neudělá.

Převedeno na peníze, při 220 pracovních dnech, 50 € za hodinu práce zaměstnance, 0,05 € za AI na jednu odpověď a 300 € měsíčně za provoz platformy:

	Za rok
Zodpovězené otázky	3 300
Ušetřené hodiny	1 100
Ekvivalent plných úvazků	0,63
Hodnota ušetřeného času	55 000 €
Náklady na AI	165 €
Platforma a údržba	3 600 €
Čistý přínos	51 235 €

To je zhruba 90 hodin měsíčně a přibližně 13,60 € čistého přínosu na každé euro vložené do provozu bota.

Počet otázek a ušetřený čas pocházejí z provozu bota; hodinová sazba a provozní náklady jsou předpoklady, které si můžete změnit v kalkulačce níže. Jednorázové náklady na zavedení nejsou zahrnuty. Úspora znamená uvolněnou kapacitu, ne nižší mzdové náklady: skutečnými penězi se stává, když lidé čas využijí na jinou práci, nebo když díky ní odpadnou přesčasy či nový nábor.