Jak jsem vyvíjel Agenta (4): Co vlastně Agent ví: RAG a vlastní znalostní báze
Jak jsem vyvíjel Agenta (4): Co vlastně Agent ví: RAG a vlastní znalostní báze
Chtěl jsem, aby Agent odpovídal z vlastních zveřejněných podkladů. Obecný model ale nemusí znát aktuální obsah webu. Proto jsem zvolil RAG: nejprve vyhledat zdroje, teprve potom odpovědět.

Když jsem si představoval, že mi Agent pomůže s vlastními projekty, narazil jsem na nepříjemně jednoduchou otázku: odkud vlastně bude vědět, co jsem napsal na web nebo do dokumentace? Samotný jazykový model přece nemůže mít zaručeně aktuální přehled o mých podkladech. A vymyslet si chybějící odpověď umí až příliš dobře.
Nejdřív hledat, teprve potom odpovídat
Začal jsem proto pracovat s principem RAG. Systém si nejprve vyhledá související úryvky z dostupných dokumentů a až na jejich základě sestavuje odpověď. Vektorové vyhledávání umožňuje hledat i podobnost významu, nikoli jen přesnou shodu slov.
Zpočátku mě fascinovalo, že lze najít relevantní odstavec i tehdy, když se otázka a zdroj používají různá slova. Brzy jsem však zjistil, že podobnost není důkaz. Dvě věty mohou pojednávat o stejném tématu, a přitom si navzájem odporovat.
Kdo smí co vidět
Další problém je bezpečnost. Vyhledávač může nalézt vhodný text, ale sám nesmí rozhodnout, zda jej daný uživatel smí dostat. Oprávnění je nutné ověřit proti spolehlivému zdroji, nezávisle na tom, co se podařilo najít v indexu.
Stejně tak potřebuji vědět, zda dokument stále existuje, je aktuální a nebyl stažen z publikace. Vlastní znalostní báze není jen hromada textů; je to i evidence jejich původu a stavu.
Někdy je nejlepší neodpovědět
Tím jsem se dostal k poznání, které na první pohled příliš nevypadá jako pokrok v AI: dobrý pomocník musí umět přiznat nejistotu. Pokud podklady nestačí, neměl by se pokoušet mezeru zamaskovat elegantním odstavcem.
Na Agentovi mě proto zajímá nejen kvalita formulace, ale především to, zda lze odpověď doložit a zda při hledání neunikají informace, které mají zůstat soukromé. To jsou méně nápadné vlastnosti než efektní chat, zato podstatně důležitější.
Příště vysvětlím, proč nestačí jediný přepínač mezi veřejným a soukromým Agentem.







