AI si nepamatuje. Ale tváří se, že ví všechno.
Nevím, jak moc vytěžujete AI vy. Já s ní pracuji denně. A jedna věc mě při dlouhodobé spolupráci opravdu štve. Něco jí vysvětluji, několikrát se na tom shodneme, a za pár dní řešíme stejný problém znovu. Jako bychom spolu nikdy nemluvili.
Samozřejmě, některé AI aplikace dnes mají paměť. Jenže paměť není totéž jako skutečná znalost celého projektu. Model pracuje s informacemi, které má právě k dispozici. Něco dostane z aktuálního rozhovoru, něco z dlouhodobé paměti, něco ze souhrnů nebo dokumentace. A něco se k němu vůbec nedostane.
A místo aby řekl „tohle nevím“, někdy začne chybějící souvislosti domýšlet.
- Při vývoji aplikací to dokáže nadělat pořádný nepořádek.
- Máme hotovou funkci. AI ji nezná, tak navrhne novou.
- Máme schválené pravidlo. AI ho přehlédne a vytvoří jiné.
- Máme vyřešený problém. AI ho začne řešit znovu.
A výsledkem není chytřejší systém, ale stále větší slepenec. Nejhorší je ale okamžik, kdy AI oznámí: „Hotovo.“ Co přesně je hotovo? Napsala návrh? Uložila změnu? Otestovala ji? Nebo jen předpokládá, že by měla fungovat?
To jsou čtyři naprosto rozdílné věci. A právě tady podle mě musíme přestat AI odpouštět něco, co bychom u člověka nepřijali. Když zaměstnanec řekne, že zakázku dokončil, očekávám výsledek. Ne pěkně napsanou zprávu o tom, jak by výsledek mohl vypadat. Od AI nechci sebevědomí. Chci spolehlivost. A samozřejmě platí staré známé: „Na blbou otázku blbá odpověď!“ Jenže co když otázka vůbec nebyla blbá?
Trochu technicky. Proč se to vlastně děje?
Představte si, že s AI několik měsíců vyvíjíte aplikaci. Máte za sebou stovky rozhodnutí, úprav, oprav a změn zadání. Vy si celý projekt pamatujete jako jeden příběh. Jenže AI s ním nemusí pracovat stejně. Samotný model nemá automaticky k dispozici všechno, co jste spolu kdy řešili. Záleží na aplikaci, její paměti, dostupné historii a na tom, jaké informace mu předá. Moderní AI systémy si mohou důležité údaje ukládat, vyhledávat je podle významu nebo pracovat se souhrny předchozích rozhovorů. Jenže najít informaci ještě neznamená pochopit všechny souvislosti.
A právě tady vidím problém. AI může dohledat, že jsme nějakou funkci plánovali. Ale nemusí vědět, že jsme ji mezitím dokončili, otestovali a změnili její původní zadání. Může znát poslední rozhodnutí, ale ne důvod, proč jsme k němu dospěli. A někdy má dokonce potřebné informace k dispozici, jen je při zpracování dlouhého a složitého zadání správně nevyužije. Přitom na nás působí, jako by měla celý projekt dokonale nastudovaný.
Čím déle s AI pracuji, tím méně mě zajímá, kolik informací si dokáže zapamatovat. Mnohem víc mě zajímá, jestli umí najít ty správné, pochopit jejich souvislosti a ověřit výsledek.
A pokud něco neví, neměla by si to domýšlet jen proto, aby nám dokázala odpovědět.
Co s tím?
Ve Fresh Crackers v rámci digitální firmy proto postupně měníme způsob, jakým AI využíváme. Tvoříme vlastní AI Engine se svou lokální pamětí, kterou pak využívá pro vypracování úloh dalšími AI modely (AI Engine pracuje s kontextem). Nechceme další nekonečné chaty, ve kterých si pořád dokola vysvětlujeme stejná pravidla. Chceme, aby naše aplikace pracovaly s dokumentací, skutečnými daty, historií rozhodnutí a ověřitelnými výsledky.
Aby AI věděla, co už existuje, co se právě řeší a co bylo skutečně dokončeno. A hlavně aby dokázala rozlišit mezi tím, co udělala, a tím, co si pouze myslí, že udělala. Ne proto, že bychom AI nevěřili vůbec. Ale protože důvěra se má opírat o výsledky, ne o způsob, jakým někdo odpovídá.
A co vaše zkušenost?
Už vám AI oznámila, že něco udělala, ale ve skutečnosti to nebyla pravda? A vadí vám víc její chyby, nebo to, že je někdy sama nedokáže přiznat? Tahle otázka mě zajímá možná ještě víc než samotný technologický pokrok.


