AI si nepamatuje. Ale tváří se, že ví všechno.

AI si nepamatuje. Ale tváří se, že ví všechno.

Nevím, jak moc vytěžujete AI vy. Já s ní pracuji denně. A jedna věc mě při dlouhodobé spolupráci opravdu štve. Něco jí vysvětluji, několikrát se na tom shodneme, a za pár dní řešíme stejný problém znovu. Jako bychom spolu nikdy nemluvili.

Samozřejmě, některé AI aplikace dnes mají paměť. Jenže paměť není totéž jako skutečná znalost celého projektu. Model pracuje s informacemi, které má právě k dispozici. Něco dostane z aktuálního rozhovoru, něco z dlouhodobé paměti, něco ze souhrnů nebo dokumentace. A něco se k němu vůbec nedostane.

A místo aby řekl „tohle nevím“, někdy začne chybějící souvislosti domýšlet.

  • Při vývoji aplikací to dokáže nadělat pořádný nepořádek.
  • Máme hotovou funkci. AI ji nezná, tak navrhne novou.
  • Máme schválené pravidlo. AI ho přehlédne a vytvoří jiné.
  • Máme vyřešený problém. AI ho začne řešit znovu.

 

A výsledkem není chytřejší systém, ale stále větší slepenec. Nejhorší je ale okamžik, kdy AI oznámí: „Hotovo.“ Co přesně je hotovo? Napsala návrh? Uložila změnu? Otestovala ji? Nebo jen předpokládá, že by měla fungovat?

To jsou čtyři naprosto rozdílné věci. A právě tady podle mě musíme přestat AI odpouštět něco, co bychom u člověka nepřijali. Když zaměstnanec řekne, že zakázku dokončil, očekávám výsledek. Ne pěkně napsanou zprávu o tom, jak by výsledek mohl vypadat. Od AI nechci sebevědomí. Chci spolehlivost. A samozřejmě platí staré známé: „Na blbou otázku blbá odpověď!“ Jenže co když otázka vůbec nebyla blbá?

Trochu technicky. Proč se to vlastně děje?

Představte si, že s AI několik měsíců vyvíjíte aplikaci. Máte za sebou stovky rozhodnutí, úprav, oprav a změn zadání. Vy si celý projekt pamatujete jako jeden příběh. Jenže AI s ním nemusí pracovat stejně. Samotný model nemá automaticky k dispozici všechno, co jste spolu kdy řešili. Záleží na aplikaci, její paměti, dostupné historii a na tom, jaké informace mu předá. Moderní AI systémy si mohou důležité údaje ukládat, vyhledávat je podle významu nebo pracovat se souhrny předchozích rozhovorů. Jenže najít informaci ještě neznamená pochopit všechny souvislosti.

A právě tady vidím problém. AI může dohledat, že jsme nějakou funkci plánovali. Ale nemusí vědět, že jsme ji mezitím dokončili, otestovali a změnili její původní zadání. Může znát poslední rozhodnutí, ale ne důvod, proč jsme k němu dospěli. A někdy má dokonce potřebné informace k dispozici, jen je při zpracování dlouhého a složitého zadání správně nevyužije. Přitom na nás působí, jako by měla celý projekt dokonale nastudovaný.

Čím déle s AI pracuji, tím méně mě zajímá, kolik informací si dokáže zapamatovat. Mnohem víc mě zajímá, jestli umí najít ty správné, pochopit jejich souvislosti a ověřit výsledek.

A pokud něco neví, neměla by si to domýšlet jen proto, aby nám dokázala odpovědět.

Co s tím?

Ve Fresh Crackers v rámci digitální firmy proto postupně měníme způsob, jakým AI využíváme. Tvoříme vlastní AI Engine se svou lokální pamětí, kterou pak využívá pro vypracování úloh dalšími AI modely (AI Engine pracuje s kontextem). Nechceme další nekonečné chaty, ve kterých si pořád dokola vysvětlujeme stejná pravidla. Chceme, aby naše aplikace pracovaly s dokumentací, skutečnými daty, historií rozhodnutí a ověřitelnými výsledky.

Aby AI věděla, co už existuje, co se právě řeší a co bylo skutečně dokončeno. A hlavně aby dokázala rozlišit mezi tím, co udělala, a tím, co si pouze myslí, že udělala. Ne proto, že bychom AI nevěřili vůbec. Ale protože důvěra se má opírat o výsledky, ne o způsob, jakým někdo odpovídá.


A co vaše zkušenost?

Už vám AI oznámila, že něco udělala, ale ve skutečnosti to nebyla pravda? A vadí vám víc její chyby, nebo to, že je někdy sama nedokáže přiznat? Tahle otázka mě zajímá možná ještě víc než samotný technologický pokrok.

Máš k tématu co říct? Napiš nám do komentáře.

Napsat komentář

Fresh tip

Pokud článek řeší problém, který máš ve firmě taky, nečekej, až z něj bude větší chaos. Napiš nám a probereme konkrétní řešení.

Sdílej článek

Další články z Fresh Business

Modernizace podnikání, weby, obsah, AI a automatizace bez korporátní omáčky.

Chceš z webu a obsahu udělat systém?

Pomůžeme propojit web, SEO, obsah a automatizaci tak, aby to dávalo obchodní smysl.

Menu Fresh Crackers

Vyber podle toho, co dnes potřebuješ vyřešit. Web, e-shop, automatizace, specialista nebo náš koncept digitální firmy.

Digitální firma

Fresh Lab propojuje lidi, AI spolupracovníky a vlastní technologie. Engine je mozek, Chat společné rozhraní a Eda hlídá výdaje, náklady a splatnosti.

Fresh Lab

Koncept digitální firmy a náš AI tým.

Chci více zákazníků

Web, SEO a obsah pro poptávky a dohledatelnost.

Výkonnostní kampaně

PPC, SEO a data pro růst a obchodní výsledek.

Chci rozjet nebo zlepšit e-shop

WooCommerce, produkty, objednávky a automatizace.

Chci méně ruční práce

AI a automatizace napojená na konkrétní proces.

AI agent na míru

AI pro konkrétní firemní úkol.

Komunikace a follow-up

Poptávky, FAQ a navazující komunikace.

Potřebuji specialistu

Kapacita od několika hodin bez interního náboru.

Nástroje a technologie

Fresh Security

Phishing a bezpečnostní vzdělávání.

PWA aplikace

Firemní a zákaznické aplikace pro data a automatizaci.

Fresh Business

Články Fresh Business

Praktické články o podnikání, AI, webu, marketingu a automatizaci.

Odborná setkání

Nejbližší termíny, témata a registrace na setkání Fresh Business.

Partneři

Pro partnery

15 % provize a možnosti spolupráce.

Partnerský účet

Přehled doporučení a provizí.

Chci doporučit klienta

Ozvi se a probereme konkrétní příležitost.

Fresh Crackers — technologický a marketingový partner pro web, e-commerce, akvizici a automatizaci.