Co je umělá inteligence (a co jí není)

Zkratka AI se za poslední tři roky nalepila na tolik produktů, že přestala něco znamenat. Automatický filtr v e-mailu je AI. Doporučení filmu je AI. Chatbot, který umí napsat báseň, je taky AI. Jestli vám to přijde matoucí, nejste sami — a není to vaše chyba.

Jedna věta, která to shrne

Umělá inteligence je software, který se chování naučil z dat, místo aby mu ho někdo naprogramoval pravidlo po pravidle.

To je celý rozdíl. A je větší, než se zdá.

Klasický program je recept. Vývojář napíše: když je částka nad tisíc eur a zákazník je nový, vyžádej platbu předem. Když se pravidlo změní, někdo ho přepíše. Program nikdy neudělá nic, co mu autor neřekl — což je zároveň jeho největší síla i největší limit.

Model strojového učení dostane místo pravidel příklady. Desetitisíce objednávek, u kterých víme, které skončily nezaplacené. Model si sám najde vzory, které je odlišují. Nikdo mu neřekl, že záleží na hodině objednání nebo na tom, jestli se fakturační a dodací adresa shodují. Přišel na to sám.

Proč to někomu stojí za to

Protože některá pravidla se napsat nedají.

Zkuste přesně definovat, co dělá fotografii kočky fotografií kočky. Ne „má čtyři nohy a ocas" — to má i pes. Ne „má vousy" — ty na fotce často nejsou vidět. Člověk to pozná za desetinu vteřiny a neumí říct proč. Přesně tam klasické programování naráží a učení z příkladů funguje.

Totéž platí pro řeč, ručně psaný text, tón e-mailu nebo odhad, jestli zákazník odejde ke konkurenci. Jsou to úlohy, kde intuici máme, ale pravidla ne.

Co AI není

Není to myšlení. Model nemá záměry, názory ani chápání světa v tom smyslu, v jakém ho máte vy. Když jazykový model napíše, že vám rozumí, je to statisticky pravděpodobná odpověď na vaši větu — ne projev empatie.

Není to ani vědomost. Model si nepamatuje fakta tak, jak si je pamatuje encyklopedie. Pamatuje si vzory. Proto umí plynule napsat něco, co zní správně a je to nesmysl. Tomu se říká halucinace a není to porucha — je to přímý důsledek toho, jak model funguje.

A není to magie. Za každým působivým výstupem stojí data, na kterých se model učil. Když v datech nic nebylo, model si to domyslí.

Kde je hranice

Tohle je asi nejužitečnější věc, kterou si z článku odnést. AI je dobrá v úlohách, kde:

• existuje spousta příkladů, ze kterých se dá učit,
• občasná chyba není katastrofa,
• a člověk umí výsledek zkontrolovat.

A je špatná — nebo aspoň riziková — všude, kde je potřeba stoprocentní správnost, kde chyba něco doopravdy stojí a kde nikdo výstup nekontroluje. Výpočet DPH nechte na obyčejném kódu. Ten se nesplete a když ano, víte přesně proč.

V praxi to nejčastěji vypadá tak, že AI udělá osmdesát procent práce a člověk zbytek. Není to tak efektní jako sliby o plné automatizaci, ale funguje to.

Proč se o tom mluví až teď

Neuronové sítě nejsou nová myšlenka, základy jsou ze šedesátých let. Změnily se tři věci naráz: máme dost dat (internet), dost výpočetního výkonu (grafické karty) a od roku 2017 architekturu zvanou transformer, která se dokázala učit mnohem efektivněji než cokoliv předtím. Právě ta stojí za jazykovými modely, které dnes všichni znají.

Takže ne, nestal se žádný zázrak. Jen se po desetiletích potkaly podmínky, které starou myšlenku konečně rozjely.

Co si z toho vzít

Až vám příště někdo nabídne „řešení s AI", zeptejte se na dvě věci: na jakých datech se to učilo a co se stane, když se to splete. Pokud na první otázku nepřijde konkrétní odpověď a na druhou „to se nestane", máte před sebou marketing, ne technologii.