Kde umělá inteligence selhává v designových systémech

Umělá inteligence (AI) slibuje revoluci v mnoha oborech, včetně designových systémů, kde by mohla urychlit tvorbu rozhraní a automatizovat rutinní úkoly. Přesto se ukazuje, že v praxi naráží na řadu překážek. Podle průzkumu mezi 95 odborníky na designové systémy, který se zaměřil na očekávání organizací a místa, kde je AI příliš nepřesná, vycházejí najevo složité vztahy mezi očekáváními a realitou. Organizace často požadují stabilní, vysoce kvalitní a trvalé výstupy, ale AI často produkuje nestabilní výsledky, které erodují důvěru. Tento článek prozkoumá tyto selhání podrobně a pokusí se nabídne praktické rady, jak s nimi naložit.

Organizace a deterministické sliby

V mnoha organizacích se designové systémy vnímají jako smlouva – slib spolehlivých vzorů, testovaného kódu a sdíleného jazyka, na který se týmy mohou spolehnout. AI však často produkuje probabilistické výstupy, což znamená, že stejný dotaz může vést k různým odpovědím. To narušuje důvěru, protože organizace očekávají deterministické výsledky, kde není místo pro hádání. Například v průzkumu respondenti popsali, jak AI selhává v poskytování bezpečnostních záruk, které jsou klíčové pro IT týmy. Místo toho AI nabízí rychlé, ale variabilní odpovědi, což vede k erodované důvěře v systémy, které mají být stabilní.

Další údaje ukazují, že toto selhání souvisí s nedostatečnou integrací AI do pracovních postupů. Podle zprávy MIT z roku 2025 selhává 95 % pilotních projektů AI právě kvůli chybějící expertize v začlenění AI do existujících procesů. Organizace často nepochopí, jak AI zapracovat do svých struktur, což vede k nízké adopci a podvyužití. Například AI často selhává v interpretaci klíčových designových prvků, což způsobuje chyby v synchronizaci napříč platformami.

Divergentní versus konvergentní úkoly

Jedním z klíčových vzorců v datech je rozdíl mezi divergentními a konvergentními úkoly, inspirovaný modelem dvojitého diamantu v designovém procesu. Divergentní úkoly, jako je brainstorming, syntéza poznámek nebo asistence při výzkumu, fungují s AI dobře. Respondenti v průzkumu uváděli, že AI poskytuje rychlé výchozí body a automatizuje repetitivní úkoly, jako je tvorba dočasných prototypů nebo sumarizace poznámek. Například jeden respondent poznamenal, že AI je skvělé jako vyhledávač a pro zdůraznění osvědčených postupů, což urychluje workflow.

Naopak konvergentní úkoly, kde je potřeba přesnost, jako tvorba produkčního kódu, dodržování fidelity designového systému nebo pixelově přesné vizuální rozhodnutí, selhávají. AI často produkuje výsledky, které nejsou reprodukovatelné – stejný prompt může vést k odlišným výstupům. Respondenti hlásili problémy, jako je nesoulad s designovým systémem i při specifických promptech, nebo dosažení pouze 80% přesnosti, což je pro ně nepřijatelné. Další příklad z průzkumu: AI generuje komponenty s pochybnými výsledky, jako duální API nebo neideální postupy v TypeScriptu.

AI často produkuje generické návrhy bez silné informační hierarchie, a to i při sofistikovaných promptech. Navíc AI trpí předpojatostí z trénovacích dat, což vede ke stereotypním nebo vylučujícím designům, jako v případě zaujatých algoritmů cílení reklam.

Kde AI funguje a kde experimentovat

Je dobré se zaměřit na to, v čem je AI dobré a kde funguje. To zahrnuje objevování a exploraci, jako brainstorming nebo konkurenční analýzu; sumarizace a první návrhy, například vysokou úroveň syntézy nebo sumarizace schůzek; strukturované refaktoringy, jako hromadné přejmenování nebo čištění CSS s jasnými specifikacemi; a nízkorizikové prototypování pro diskuse, ne pro důkazy použitelnosti.

Na straně, kde AI selhává, je třeba experimentovat. To se týká věrnosti designového systému, kde komponenty a tokeny musí být přesné; produkčního kódu, kde reprodukovatelnost převažuje nad novinkami; pixelově přesných vizuálních rozhodnutí, kde AI selhává v úsudku o značkovém jazyce a mezerách; a konzistence, protože stejný prompt vede k různým výsledkům.

Pro zlepšení na obou stranách pomáhá vrstvení kontextu, jako použití retrieval-augmented generation (RAG) nebo přístup k repozitářům, aby AI viděla specifický systém, ne generický z internetu. Dále testy smluv, jako kontrola schémat, linting tokenů nebo vizuální diffy, a odstranění preferencí, protože optimalizace založené na lidských preferencích ne vždy vedou k dobrým výsledkům.

Praktické kroky k řešení selhání

Pro ty, kteří zavádějí AI do designových systémů, existují konkrétní kroky. Nejprve napište smlouvu systému – jmenujte nekompromisní záruky, jako API, pravidla přístupnosti nebo sémantiku tokenů, a implementujte testy. Dále vyžadujte rigorózní kontroly při konvergentních úkolech – vše, co se dotýká publikovaných aktiv, musí projít testy. Měřte důvěru v AI sledováním, kolik výstupů je přijato bez úprav, průměrného času na opravy a chyb po nasazení – to může vést k měření "dluhu důvěry v AI".

Další krok je záměrné vrstvení kontextu, například anotování malé "stylové bible" s 20 příklady správných a špatných z produktů. A konečně, když AI nesplní očekávání, ptejte se proč – žádejte vysvětlení, které směrnice designového systému AI použila pro chybný výstup. To může pomoci nejen AI, ale i lidským uživatelům.

Lidský faktor zůstává klíčový

V konečném důsledku selhání AI odrážejí selhání lidí – bez správných informací na začátku je úspěch těžký. Problémy často spočívají v lidech, ne v technologiích, jako když týmy obcházejí systém, protože je snazší budovat kolem něj. AI by měla být vnímána jako spolupracovník, který podporuje a navrhuje, ne jako továrna, která dodává finální produkty. Až do doby, kdy AI dokáže zaručit sliby designového systému, zůstane lidský prvek tou nejtěžší částí.

Tento pohled na selhání AI v designových systémech ukazuje, že zatímco technologie urychluje některé procesy, vyžaduje pečlivé řízení, aby nepřinesla více škody než užitku. S experimentováním a lepším kontextem se může situace zlepšit, ale klíčem zůstává vyvážený přístup.