Modely od Anthropicu patří ke špičce, když přijde na psaní kódu. U hlasových a chatovacích asistentů pro zákaznickou podporu ale pokulhávají. Vyplývá to z dat firmy NiCE, která dodává software pro zákaznický servis a mezi její klienty patří Toyota, Allianz, Nestlé nebo aerolinky Frontier Airlines.
Rychlost je rozhodující
Problém tkví v tom, jak dlouho modelu trvá, než po obdržení požadavku začne odpovídat. A u hlasových asistentů je to potíž. V zákaznické podpoře se totiž hraje o milisekundy.
Hlasový nebo textový bot může podle NiCE mlčet nanejvýš zhruba dvě a půl vteřiny. Pak už to zákazníkovi připadá nepřirozené. Trh se softwarem pro zákaznickou zkušenost postavenou na umělé inteligenci se odhaduje na zhruba 15 miliard dolarů a rychle roste. Kdyby NiCE nasadila modely Anthropicu na svou zákaznickou linku, výsledek by prý stál za nic. Bot by zněl mizerně, protože modely jsou prostě moc pomalé.
Google a OpenAI
Nedávno NiCE porovnala data svých zákazníků. Model Opus 4.7 od Anthropicu potřeboval na první token víc než čtyři vteřiny. Googlu stačila s modelem Gemini 3 Flash zhruba vteřina. K tomu odbavil zhruba čtyřikrát víc tokenů za sekundu.
Model Anthropicu vyjde 18,5krát dráž než Gemini 3 Flash. Anthropic sice nabízí svižnější Opus 4.6 Flash, který se k prvnímu tokenu dostane rychleji než Gemini 3 Flash, jenže stojí bezmála stokrát víc než model od Googlu. Levnější řady Sonnet a Haiku jsou zase pomalejší a o něco dražší než Gemini 3 Flash.
Mezi zákazníky NiCE si získávají oblibu i malé rychlé modely od OpenAI, třeba 5.4 mini a 4.1 mini. Jsou levné. A OpenAI začátkem měsíce spustil pro ChatGPT nový zvukový model, který zatím nenabízí přes rozhraní pro vývojáře. Přesto ten model umí něco navíc. Průběžně zpracovává hlas mluvčího, takže dokáže okamžitě zareagovat, když ho někdo přeruší. Podobně jako v rozhovoru mezi lidmi.
Kde má Claude pořád navrch
Jednu velkou výhodu ale Anthropic drží. Přesnost. Modely Opus 4.7 a 4.6 chybují zhruba o polovinu méně než Gemini 3 Flash, uvádí NiCE. A to se počítá ve chvíli, kdy zákazník čeká prvotřídní obsluhu.
Mluvčí Anthropicu na to reaguje tím, že firma nabízí celou škálu modelů, protože různé úkoly mají různé nároky. Zatímco modely jako Fable a Opus jsou stavěné na náročné uvažování, které zabere minuty až dny, řady Sonnet a Haiku spojují vysokou inteligenci s rychlostí pro práci ve velkém objemu. Napříč modely se prý drží stejná kvalita hotové práce.
Klíčem je diverzita
Skepsi k tomu, aby všechno běželo přes jednoho dodavatele, dává najevo i Atlassian. Firma se profiluje jako dirigent, který zákazníkům pomáhá přepínat mezi různými modely a kódovacími asistenty při vývoji softwaru.
Minulý týden Atlassian přidal řadu novinek do Jiry, své aplikace na řízení softwarových projektů. Týmy teď mohou zadávat úkoly, třeba návrh přihlašovací stránky webu, různým nástrojům. Na výběr je Claude Code od Anthropicu, GitHub Copilot od Microsoftu i vlastní kódovací asistent Jiry.
Atlassian zároveň vylepšil svého AI asistenta pro Slack, který se nápadně podobá nedávno představenému Claude Tagu od Anthropicu. Členové týmu můžou asistenta Jiry označit ve svých slackových kanálech, tedy skupinových chatech, a nechat ho rozebrat zprávy a založit z nich pracovní úkoly. Brzy má agent fungovat i v Microsoft Teams.
