Co v článku najdete
Evropský AI Act přináší e-shopům nové povinnosti především v oblasti transparentnosti používání umělé inteligence. Pravidla se týkají například zákaznických chatbotů, virtuálních a hlasových asistentů, AI agentů, deepfake obsahu a obecně materiálů vytvořených pomocí AI. Podle odborníků přitom většina e-shopů nebude mít zásadní problém s technickým provedením potřebných změn. Větší výzvou je správně vyhodnotit, kdy konkrétní využití AI pravidlům podléhá a jaké povinnosti z toho pro obchodníka vyplývají. Za porušení mohou firmám hrozit pokuty až 15 milionů eur nebo 3 % celosvětového obratu.
Největší problém je správný výklad pravidel
Podle výkonného ředitele APEK Jana Vetyšky není největším problémem samotné technické informování zákazníků. Riziko spočívá spíše v situacích, kdy firma nesprávně vyhodnotí, zda její konkrétní použití AI spadá pod regulaci, případně na některou z povinností zapomene. Podle údajů Eurostatu představuje pro téměř 54 % podniků zvažujících zavedení AI překážku nejasnost právních důsledků a 53 % firem má obavy z možného porušení pravidel ochrany osobních údajů a soukromí.
Chatbot musí být označený jako AI
Významná část nových povinností se týká chatbotů, virtuálních asistentů a AI agentů. Zákazník musí podle článku hned na začátku komunikace vědět, že komunikuje s umělou inteligencí, přičemž toto označení musí zůstat viditelné po celou dobu konverzace. Podobný princip platí také pro AI agenty, kteří mohou za obchodníka například vyřizovat objednávky nebo rezervace. Jiný způsob označení se potom týká obrázků a videí vytvořených AI – ty mají mít trvalé a strojově čitelné označení, například prostřednictvím vodoznaku nebo doprovodné informace, zejména pokud napodobují skutečné osoby nebo události.
Firmy musí vědět, kde AI používají
Článek upozorňuje také na problém, který může být pro řadu firem podstatnější než samotné technické úpravy. Obchodník by měl mít přehled o tom, kde a jak AI používá, kdo její výstupy kontroluje a kdy je musí označit. Největší komplikace mohou podle odborníků čekat menší a střední e-shopy nebo firmy, které začaly AI nástroje používat postupně a bez jednotných pravidel. Rizikem je zejména absence centrální evidence, dokumentace a proškolení týmu.
Můj názor: Lidská kontrola bude klíčová
Můj názor je, že největším problémem nebude samotné označování AI obsahu, ale odpovědnost za jeho vznik a zveřejnění. Pokud firma začne ve velkém generovat texty, obrázky nebo jiný obsah pomocí AI, neměla by pouze řešit, zda je výstup správně označený. Měla by především vědět, kdo za obsah odpovídá a kdo jej před zveřejněním kontroluje. Právě absence lidské kontroly může podle mě vést nejen k problémům s AI Actem, ale také k chybám, nepřesnostem a postupné ztrátě důvěry zákazníků.
Konkurence se bude stále více opírat o důvěru
Nová regulace tak může změnit i způsob, jakým budou e-shopy soutěžit o zákazníky. Podle závěru článku nebude rozhodovat pouze vizuální stránka webu nebo dobře napsané produktové popisy, ale stále více také důvěra, zákaznický servis a bezpečnost celého nákupního procesu. AI Act proto není jen další administrativní povinností. Pro e-shopy může být zároveň impulzem k tomu, aby si udělaly pořádek v tom, jak umělou inteligenci používají, jak kontrolují její výstupy a jak o jejím využití komunikují se zákazníky.
