Co v článku najdete
Na Ekonomickém deníku vyšel ve spolupráci s PPC Profits nový článek, který upozorňuje na blížící se změny spojené s evropským AI Actem. E-shopy jsou podle něj po technické stránce většinou připravené, problém však představuje především orientace v nových povinnostech a jejich správný výklad. Za jejich porušení mohou firmám hrozit sankce až 15 milionů eur nebo 3 % celosvětového obratu.
AI Act přináší přísnější pravidla transparentnosti
Nová regulace se zaměřuje především na transparentní používání umělé inteligence při komunikaci se zákazníky. Týká se nejen zákaznických chatbotů, ale také virtuálních a hlasových asistentů, AI agentů a obsahu vytvořeného umělou inteligencí. Pro běžného zákazníka se podle článku provoz e-shopů zásadně nezmění, obchodníci však musí nové požadavky začlenit do svých procesů.
Nejistota brzdí zavádění AI
Jednou z hlavních překážek širšího využívání AI jsou obavy z právních důsledků. Podle dat Eurostatu představuje nejistota v právních otázkách problém pro 54 % podniků, které o využití umělé inteligence uvažovaly. Významnou obavou je také možné porušení pravidel ochrany osobních údajů a soukromí. Firmám proto často nechybí technologie, ale především jistota, jak AI používat v souladu s regulací.
Chatbot musí zákazníkovi přiznat, že je AI
Povinnost transparentnosti se týká každého, kdo využívá AI pro interakci se zákazníkem, nikoli pouze velkých technologických firem. U chatbotů a virtuálních asistentů musí zákazník hned na začátku komunikace vědět, že hovoří s umělou inteligencí, přičemž toto označení má zůstat viditelné po celou dobu konverzace. Obdobné požadavky se vztahují také na AI agenty, kteří mohou například vyřizovat objednávky nebo rezervace.
AI obrázky a deepfakes budou muset být označené
Přísnější pravidla se vztahují na obrazový a video obsah vytvořený pomocí AI. Takový obsah musí být opatřen trvalým a strojově čitelným označením. Prakticky může jít například o vodoznak přímo v grafice nebo doprovodnou informaci. Zvláštní význam má transparentnost u obsahu, který může působit jako skutečná osoba nebo skutečná událost, tedy například u deepfake materiálů.
Můj názor: Problém není samotné označení AI
Za největší problém nepovažuji samotné označení AI obsahu, ale firmy, které jej generují bez odpovědnosti a bez jakékoli lidské kontroly. Technicky přidat upozornění k chatbotu nebo označit AI obrázek není podle mě to nejtěžší. Podstatné je, aby firmy měly nastavené procesy, věděly, kde umělou inteligenci používají, a zajistily odpovědnost člověka za její výstupy. Právě u malých a středních e-shopů může být rizikem používání rychle zavedených AI nástrojů bez dostatečné dokumentace a proškolení týmu.
Důvěra bude důležitější konkurenční výhodou
Nová regulace podle článku posouvá konkurenční boj e-shopů od samotné kvality vizuálů a produktových popisků směrem k důvěře, bezpečnosti a transparentnosti nákupního procesu. Obchodníci proto potřebují nejen správně označovat AI komunikaci a obsah, ale také nastavit odpovědné používání umělé inteligence napříč firmou. Pro e-shopy, které dokážou spojit AI s transparentností a lidskou kontrolou, se tak nové povinnosti mohou stát spíše konkurenční výhodou než pouze administrativní zátěží.
