Co v článku najdete
Na Hrot24 vyšel článek, který se věnuje tomu, jak evropský AI Act dopadne na e-shopy a jejich využívání umělé inteligence. Nová pravidla se týkají především transparentnosti AI, zákaznických chatbotů, virtuálních a hlasových asistentů, AI generovaného obsahu a deepfake materiálů. Zatímco po technické stránce jsou podle odborníků e-shopy většinou připravené, větší problém představuje správný výklad pravidel a orientace v nových povinnostech.
Největší problém není technologie, ale výklad
Internetové obchody podle článku většinou dokážou nové požadavky technicky implementovat. Obtížnější je určit, na které konkrétní využití AI se povinnosti vztahují a jak je správně splnit. Podle dat Eurostatu byla pro téměř 54 % podniků, které zvažovaly zavedení AI, překážkou nejasnost právních důsledků. Dalších 53 % mělo obavy z porušení pravidel ochrany osobních údajů a soukromí.
Pokuty mohou dosáhnout milionů eur
AI Act přináší firmám také významné finanční riziko. Za porušení pravidel mohou hrozit pokuty až 15 milionů eur, tedy více než 360 milionů korun, případně až 3 % celosvětového obratu firmy. Pro běžného zákazníka by se přitom podle odborníků neměl provoz e-shopů výrazně změnit. Změny se mají projevit především v transparentnějším informování o tom, kdy zákazník komunikuje s AI a kdy sleduje obsah vytvořený umělou inteligencí.
Můj názor: firmy musí vědět, kde AI používají
Firmy by už nyní měly přesně vědět, kde a jak AI obsah používají, kdo jej před zveřejněním kontroluje a ve kterých situacích jej musí označit. Nestačí pouze technicky přidat upozornění k chatbotu nebo AI obrázku. Podstatné je mít ve firmě jasno v tom, jaké AI nástroje používáme, kdo za jejich výstupy odpovídá a jak probíhá lidská kontrola před publikací. Právě systematický přístup může firmám pomoci vyhnout se problémům při praktickém uplatňování nových pravidel.
Chatbot musí přiznat, že je AI
U chatbotů a virtuálních asistentů je klíčová transparentnost přímo během komunikace. Zákazník musí hned na začátku vědět, že komunikuje s umělou inteligencí, a toto označení musí zůstat viditelné po celou dobu konverzace. Podobný princip se vztahuje také na AI agenty, kteří mohou za e-shop například vyřizovat objednávky nebo rezervace. Jiný způsob označení je potřeba u obrázků a videí vytvořených AI.
AI obsah musí být označený a dohledatelný
U AI generovaných obrázků a videí se požaduje trvalé a strojově čitelné označení samotného výstupu. V praxi může jít například o vodoznak přímo v grafice nebo doprovodnou textovou informaci u publikovaného obsahu. Význam má označení zejména u materiálů, které mohou působit jako skutečné události nebo osoby, tedy například u deepfake obsahu. Pro e-shopy to znamená potřebu mít přehled nejen o používaných nástrojích, ale také o tom, jakým způsobem jejich výstupy publikují.
Největší riziko: AI bez odpovědnosti a kontroly
Nová pravidla mohou být nejnáročnější pro malé a střední e-shopy a také pro firmy, které AI zavedly postupně a bez centrální evidence, dokumentace nebo proškolení zaměstnanců. Právě nekontrolované používání AI může být větším problémem než samotné technické označení obsahu. Největší problém nebude samotné označení, ale firmy, které generují obsah bez odpovědnosti a bez lidské kontroly. V prostředí e-commerce se tak bude stále více prosazovat důvěra, kvalitní zákaznický servis a bezpečnost nákupního procesu jako konkurenční výhoda.
