Chatboti využívající umělou inteligenci (AI) se stali běžnou součástí zákaznické podpory. S rostoucím využitím těchto systémů však vyvstává zásadní otázka: kdo nese odpovědnost, pokud chatbot poskytne chybnou informaci?
Zákazníci si zvykli na okamžité odpovědi, ať už jde o reklamace, dotazy k produktům nebo technickou pomoc. Firmy nasazují chatboty kvůli jejich dostupnosti 24/7, schopnosti rychle reagovat a výraznému snížení provozních nákladů.
Představme si situaci, kdy chatbot zamítne oprávněnou reklamaci, nesprávně informuje o vlastnostech výrobku nebo uvede zákazníka v omyl ohledně podmínek služby. V takovém případě může vzniknout škoda – finanční, reputační nebo jiná. Kdo ji má nést? Vývojář systému? Provozovatel? Nebo snad samotný chatbot?
Odpovědnost za škodu v českém právním prostředí upravuje občanský zákoník (zákon č. 89/2012 Sb.). vymezuje obecné základy odpovědnosti, jako je například porušení zákonné povinnosti, které se v tomto kontextu společně se zvláštními skutkovými podstatami nejpravděpodobněji uplatní. V kontextu AI však narážíme na nové výzvy – chatbot není právní subjekt, ale nástroj. České soudy se však dosud touto problematikou výslovně nezabývaly, a proto neexistuje judikatura, která by ji jednoznačně upravovala. Není proto jasné, jak by byla odpovědnost právně kvalifikována, a její posouzení bude vždy záviset na konkrétních okolnostech případu (např. způsobu využití systému či povaze škodné události).
Porušení zákonné povinnosti (§ 2910 OZ)
Pokud chatbot poskytne radu v rozporu s právními předpisy, může jít o porušení povinnosti odborné péče. To platí zejména tehdy, pokud je systém prezentován jako nástroj schopný kvalifikované pomoci. Otázkou zůstává, kdo je v takovém případě „škůdcem“ – provozovatel, vývojář, nebo jiný subjekt? Nejčastěji to bude právě provozovatel systému.
V praxi je však nutné prokázat zavinění, což je u autonomních systémů komplikované. Provozovatel se může bránit tím, že chyba vznikla bez jeho vědomí a že systém jednal na základě dat, která byla správně nastavena. Navíc chatbot není právním subjektem, nelze mu tedy přičítat úmysl ani nedbalost jako člověku. Vzhledem k tomu, že systémy AI mohou jednat autonomně (a často nepředvídatelně), je otázkou, zda je reálně možné (a spravedlivé) požadovat, aby provozovatel dohlížel na každou jednotlivou odpověď.
Porušení smluvní povinnosti (§ 2913 OZ)
Tento typ odpovědnosti by mohl být relevantní zejména ve vztahu mezi vývojářem systému a jeho provozovatelem. Výhodou je, že zde není nutné prokazovat zavinění – postačí samotné porušení smluvní povinnosti. Pokud tedy vývojář dodá systém, který neodpovídá sjednaným parametrům nebo selže v klíčových funkcích, může nést odpovědnost za vzniklou škodu.
Škoda způsobená pomocníkem (§ 2914 OZ)
Teoreticky by bylo možné považovat chatbota za „pomocníka“ ve smyslu zákona. Problémem je, že zákon s takovou situací nepočítá – pomocník by měl být právní subjekt, což chatbot není. Aplikace tohoto ustanovení je tedy sporná, přesto by mohla být v budoucnu předmětem právního výkladu.
Odpovědnost za škodu způsobenou věcí (§ 2936 OZ)
Pokud bychom chatboty mohli považovat za „věc“ v právním smyslu (což je též sporné), odpovědnost poté může nastat v případě, že chatbot představuje vadnou věc, jejíž selhání škodu způsobilo, tak v případě, že škodu způsobil „sám od sebe“ – tedy z důvodu své konstrukce, funkčního nastavení či algoritmického chování. Klíčové je, zda osoba odpovědná za dohled nad systémem (např. provozovatel) tuto povinnost nezanedbala. V praxi by se zkoumalo, zda byla AI správně nastavena, testována a monitorována.
Odpovědnost za škodu způsobenou vadou výrobku (§ 2939 OZ)
V případě, že by byl chatbot považován za výrobek ve smyslu § 2939 a násl. občanského zákoníku, přichází v úvahu uplatnění odpovědnosti za škodu způsobenou vadou výrobku. Pokud tedy chatbot jako systém umělé inteligence splňuje podmínky výrobku uvedeného na trh za účelem prodeje či užití, a dojde jeho prostřednictvím ke škodě, bude poškozený muset prokázat existenci vady, vznik újmy a příčinnou souvislost. Odpovědnou osobou pak může být výrobce, dovozce nebo osoba vydávající se za výrobce, přičemž odpovědnost je objektivní, s omezenými možnostmi liberace. Typickým liberačním důvodem může být například prokázání, že vada neexistovala v době uvedení systému na trh, nebo že nebyla zjistitelná s ohledem na stav vědeckých a technických znalostí. U chatbotů, které se dále učí a mění své chování i po uvedení na trh, bude právě tato otázka jedním z klíčových bodů případného sporu.
Odpovědnost za škodu způsobenou informací nebo radou (§ 2950 OZ)
Tento režim by mohl být uplatněn v případech, kdy chatbot vystupuje jménem podnikatele (např. banky nebo operátora) a poskytne zavádějící informaci, která zákazníkovi způsobí škodu. Klíčovým problémem v tomto případě by ale mohla být skutečnost, že chatbot není samostatným subjektem práva, což komplikuje otázku přičitatelnosti jeho výstupů provozovateli právě ve vztahu k tomuto ustanovení. Přesto by mohl být provozovatel odpovědný, pokud chatbot jednal v rámci jeho podnikatelské činnosti.
Zahraniční judikatura, např. případ Moffatt v. Air Canada, ukazuje, že soudy mohou přisoudit odpovědnost přímo provozovateli za výstupy chatbotů bez ohledu na jejich autonomii. V českém právním prostředí by tak mohlo být rozhodující, zda chatbot slouží jako nástroj komunikace podnikatele s veřejností, nebo zda by provozovatel prokázal, že jeho jednání nelze považovat za relevantní ve smyslu tohoto ustanovení. Klíčovým problémem při posouzení přitom může být skutečnost, že chatbot není samostatným subjektem práva, což komplikuje otázku přičitatelnosti jeho výstupů provozovateli právě ve vztahu k tomuto ustanovení.
Evropský kontext: Nařízení o umělé inteligenci
Nařízení (EU) 2024/1689 o umělé inteligenci (tzv. AI Act) představuje první komplexní právní rámec pro využívání AI v EU. Chatboti zákaznické podpory jsou v něm zařazeni mezi systémy s omezeným rizikem. Pokud jde o odpovědnost za chybný výstup chatbota, platí i na evropské úrovni, že ji zpravidla nese provozovatel webových stránek – tedy podnikatel, který AI systém nasadil a užívá ho při své činnosti. Ten by měl zajistit odpovídající dohled nad jejím fungováním, včetně pravidelného testování, dokumentace a transparentnosti.
GDPR a ochrana osobních údajů
V souvislosti s využíváním chatbotů, kteří často shromažďují a zpracovávají osobní údaje zákazníků, je nezbytné zohlednit nařízené povinnosti v oblasti ochrany osobních údajů. Tyto povinnosti vyplývají zejména z Nařízení (EU) 2016/679 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů (GDPR) a z dalších souvisejících právních předpisů. Nařízení ukládá firmám povinnost zajistit, aby jejich chatboty fungovaly v souladu se zásadami ochrany soukromí, transparentnosti a bezpečnosti. Osobní údaje uživatelů musí být zpracovávány především transparentně a vždy v souladu s platnou legislativou.
Firmy proto musí mít vypracované jasné politiky ochrany soukromí a nastavené postupy pro plnění nařízených povinností podle GDPR a dalších právních předpisů – zejména v oblastech sběru, ukládání a využívání uživatelských dat. Před nasazením chatbotů je také nutné provést analýzu rizik a zavést odpovídající technická a organizační opatření k ochraně osobních údajů.
Závěr
Chatboti využívající umělou inteligenci přinášejí firmám značné výhody, zároveň ale otevírají otázku právní odpovědnosti za škody způsobené chybnou radou či rozhodnutím systému. Český právní řád zatím nenabízí jednoznačné řešení a aplikace různých režimů odpovědnosti (např. za porušení zákonné nebo smluvní povinnosti) bude vždy záviset na konkrétních okolnostech. Evropský AI Act však směřuje k tomu, že odpovědnost zpravidla ponese podnikatel, který chatbota nasadil.
Vedle toho musí firmy respektovat i nařízené povinnosti vyplývající z GDPR a dalších právních předpisů, zejména pokud jde o zákonné, spravedlivé a transparentní zpracování osobních údajů. Klíčové je proto chápat AI jako nástroj, za jehož fungování odpovídá provozovatel. Jen tak lze zajistit, že přínosy chatbotů v zákaznické podpoře převáží nad riziky spojenými s jejich chybným fungováním.
Napsat komentář