Tváře v okolí: Pohodlí s AI nebo porušení soukromí?
Společnost Ring vlastněná Amazonem se dostala pod drobnohled kvůli své nové funkci Nedaleké tváře, která využívá umělou inteligenci k rozpoznání lidí ve vaší oblasti. I když je nabízena jako způsob, jak personalizovat oznámení a zlepšit zabezpečení domácnosti, kritici varují, že tato funkce by mohla představovat nebezpečné narušení soukromí a porušení zákonů na ochranu soukromí.
Kontroverze vypukla poté, co organizace pro digitální práva Electronic Frontier Foundation (EFF) vyvolala vážné obavy z potenciálních právních důsledků osob v okolí. Funkce funguje tak, že analyzuje rysy obličeje lidí zachycených na Ring kamerách – bez jejich vědomí nebo výslovného souhlasu. Tato praxe je v přímém rozporu s biometrickými zákony na ochranu soukromí v několika státech, včetně Illinois a Texasu, kde uživatelé musí s takovým skenováním výslovně souhlasit, než může začít.
Amazon říká, že uživatelé se mohou z funkce Nedaleké tváře odhlásit v nastavení aplikace. Tento argument však neřeší hlavní problém: jedinci náhodně zachycení prstencovou kamerou nemají možnost zvolit si skenování svého obličeje a uložení do databáze. To vyvolává důležité etické a právní otázky týkající se konceptu informovaného souhlasu v éře všudypřítomné sledovací technologie.
Senátor Ed Markey (D-MA) dále rozdmýchal debatu a poslal Amazonu dopis, v němž požadoval úplné zrušení funkce Faces Blízko, s odvoláním na možné porušení práv na soukromí nezúčastněných stran, které by mohly jednoduše projít kolem kamery Ring.
Přidáním další vrstvy do diskuse je historie Ringu se soukromím uživatelů již poznamenána řadou skandálů s vysokým profilem. V roce 2023 udělila Federální obchodní komise Ringovi pokutu více než 5 milionů dolarů za to, že umožnil zaměstnancům a dodavatelům prohlížet soukromá videa uživatelů bez řádného povolení. Incident navazuje na předchozí kritiku Ringova úzkého partnerství s orgány činnými v trestním řízení, kdy policii často poskytoval záznamy o uživatelích bez výslovného souhlasu nebo povolení.
Navzdory těmto přetrvávajícím obavám zůstává Ring neuvěřitelně populární společností, která prodává miliony svých videozvonků a bezpečnostních systémů po celé zemi. Společnost říká, že funkce jako rozpoznávání obličeje, ačkoli jsou kontroverzní, jsou atraktivní pro zákazníky, kteří hledají lepší zabezpečení domova a ochranu před zločinem.
Odpověď Amazonu na dotazy EFF zdůrazňuje jejich závislost na cloudovém zpracování pro osoby v okolí a argumentuje tím, že minimalizuje rizika pro soukromí tím, že udržuje data v bezpečí v infrastruktuře Amazonu. Znovu také potvrzují možnost uživatelů kdykoli smazat profily a související biometrické údaje. Tato ujištění však jen málo uklidňují obavy z toho, jak rozšířené používání rozpoznávání obličeje v každodenním životě nakonec ovlivní individuální autonomii a společenské normy týkající se sledování.
Tváře v okolí jsou ukázkovým příkladem složitých etických dilemat, která představují rychle se vyvíjející technologie umělé inteligence. Nutí nás to čelit důležitým otázkám: Kolik pohodlí jsme ochotni obětovat pro soukromí? Kdo nese odpovědnost, když výkonné algoritmy rozhodují o našich osobních údajích bez našeho plného vědomí nebo souhlasu? Zatímco Ring by mohl těžit ze zvýšených bezpečnostních prvků, dlouhodobé společenské důsledky takového všudypřítomného rozpoznávání obličeje zůstávají hluboce nejisté.
