Kontrolní psi umělé inteligence: Uvnitř vysoce rizikového světa odhalování podvodů

Jsou dvě hodiny ráno v řídicím centru kybernetické bezpečnosti společnosti Western Union a Maya Patelová se zdá, že už hodiny ani nemrkla. Systém detekce podvodů s umělou inteligencí společnosti právě zaznamenal tři neobvyklé transakční vzorce. Záplavu převodů peněz z účtů v Nebrasce na Ukrajinu, všechny těsně pod prahem pro hlášení. Příliš podobné na to, aby to byla náhoda, příliš dokonalé na to, aby to byla náhoda.
„Tohle je tento týden potřetí,“ mumlá Maya a s nacvičenou přesností ťuká do klávesnice. Za ní obrovské obrazovky zobrazují barevné vizualizace globálních transakčních toků. Její asistent s umělou inteligencí již sestavil zprávu a červeně zvýraznil podezřelé vzorce. Před lety by to týmu analytiků trvalo několik dní, než by to odhalil. Teď se to děje během několika sekund.

Jsme svědky tiché války – která se nevede zbraněmi a bombami, ale algoritmy a daty. Vzhledem k tomu, že se digitální transakce staly páteří naší ekonomiky, finanční podvody se vyvinuly z hrubých podvodů v sofistikované útoky organizované mezinárodními zločineckými syndikáty a státem sponzorovanými hackery. Jen v roce 2023 podvody stály globální ekonomiku přes 5,5 bilionu dolarů. Bojiště je všude: transakce kreditními kartami, žádosti o půjčky, pojistné události a stále častěji i kryptoměnové burzy. „Většina lidí si neuvědomuje, že jsou chráněni umělou inteligencí pokaždé, když přejedou kartou,“ říká Dr. Raj Sharma, hlavní datový vědec ve společnosti Mastercard. „Systémy, které jsme vytvořili, analyzují ročně přes 75 miliard transakcí a ve zlomku vteřiny rozhodují, zda je schválí nebo zamítnou. A každý den jsou chytřejší.“ Sedím v technologickém centru Mastercard v New Yorku, kde mi Dr. Sharma ukazuje vizualizace jejich neuronových sítí v práci. Displeje mi připomínají souhvězdí, kde se jasné uzly rozsvěcují, jak se z moře dat vynořují vzory.

Tradiční detekce podvodů se spoléhala na striktní pravidla: pokud transakce splňuje určitá kritéria, označí ji ke kontrole. Sofistikovaní podvodníci se však rychle naučili tyto systémy obcházet. „Pravidla jsou jako zámky,“ vysvětluje Sarah Chenová, bývalá specialistka FBI na kyberkriminalitu, která nyní vede vlastní bezpečnostní poradenskou společnost. „Jakmile někdo zjistí, jak fungují, může je otevřít. Potřebovali jsme zámek, který neustále mění svůj mechanismus.“ A tady nastupuje strojové učení. Moderní systémy umělé inteligence se místo dodržování explicitních pravidel učí z historických vzorců a identifikují jemné korelace, které by lidští analytici mohli přehlédnout. V sídle platební společnosti Stripe v San Franciscu mi ukazují ukázku jejich systému pro detekci podvodů. Tým mu zadává sérii transakcí, některé legitimní, některé podvodné. Umělá inteligence nejenže rozpoznává zjevné varovné signály – všímá si, že podvodné transakce často pocházejí z účtů vytvořených o víkendech nebo mají tendenci mít mírně odlišné vzorce psaní při zadávání informací. „Lidé jsou tvorové zvyku,“ říká Miguel Gonzalez, ředitel pro rizika ve společnosti Stripe. „I ti nejopatrnější podvodníci zanechávají vzorce. Naše systémy dokáží detekovat rytmus stisknutí kláves, pohyby myši a dokonce i způsob, jakým se někdo pohybuje na webových stránkách. Tyto behaviorální biometrie je téměř nemožné dokonale napodobit.“

Navzdory technologickému zázraku zůstává lidská odbornost klíčová. V centru pro řízení rizik Paypalu v Omaze analytici kontrolují případy označené systémy umělé inteligence a poskytují zpětnou vazbu, která pomáhá algoritmům zlepšovat se.
„Umělá inteligence je naší první linií obrany, ale není neomylná,“ říká Jennifer Wu, hlavní analytička podvodů. „Někdy legitimní transakce vypadají podezřele a někdy je podvod tak nový, že systém nic podobného ještě neviděl. V těchto okrajových případech potřebujeme lidský úsudek, abychom učinili konečné rozhodnutí.“
Tento hybridní přístup – kombinující výpočetní výkon umělé inteligence s lidskou intuicí – se ukázal jako pozoruhodně efektivní. Společnost Visa uvádí, že jejich systém pro detekci podvodů s využitím umělé inteligence pomohl zabránit pokusům o podvod v odhadované hodnotě 25 miliard dolarů jen v loňském roce.

S tím, jak se detekční systémy stávají sofistikovanějšími, rostou i útoky. Podvodníci nyní sami využívají umělou inteligenci, vytvářejí deepfakey, aby obešli systémy hlasové autentizace, nebo generují syntetické identity, které mohou projít ověřovacími kontrolami.
„Je to závod ve zbrojení,“ povzdechne si Dr. Emily Rosenbergová, výzkumnice kybernetické bezpečnosti na MIT. „Pokaždé, když vyvineme lepší obranu, vyvine i ona lepší útoky. Výhodou je, že obranná umělá inteligence se může učit z milionů legitimních transakcí, zatímco podvodníci mají k dispozici omezená data.“ Sleduji, jak předvádí nový typ útoku – generativní adversarial network (GAN), která vytváří fiktivní, ale věrohodné vzorce používání kreditních karet. Systém je až děsivě efektivní, ale v moderních detekčních systémech stále spustí určité alarmy.

Techniky, které byly poprvé použity v odhalování finančních podvodů, se nyní uplatňují napříč odvětvími. Pojišťovny používají podobné systémy umělé inteligence k označování podezřelých nároků. Platformy elektronického obchodování je využívají k odhalování falešných recenzí a padělaných produktů. Vládní agentury je používají k identifikaci daňových úniků a podvodů s dávkami. U poskytovatele zdravotního pojištění Anthem systémy umělé inteligence denně skenují miliony nároků a hledají vzorce, které by mohly naznačovat podvodné fakturační praktiky poskytovatelů zdravotní péče. „Podvody ve zdravotní péči stojí americké daňové poplatníky ročně přibližně 300 miliard dolarů,“ říká mi Dr. Marcus Johnson, hlavní analytik společnosti Anthem. „Naše systémy pomohly identifikovat několik organizovaných podvodných skupin působících v různých státech. V jednom případě jsme našli síť klinik, které fakturovaly zákroky, které nikdy nebyly provedeny, což by mohlo ušetřit stovky milionů na podvodných nárokech.“

Účinnost těchto systémů s sebou nese ožehavé otázky týkající se soukromí. Více dat znamená lepší odhalování podvodů, ale také větší potenciál pro zneužití.
„Mezi bezpečností a soukromím vždy existuje napětí,“ přiznává Elena Vasilievová, obhájkyně soukromí, která dříve pracovala na systémech pro odhalování podvodů ve společnosti American Express. „Stejné techniky, které dokáží odhalit podvody, lze použít i pro sledování. Musíme být opatrní, kolik informací shromažďujeme a jak je používáme.“ Některé společnosti zkoumají techniky, jako je federované učení, které umožňuje trénovat modely umělé inteligence napříč více zdroji dat bez centralizace citlivých informací. Jiné investují do homomorfního šifrování, které umožňuje analýzu šifrovaných dat bez jejich předchozího dešifrování.

Když za úsvitu opouštím velitelské centrum Western Union, Maya Patelová úspěšně zablokovala podezřelé transakce a podala hlášení jednotce FBI pro kyberkriminalitu. Systém již aktualizoval své modely, aby rozpoznal tento konkrétní vzorec podvodu. Další hranicí v odhalování podvodů jsou kvantové výpočty a vysvětlitelná umělá inteligence – systémy, které dokáží nejen odhalit podvody, ale také jasně vysvětlit, proč konkrétní transakci označily. Tato transparentnost bude klíčová, jakmile se zpřísní předpisy týkající se rozhodování s využitím umělé inteligence. „Před deseti lety jsme doháněli zameškané,“ říká mi Maya, když jdeme k výtahu. „Teď se začínáme dostávat před podvodníky. Ale není to bitva, kterou bychom někdy úplně vyhráli. Dokud se dají vydělat peníze, lidé se budou snažit systém obelstít.“ Odmlčí se a dodá: „Dobrou zprávou je, že naše nástroje se každým dnem zlepšují. A na rozdíl od podvodníků můžeme sdílet informace napříč celým odvětvím. Každý útok nás všechny posiluje.“ S tím, jak digitální transakce nadále rostou v objemu a složitosti, bude tento neviditelný štít ochrany umělé inteligence jen nabývat na významu. Až vám příště společnost vydávající vaši kreditní kartu pošle SMS s ověřením neobvyklého nákupu, pamatujte: je to jen viditelná špička technologického ledovce, která tiše chrání vaše finance nepřetržitě. Udělají systémy detekce podvodů s umělou inteligencí nakonec z finančních podvodů minulost? Nebo budeme navždy uvězněni v této digitální hře na kočku a myš se stále sofistikovanějšími útoky a obranou? Jedna věc je jistá – budoucnost finanční bezpečnosti bude utvářena stejně tak řádky kódu jako lidmi, kteří je píší.