Hackeři kradou i výpočetní výkon umělé inteligence

„Generativní umělá inteligence se rychle stává jedním z nejvýnosnějších způsobů využití odcizených přihlašovacích údajů do cloudu. Útočníci již nemusí spouštět těžbu kryptoměn ani sbírat data, aby mohli zpeněžit kompromitovaný klíč pro správu identit a přístupů (IAM). Místo toho mohou zneužít přístup k legitimním cloudovým AI službám a pomocí účtu oběti spotřebovávat nákladné zdroje umělé inteligence nebo tento přístup případně dále prodávat třetím osobám,“ říká Ondřej Šťáhlavský, regionální senior ředitel společnosti Fortinet pro střední a východní Evropu.

Podle analýzy Fortinetu se LLMjacking týká krádeže a zneužití přístupu k hostovaným AI modelům, nikoli například krádeže trénovacích dat. Cíl útočníka je jednoduchý: donutit cizí cloudový účet zaplatit za drahé použití vysoce výkonného modelu – který buď využije sám, nebo jeho výkon přeprodá dále.

Podle Fortinetu je několik důvodů, proč je tato forma útoku pro kyberzločince tak atraktivní – především náklady na nástroje jsou u tohoto typu útoku nízké, a přitom výnos je pak vysoký. Stačí funkční cloudová identita – obvykle uniklý přístupový klíč, nebo odcizené lokální přihlašovací údaje. Jakmile je cloudová identita odhalena, útočníci jednají v řádu minut, nikoli dnů. Využívání prémiových modelů ve velkém měřítku přitom není levné – podle výzkumu LLMjackingu se škoda pro oběť pohybuje například v případě využití Claude 3 Opus přes 100 000 dolarů denně.

Výzkumníci FortiGuard Labs analyzovali konkrétní incident, při kterém byl zneužit dlouhotrvající přístupový klíč AWS IAM s administrátorskými oprávněními. S jeho pomocí útočník postupoval ve třech krocích – vytvořil nového uživatele IAM, přihlásil ho k odběru jednoho nebo více základních modelů přes AWS Marketplace a spustil odebrané modely, čímž na účtu oběti vygeneroval poplatky za jejich využití.

„Protože LLMjacking využívá platné přihlašovací údaje a legitimní cloudové služby, vyžaduje účinná prevence a detekce silné ověření identity, důkladné protokolování a kontextovou analýzu,“ uzavírá Ondřej Šťáhlavský z Fortinetu.