Podvody řízené AI: Vznikající hrozby a protiopatření
Podvody řízené AI: vznikající hrozby a protiopatření
Microsoft neustále usiluje o ochranu svých platforem a zákazníků před zneužitím a podvody. Od blokování podvodníků na platformách Azure a přidávání funkcí proti podvodům do Edge, až po boj proti podvodům s technickou podporou pomocí nových funkcí v nástroji Rychlá pomoc ve Windows.
Evoluce kyberpodvodů vylepšených pomocí umělé inteligence
Umělá inteligence začala snižovat technickou bariéru pro podvodníky a kyberzločince, kteří hledají nástroje pro zvýšení své produktivity. Tento vývoj usnadňuje a zlevňuje generování věrohodného obsahu pro útoky stále rychlejším tempem. AI software využívaný při pokusech o podvod zahrnuje široké spektrum útoků, od legitimních aplikací zneužívaných pro škodlivé účely až po nástroje specificky zaměřené na podvody, které jsou používány zločinci v kybernetickém podsvětí.
AI nástroje umožňují skenování a stahování informací z webu o společnostech, což může být využito útočníky k vytváření podrobných profilů zaměstnanců nebo jiných cílů. Toto jim usnadňuje tvorbu vysoce přesvědčivých návnad pro sociální inženýrství. Někdy podvodníci lákají oběti do složitějších podvodných schémat prostřednictvím falešných recenzí produktů, které byly vytvořeny pomocí AI, a uměle generovaných výloh. Tímto způsobem podvodníci mohou vytvořit celé webové stránky a značky elektronického obchodu, včetně falešných obchodních historií a zákaznických referencí. Pachatelé hrozeb se pak snaží vypadat legitimněji ve větším měřítku tím, že používají deep fakes, klonování hlasu, phishingové e-maily a autenticky vypadající falešné webové stránky.
Podvodné útoky řízené AI probíhají globálně, přičemž velká část aktivit pochází z Číny a Evropy, konkrétně z Německa, částečně kvůli postavení Německa jako jednoho z největších trhů elektronického obchodu a online služeb v Evropské unii. Čím větší je digitální tržiště v jakémkoli regionu, tím pravděpodobnější je, že dojde k úměrnému stupni pokusů o podvod.
Podvody v E-commerce
Podvodné webové stránky elektronického obchodu lze nastavit během několika minut pomocí AI a dalších nástrojů, které vyžadují minimální technické znalosti. Dříve trvalo pachatelům hrozeb dny nebo týdny vytvořit přesvědčivé webové stránky. Tyto podvodné webové stránky často napodobují legitimní stránky, což spotřebitelům ztěžuje jejich identifikaci a vyhodnocení jako falešné.
Používání AI-generovaných popisů produktů, obrázků a zákaznických recenzí může vést k tomu, že zákazníci získají dojem interakce s pravým obchodníkem. To může ovlivnit důvěru spotřebitelů ve známé značky.
Chatboti zákaznické podpory využívající AI komunikují se zákazníky přesvědčivým způsobem. Tito boti mohou ovlivnit procesy chargebacků tím, že zdržují zákazníky pomocí připravených odpovědí a řeší stížnosti pomocí AI-generovaných odpovědí, které vytvářejí dojem profesionality webových stránek.
Jako součást multifunkčního přístupu společnost Microsoft zavádí komplexní bezpečnostní opatření napříč svými produkty a službami, aby chránila zákazníky před podvody řízenými umělou inteligencí. Microsoft Defender for Cloud nabízí komplexní ochranu proti hrozbám pro zdroje Azure, zahrnující hodnocení zranitelností a detekci hrozeb pro virtuální stroje, obrazy kontejnerů a koncové body.
Microsoft Edge nabízí ochranu proti překlepům na webových stránkách a ochranu proti zosobnění domény pomocí technologie hlubokého učení, aby uživatelům pomohl vyhnout se podvodným webovým stránkám. Edge také implementoval blokátor Scareware založený na strojovém učení, který identifikuje a blokuje potenciálně podvodné stránky a klamavé vyskakovací obrazovky s varováními, která tvrdí, že počítač byl kompromitován. Tyto útoky se zaměřují na uživatele a žádá je, aby volali na falešná čísla podpory nebo stahovali škodlivý software.
Důležitost ochrany kyberprostoru kvitují i největší světoví obchodníci a platební společnosti, jako Mastercard. „Kyberbezpečnost patří k největším globálním výzvám současnosti. Právě proto je klíčová úzká spolupráce mezi technologickými lídry, bankami a státní správou. Systémy Mastercard ročně chrání více než 143 miliard transakcí, v reálném čase analyzujeme datové toky a pomocí umělé inteligence odhalíme a zneškodníme zhruba 200 útoků každou minutu. Kromě toho poskytujeme firmám a institucím po celém světě nástroje jako RiskRecon, NuDetect nebo My Cyber Risk, které pomáhají identifikovat slabá místa dřív, než se stanou terčem útoku. Jen společně můžeme ochránit nejen finance, ale především důvěru v digitální ekonomiku,“ říká Jana Lvová, generální ředitelka společnosti Mastercard pro Českou republiku a Slovensko.
Podvody s nabídkami zaměstnání
Pokrok v generativní AI umožnil vytváření falešných nabídek na různých pracovních platformách. Vznikají falešné profily s použitím ukradených přihlašovacích údajů, falešné pracovní nabídky s automaticky generovanými popisy a AI-řízené e-mailové kampaně k phishingu uchazečů o zaměstnání. AI-řízené pohovory a automatizované e-maily zvyšují důvěryhodnost těchto podvodů, což pro uchazeče o zaměstnání ztěžuje identifikaci podvodných nabídek.
Pracovní platformy by měly zavést vícefaktorové ověřování (MFA) pro účty zaměstnavatelů, aby se snížila možnost převzetí legitimních nabídek náborářů. Měly by také používat technologie detekce podvodů k identifikaci podezřelého obsahu.
Podvodníci někdy žádají osobní údaje, jako jsou životopisy nebo údaje o bankovním účtu, pod záminkou ověření informací o žadateli. Nevyžádané SMS a e-mailové zprávy nabízející pracovní příležitosti s vysokými platy za minimální kvalifikaci mohou být indikátorem podvodu.
Pracovní nabídky, které obsahují žádosti o platbu, nabízejí podmínky příliš dobré na to, aby byly pravdivé, jsou nevyžádané nebo vyžadují pohovor prostřednictvím SMS zpráv a postrádají formální komunikační platformy, mohou být indikátorem podvodu.
