Eksplozja generatywnej sztucznej inteligencji (GAI), która w ciągu ostatnich kilkunastu miesięcy podbija niemal każdą branżę, stawia wyzwania nie tylko przed autorami, wydawcami czy artystami, ale także przed specjalistami od cyberbezpieczeństwa. Coraz bardziej zaawansowane narzędzia wykorzystywane do prowadzenia działań przestępczych stawiają nowe, trudne wyzwania przed organizacjami narażonymi na wyłudzenia i nadużycia. Sektory takie, jak bankowość, ubezpieczenia, handel i administracja rządowa muszą szybko wdrażać nowe technologie w celu ochrony własnych klientów przed działaniami grup przestępczych. 

Nic tak nie przykuwa uwagi, jak efektowne wideo. Dlatego Sora, nowy model generatywnej sztucznej inteligencji (GAI) zaprezentowany przez OpenAI, zrobił wielki szum w mediach na całym świecie. Kiedy Dall-E, Midjourney czy Stable Diffusion przekształcają komendy tekstowe w realistyczne - czy fantastyczne - obrazy, Sora na bazie poleceń użytkownika tworzy filmy, często trudne do odróżnienia od produkcji Hollywood czy filmów dokumentalnych. 

Sora nie jest jeszcze publicznie dostępna, ale demonstracja jej możliwości była przyczynkiem i do nadziej, i do obaw. Nadziei, bo model może wyzwolić pokłady kreatywności u ludzi niemających dostępu do profesjonalnych narzędzi pozwalających tworzyć filmy. Obaw, bo te same pokłady kreatywności mogą uwolnić cyberprzestępcy, wykorzystujący podobne narzędzia do oszustw na wielką skalę. 

Wykorzystywanie narzędzi typu deepfake - pozwalających na tworzenie zmanipulowanych nagrań prawdziwych ludzi - w wyłudzeniach i innych finansowych przestępstwach nie jest zjawiskiem nowym, ale zagrożenie z nich płynące narasta wraz z rosnącymi możliwościami algorytmów tworzących fałszywki. Według raportu firmy Onfido, tworzącej narzędzia do weryfikowania tożsamości, liczba prób dokonania oszustw za pomocą deepfake’ów wzrosła w 2023 r. aż o 3000 proc. w porównaniu z rokiem poprzednim. 

W jednym z najbardziej spektakularnych przypadków tego rodzaju oszustwa, o którym doniósł w styczniu dziennik South China Morning Post, oddział międzynarodowej korporacji działający w Hongkongu stracił 23,6 mln euro po tym, jak jeden z pracowników dostał polecenie dokonania przelewu od osoby podającej się za jej dyrektora finansowego. Gdy pracownik wyraził sceptycyzm, zaproszono go na wideokonferencję, w której osoba wyglądająca i brzmiąca jak CFO firmy ponowiła żądanie. Tym razem pracownik dał się przekonać i wykonał przelew. 

Zmanipulowane wideo to nie jedyne zagrożenie płynące z generatywnej sztucznej inteligencji. Wielkie modele językowe, takie jak ChatGPT czy Gemini, mogą służyć do tworzenia przekonujących, spersonalizowanych wiadomości phishingowych kierowanych do konkretnych odbiorców. „Mimo że konsumenci są czujni, przestępcy internetowi rozwijają swoją działalność z wykorzystaniem generatywnej sztucznej inteligencji i technologii deepfake” mówi Stu Bradley, wiceprezes ds. przeciwdziałania nadużyciom w SAS. “Wiadomości phishingowe stają się coraz bardziej dopracowane. Imitacje stron internetowych wyglądają łudząco podobnie do oryginałów, a aby podrobić głos konkretnej osoby, wystarczy kilka sekund nagrania audio i łatwo dostępne narzędzia online.”

Ochrona przed przed fraudami 

Ale to tylko jedna strona medalu. Bo generatywna sztuczna inteligencja może też służyć do skutecznej ochrony firm i organizacji przed fraudami. 

Badania przeprowadzone przez SAS wskazują na to, że generatywna sztuczna inteligencja może w najbliższych latach stać się kluczowym elementem zabezpieczeń przed nadużyciami finansowymi. Z przeprowadzonego przez firmę sondażu wynika, że 8 na 10 specjalistów zajmujących się zwalczaniem nadużyć finansowych zamierza wdrożyć generatywną sztuczną inteligencję przed końcem 2025 roku,  zaś trzy na pięć organizacji spodziewa się, że zwiększy swoje budżety na technologię przeciwdziałania oszustwom w ciągu w ciągu najbliższych dwóch lat. 

To ważne, bo coraz bardziej świadomi zagrożeń są sami konsumenci. Aż 9 na 10 respondentów uważa, że firmy powinny robić więcej, aby uchronić swoich klientów przed oszustwami. Ponad 70 proc. respondentów z Polski stwierdziło, że zgodziłoby się na większe opóźnienia i kontrole transakcji w zamian za lepszą ochronę. Jednocześnie, jak wskazuje niedawno opublikowane badanie SAS Faces of Fraud: Consumer Experiences With Fraud and What It Means for Business, 76 proc. Polaków co najmniej raz w 2022 r. spotkało się z próbą oszustwa. Rozpowszechnienie ataków doprowadziło do tego, że niemal 80 proc. badanych zwiększyło swoją czujność podczas dokonywania transakcji internetowych.

Szczególnie narażone na oszustwa online są zwłaszcza organizacje działające w sektorach bankowości, ubezpieczeń, telekomunikacji, handlu i administracji rządowej. To one powinny w pierwszej kolejności zainwestować w zaawansowane rozwiązania, które zwiększają bezpieczeństwo ich samych i ich klientów dzięki wykorzystaniu technik uczenia maszynowego (ML) czy generatywnej sztucznej inteligencji. Pozwalają one wyprzedzać działania cyberprzestępców i zapobiegać atakom i nadużyciom dokonywanym za pomocą wszystkich kanałów. 

Przykładem takiego rozwiązania jest platforma SAS Viya, wykorzystywana przez Departament Gospodarki stanu Goiás w Brazylii. Urząd korzysta z wykorzystującej algorytmy sztucznej inteligencji platformy w celu wykrywania firm unikających płacenia podatków w transporcie towarowym. System, analizujący dane podatkowe w czasie rzeczywistym, w ciągu miesiąca od momentu wdrożenia generował 300 alertów o możliwych niezgodnościach podatkowych. Dzięki lepszej identyfikacji nieprawidłowości - np. sfałszowanych faktur, brakujących elektronicznych poświadczeń wymaganych dla pojazdów do transportu towarów i ładunków przekraczających deklarowaną ilość – kwota nałożonych kar wzrosła o 54 proc. w porównaniu z tym samym miesiącem poprzedniego roku.

"Projekt ten znacznie zmienił wydajność operacyjną departamentu, zapewniając nam większą przejrzystość i wymierne korzyści dla społeczeństwa" - powiedziała Giovana Amorim Zanato, kierownik ds. audytu w Departamencie Gospodarki stanu Goiás. "Połączyliśmy technologię SAS z innymi rozwiązaniami w celu zapobiegania uchylaniu się od płacenia podatków i stworzyliśmy innowacyjną praktykę, która posłuży jako przykład dla innych departamentów stanowych."

To jednak zaledwie jeden ze sposobów, na jakie sztuczna inteligencja może pomóc zabezpieczać organizacje przed nadużyciami. „Przykład tego, jak szerokie zastosowanie ma sztuczna inteligencja, mogą stanowić sektory bankowości i ubezpieczeń, które zmagają się z ogromną liczbą prób wyłudzeń. Algorytmy AI pomagają oceniać okoliczności zdarzenia w przypadku likwidacji szkód, weryfikować autentyczność dokumentów i zdjęć przesyłanych przez klienta oraz generują rekomendacje działań dla osoby obsługującej proces. AI pomaga też weryfikować powiązania pomiędzy interesariuszami w transakcjach biznesowych. Wykrywanie nadużyć z pomocą AI dotyczy również procesów wewnętrznych, m.in. przy rekrutacji nowych pracowników i ocenie ich aplikacji” – mówi Marta Prus – Wójciuk, Head of Fraud Management Practice, SAS.

Po pierwsze bezpieczeństwo

Oparte na AI i ML rozwiązania wspomagające bezpieczeństwo mogą obejmować także np. analizę wizyjną, czyli tworzenie systemów, które poprzez analizę obrazu mogą wykrywać podejrzane zachowania w czasie rzeczywistym, takie jak nieautoryzowany dostęp do danych. W ochronie danych może pomóc biometria behawioralna, poprzez analizę zachowania użytkownika, w tym analizę sposobu pisania na klawiaturze, poruszania myszą czy rozpoznawanie głosu. Czy wreszcie monitorowanie transakcji w czasie rzeczywistym pod kątem podejrzanych wzorców, co pozwala na błyskawiczne reagowanie na próby oszustwa, identyfikację nieautoryzowanych transferów pieniężnych czy wykrywanie prania pieniędzy. 

Systemy oparte na sztucznej inteligencji mogą także wykorzystywać rozwiązania robotyczne - roboty zintegrowane z systemami AI mogą patrolować obiekty i monitorować ich stan, minimalizując ryzyko kradzieży, aktów wandalizmu, awarii czy wycieków. Zaawansowane algorytmy sztucznej inteligencji mogą wreszcie analizować duże ilości danych, aby przewidywać i zapobiegać cyberatakom.

Wszystko to przekłada się nie tylko na zwiększenie poziomu bezpieczeństwa, ale i na szybsze wykrywanie i reagowanie na zagrożenia, redukcję kosztów związanych z cyberatakami i zwiększenie poziomu zaufania klientów do organizacji. 

„Szybki rozwój narzędzi generatywnej sztucznej inteligencji już ułatwia oszustom i zorganizowanym grupom przestępczym omijanie tradycyjnych metod wykrywania nadużyć. Oznacza to, że organizacje stoją przed wyzwaniem zastosowania najnowszych technologii, aby to zjawisko powstrzymać. Te z nich, które sprostają oczekiwaniom klientów w zakresie bezpieczeństwa, mają największe szanse na zdobycie ich lojalności, a w efekcie budowanie przewagi konkurencyjnej. W dalszej perspektywie oznacza to generowanie wzrostów sprzedaży przy jednoczesnym ograniczeniu strat związanych z nadużyciami" stwierdza Stu Bradley z SAS.