– To, co robi algorytm, musi przynosić wymierne korzyści biznesowe, a AI governance to m.in. nadzór nad tym, jak AI wykorzystuje dane i podejmuje decyzje – mówi Marcin Hadyś, Head of Sales w SAS Polska.

Marcin Hadyś od początku swojej kariery zawodowej był związany z sektorem finansowym, pracując zarówno w firmach konsultingowych, jak i po stronie biznesu. Obecnie nadzoruje sprzedaż rozwiązań SAS w Polsce, skupiając się na generowaniu wartości biznesowej dla klientów.

Dopiero co przeciętny przedsiębiorca zapoznał się z terminem data governance i pojął jego znaczenie, pojawił się nowy termin – AI governance. Co to takiego?

Marcin Hadyś: Otrzymujemy takie pytania od klientów. Mówią nam często, że przecież ich organizacje są już data driven, mają wdrożone data governance albo data strategy, więc po co im coś więcej. Tymczasem o ile AI governance ma części wspólne z data governance, o tyle zakresy znaczeniowe tych pojęć i ich obszary nie pokrywają się. Bo jeśli w przypadku data governance koncentrujemy się na danych, ich źródłach, pochodzeniu, kompletności, jakości itd. – bo bez danych i ich odpowiedniego przygotowania w ogóle nie może być mowy o AI w organizacji – to zagadnienie AI governance jest bardziej wielowymiarowe. Dotyczy ono np. tego, czy w ogóle chcemy część decyzji – których podejmowanie może być zautomatyzowane, bo jest powtarzalne – scedować na tzw. maszynę, a jeśli tak, to jakie to mają być decyzje. Jeśli chcemy wykorzystać w ten sposób AI, powinniśmy wiedzieć, w oparciu o co nasz algorytm podejmuje te decyzje i dlaczego wyniki są takie, a nie inne. Idąc dalej trzeba także wskazać, kto z pracowników ostatecznie ponosi odpowiedzialność za decyzje podejmowane przez sztuczną inteligencję. Ponadto to, co robi algorytm, musi przynosić wymierne korzyści biznesowe, a AI governance to m.in. nadzór nad tym, jak AI wykorzystuje dane i podejmuje decyzje, co zapewnia, że jej działania są zgodne z oczekiwaniami i wartościami firmy.

Jakie zatem wymieniłbyś kluczowe zasady efektywnego i odpowiedzialnego zarządzania AI?

Myślę, że kluczową zasadą jest tu skoncentrowanie się na celu biznesowym podejmowanych działań. W SAS bardzo mocno skupiamy się właśnie na kontekście biznesowym tego, co proponujemy klientom. Nie chodzi przecież o analizowanie danych dla samego analizowania, ale o to, by przynieść firmie wymierną wartość, wymierną korzyść. To jest podstawa, którą zdarza się organizacjom „gubić” w tej całej modzie na AI. Aby sztuczna inteligencja przyniosła korzyści, musi działać w oparciu o zasady, założenia, dzięki którym da się zweryfikować, czy efekty jej działania są zgodne z oczekiwaniami. I to jest właśnie AI governance. To zapewnia transparentność podejmowanych decyzji. Oczywiście odpowiadam na to pytanie w ogromnym skrócie i uproszczeniu, bo należy tu uwzględnić wiele innych obszarów, w tym często omijane budowanie kultury organizacyjnej, wspierającej wykorzystanie AI.

Jakie są najczęstsze wyzwania, z którymi spotykają się firmy w zakresie AI governance i jak SAS pomaga je przezwyciężyć?

Sztuczna inteligencja sama w sobie jest wyzwaniem. Nie ma bowiem jednego rozwiązania, które przyniosłoby prostą odpowiedź, „ile AI” potrzebuje dana organizacja. To jest zawsze kwestia do zdefiniowania przez każdą firmę. I dlatego naszym klientom przypominamy zarówno o tym, że to od nich zależy, które zadania zamierzają powierzyć AI, jak i to, że za każdą decyzją, którą podejmuje maszyna, musi stać człowiek. To on musi brać pod uwagę, czy warunki zewnętrzne, w ramach których algorytm podejmuje decyzje, nie uległy zmianie. To bardzo ważny obszar AI governance. Chodzi tu nie tylko o samo wdrożenie rozwiązania, ale także o jego utrzymanie i monitorowanie, czyli zapewnienie zgodności z rzeczywistością, która zmienia się w czasie. Tu trzeba stale trzymać rękę na pulsie, bo od tego zależy skuteczność decyzji biznesowych, podejmowanych przez firmę.

Wyzwaniem dla wielu branż, np. bankowości, finansów czy ubezpieczeń, jest wytłumaczalność decyzji, które podjęła sztuczna inteligencja. Tu przechodzimy na trochę inny poziom rozmowy, bo znów różne branże i różne firmy będą potrzebować różnego poziomu tejże wytłumaczalności. W świecie finansów akurat ten aspekt jest niezwykle ważny, by zminimalizować ryzyko niewłaściwych decyzji i spełnić wymagania regulacyjne oraz ograniczyć dyskryminowanie określonych osób czy cech, jeśli akurat one mogą wpływać na podejmowaną przez instytucję finansową decyzję (np. udzielenie lub nie kredytu). W DNA naszych rozwiązań zapewniona jest ta wytłumaczalność – nigdy nie oferujemy firmom tzw. black boxa, który wypluwa wyniki bez możliwości nadzoru nad tym, co się dzieje w całym procesie.

Podczas naszych rozmów z klientami, wobec swoistego hype’u na GenAI, często musimy także tłumaczyć, że nie chodzi o to, by w organizacji tworzyć jakieś nowe procesy biznesowe, które wykonywać będzie sztuczna inteligencja. Skuteczne wykorzystanie AI to jej implementacja w tych procesach, które już mają miejsce w firmie. Takie pragmatyczne podejście często też jest wyzwaniem. Organizacje muszą iść dziś w stronę poszukiwania tych obszarów, w których AI może udoskonalić obecne procesy, co pozwoli osadzić narzędzia AI w biznesowym kontekście.

Czyli AI ma być dopełnieniem do tego, co dzieje się w firmie?

Dopełnieniem, uzupełnieniem, a następnie rozwinięciem. Pojmuję AI jako technologię wspierającą podejmowanie decyzji biznesowych, a generatywną sztuczną inteligencję jako dodatek do tradycyjnych rozwiązań AI w biznesie. To się wszystko musi łączyć. Wspólnym mianownikiem wszystkich zastosowań sztucznej inteligencji powinna być potrzeba biznesowa. Nie ma sensu szukanie use case’ów na siłę tylko po to, by pochwalić się wdrożeniem.

Jakie są różnice między różnymi dostawcami technologii AI i na co zwracać uwagę przy wyborze odpowiedniego partnera technologicznego?

MH: Myślę, że przede wszystkim trzeba tu zwrócić uwagę na to, że na rynku funkcjonują zarówno rozwiązania open source, jak i rozwiązania komercyjne. Te pierwsze wydają się bardziej atrakcyjne, gdyż przez wiele osób postrzegane są jako coś dostępnego „za darmo”. W końcu można je samemu dostosowywać do swoich biznesowych potrzeb. To prawda, tylko trzeba mieć umiejętność kodowania. Może to być właściwym podejściu dla niewielkich organizacji i procesów biznesowych w ograniczonym zakresie wspieranych analityką. Żeby to się powiodło w skali dużej firmy, to umiejętność taką posiadać musi wiele osób – programiści są wtedy potrzebni w każdej komórce albo niezbędny jest hub zrzeszający programistów w ramach całego przedsiębiorstwa. To rodzi zaś wyzwania w postaci kosztów, z których nie wszyscy zdają sobie sprawę, oraz w postaci konieczności przyciągnięcia ludzi z odpowiednimi umiejętnościami. Trzeba mieć to na uwadze, decydując się na tego typu inwestycję i przemyśleć, czy nie lepiej zdecydować się na rozwiązanie, które można dostosować do swoich potrzeb biznesowych nawet wtedy, gdy się nie jest programistą. Tak działa np. SAS Viya, czyli nasza platforma AI, która stanowi odpowiedź zarówno na potrzeby osób potrafiących kodować, jak i tych, które takich umiejętności nie posiadają.

Ponadto ważne jest, aby wybrać dostawcę, który oferuje nie tylko technologię, ale także wsparcie w jej efektywnym wdrażaniu i zarządzaniu nią. Tak właśnie działamy w SAS. Z jednej strony wiemy, co może dziś zaoferować technologia, z drugiej, dzięki bogatemu doświadczeniu w działaniach z biznesem rozumiemy, czego potrzebują firmy. Jesteśmy wiec niejako naturalnie podmiotem, który oba te obszary jest w stanie połączyć i pomóc firmom w osiągnięciu korzyści biznesowej, którą ma przynieść AI.

Czy możesz wskazać takie branże, w których dziś bez AI trudno jest funkcjonować?

Pierwsza, która przychodzi mi na myśl, to branża ubezpieczeniowa. Dziś funkcjonowanie w tym sektorze bez rozwiązania antyfraudowego, wspieranego właśnie analityką i AI, jest niemożliwe. Bo sytuacja, w której firma nie skorzysta z tego typu zabezpieczeń, nie oznacza tylko zwiększonego ryzyka. Oszuści bardzo szybko odkryją brak takich rozwiązań, co spowoduje, że ubezpieczyciel zacznie w mgnieniu oka przyciągać ich do swojej oferty. W efekcie będzie po prostu tracić kapitał i zakończy działalność na skutek braku płynności finansowej. Poza ubezpieczeniami można wspomnieć oczywiście bankowość, telekomunikację, ale także w coraz większym zakresie sektor usług publicznych.

Wyniki badania przeprowadzonego przez Coleman Parkes Research na zlecenie SAS pokazują, że 48% przedsiębiorstw w Polsce wykorzystuje generatywną sztuczną inteligencję, a 46% planuje to zrobić w ciągu najbliższych dwóch lat. Na czele tego zestawienia znalazły się Chiny, gdzie 83% firm zadeklarowało, że korzysta z GenAI, następnie Wielka Brytania – 70% i USA 65%. Jak oceniasz potencjał generatywnej sztucznej inteligencji? Czy zmieni ona sposób funkcjonowania branż w najbliższym czasie?

Tu wszystko zależy od naszego zrozumienia GenAI i umiejętności jej wykorzystania. Jeśli myśląc o tej technologii poprzestaniemy np. na ChatGPT – który jest jedną z dostępnych technologii – i wykorzystaniu go do tworzenia slajdów, pisania maili czy streszczania artykułów, to wejdziemy w ślepą uliczkę. Dlatego musimy sobie uświadomić, że GenAI jest technologią, która bardzo skutecznie usprawnia procesy biznesowe, i nauczyć się ją wykorzystywać. W SAS modele językowe wykorzystujemy np. do tego, by osoba, która nie ma kompetencji programisty, a nawet nie bardzo ma wiedzę o dostępnych danych, mogła przedstawić swoją potrzebę w języku naturalnym, a jej zapytanie było zrozumiane przez AI tak samo, jak kogoś innego, kto innymi słowami opisuje ten sam problem. To tylko jeden drobny przykład wykorzystania GenAI. Po swoistym „hype na GenAI” przyszedł już czas na zastanowienie się, jakie realne korzyści biznesowe może przynieść ta technologia. A jest tego bardzo dużo, przy czym trzeba także pamiętać o ryzykach, które niesie za sobą wdrożenie GenAI bez nadzoru.

Na koniec chciałem zapytać, jak oceniasz stopień adopcji AI i GenAI na polskim rynku? Które obszary lub branże się wyróżniają, a które zostają w tyle?

Wszystko zależy od punktu widzenia. Oczywiście w tym względnie przodują rynki azjatyckie. Niemniej Polska jest bardzo wysoko w tym zestawieniu. A jeśli chodzi o adopcję AI w takich sektorach, jak bankowość i ubezpieczenia, to uważam, że jesteśmy w awangardzie. Za to mam wrażenie, że sektor publiczny mógłby zwiększyć zakres zastosowań sztucznej inteligencji. Widzimy duży potencjał w tym obszarze, który jeszcze nie jest w pełni wykorzystany.