Posiedzenie komitetu zmian w średnim banku. Na stole leżą trzy wnioski o budżet na uczenie maszynowe. Departament ryzyka chce zastąpić regresję logistyczną w scoringu kredytów gotówkowych modelem gradient boosting, bo na danych historycznych ma lepszą moc dyskryminacyjną. Departament bezpieczeństwa chce modelu, który oceni każdy przelew natychmiastowy, zanim wyjdzie z banku. Bankowość detaliczna chce asystenta w aplikacji mobilnej, który odciąży infolinię. Każdy wniosek obiecuje efekt w milionach złotych. Budżet i ludzie od danych wystarczą na jeden w tym roku.

Dyrektor IT zwykle wybiera ten z największą obiecaną korzyścią. To najczęściej scoring kredytowy, bo każdy punkt mocy dyskryminacyjnej przekłada się na straty kredytowe albo na sprzedaż. Rok później model nadal czeka na walidację, dział compliance pyta o wyjaśnienia dla odrzuconych klientów, a ktoś z audytu wewnętrznego dopytuje, czy zmiana kolejności klientów w portfelu nie jest istotną zmianą modelu.

Ten artykuł jest dla CIO banków i osób, które przygotowują dla nich takie decyzje. Pokazuje, które zastosowania uczenia maszynowego w bankowości mają mierzalny efekt i jakie wymagania nadzorcze każde z nich uruchamia. Teza może wydać się sprzeczna z intuicją: kolejność wdrożeń ML w banku powinna wynikać z kosztu nadzoru i z tego, jak szybko da się zmierzyć efekt, a nie z wielkości obiecanej korzyści. Scoring kredytowy często daje najwięcej, ale jest złym pierwszym projektem. Lepiej zacząć od wykrywania nadużyć, zbudować na nim zarządzanie ryzykiem modeli, a dopiero potem wejść w decyzje o kliencie.

Dlaczego pytanie „gdzie użyć ML w banku” zadaje się zwykle w złej kolejności?

Bo porównuje się przypadki użycia po stronie korzyści, a koszt liczy się jako koszt zbudowania modelu. W banku zbudowanie modelu to mniejsza część pracy. Większą jest wszystko, co musi powstać wokół niego: walidacja przez niezależną funkcję, dokumentacja, monitorowanie, ścieżka wyjaśnienia decyzji dla klienta, procedura zmiany modelu i odpowiedzi dla nadzorcy. Te koszty różnią się między przypadkami użycia znacznie bardziej niż koszt samego trenowania.

Weźmy dwa modele o podobnej złożoności technicznej. Pierwszy ocenia ryzyko oszustwa w przelewie i podnosi alert dla analityka. Jeśli się pomyli, analityk traci kilka minut albo klient dostaje dodatkowe pytanie przy autoryzacji. Drugi ocenia zdolność kredytową i odrzuca wniosek. Jeśli się pomyli, bank odmawia kredytu konkretnej osobie, która ma prawo zapytać dlaczego, a nadzorca ma prawo sprawdzić, czy model nie dyskryminuje. Ten sam algorytm, zupełnie inny koszt otoczenia.

Drugi wymiar to czas do pomiaru. Model antyfraudowy dostaje informację zwrotną w ciągu dni: transakcja okazała się oszustwem albo nie. Model scoringowy dostaje ją po miesiącach, bo niewypłacalność ujawnia się z opóźnieniem. Jeśli bank zaczyna od projektu, którego efekt zobaczy za półtora roku, przez półtora roku nie wie, czy jego proces ML w ogóle działa.

Dlatego proponuję prostą macierz. Na jednej osi koszt nadzoru (od niskiego, gdy model wspiera człowieka w zadaniu operacyjnym, do wysokiego, gdy model decyduje o kliencie albo o kapitale). Na drugiej czas do wiarygodnego pomiaru efektu. Pierwszy projekt wybiera się z ćwiartki „niski koszt nadzoru, krótki czas pomiaru”, nawet jeśli obiecuje mniej. Jego prawdziwym produktem jest nie tylko model, ale zbudowana przy nim maszyneria: inwentarz modeli, proces walidacji, monitorowanie. Kolejne projekty korzystają z niej i stają się tańsze.

To nie jest argument przeciwko scoringowi kredytowemu. To argument za tym, żeby scoring wszedł do banku, który już umie nadzorować modele, a nie był projektem, na którym bank się tego uczy.

Gdzie banki faktycznie używają uczenia maszynowego według nadzorców?

Zanim wybierzesz przypadek użycia, warto zobaczyć, co mówią dane, a nie prezentacje dostawców. Europejski Urząd Nadzoru Bankowego w raporcie uzupełniającym o uczeniu maszynowym w modelach IRB (EBA/REP/2023/28, sierpień 2023) podsumował, powołując się na swój kwestionariusz oceny ryzyka z jesieni 2022 roku, że głównymi obszarami zastosowania ML w sektorze bankowym są wykrywanie nadużyć, przeciwdziałanie praniu pieniędzy i finansowaniu terroryzmu, profilowanie i grupowanie klientów oraz transakcji, a także monitorowanie płatności w czasie rzeczywistym. W ryzyku kredytowym banki z UE stosują ML głównie w ocenie zdolności kredytowej i scoringu przy udzielaniu kredytu.

Ten sam raport pokazuje, czego banki z ML jeszcze nie robią na dużą skalę. W modelach wewnętrznych do wyliczania wymogów kapitałowych większość instytucji nadal używa wariantów regresji, a drzewa decyzyjne, lasy losowe i inne techniki ML stosuje mniejsza grupa. EBA wskazuje, że wynika to częściowo z wątpliwości, czy takie modele spełnią wymogi regulacyjne dla metody IRB. Warto pamiętać o skali badania: urząd dostał 14 odpowiedzi na konsultację i sam zastrzega, że wnioski trzeba traktować ostrożnie.

Szerszy obraz daje badanie Banku Anglii i brytyjskiego FCA z 21 listopada 2024 roku, w którym wzięło udział 118 firm finansowych. 75% z nich używało już AI, wobec 58% w 2022 roku, a kolejne 10% planowało to w ciągu trzech lat. 55% przypadków użycia zawierało jakiś stopień zautomatyzowanego podejmowania decyzji, ale tylko 2% było w pełni autonomicznych. Jedna trzecia przypadków użycia była wdrożeniem rozwiązania zewnętrznego dostawcy, wobec 17% dwa lata wcześniej. I najważniejsza liczba dla CIO: 46% firm deklarowało jedynie częściowe zrozumienie technologii AI, których używa, a 34% pełne.

Co z tego wynika? Po pierwsze, ML w bankach nie jest eksperymentem, tylko codziennością w obszarach operacyjnych. Po drugie, w pełni autonomiczne decyzje są rzadkością: model zwykle podpowiada, a człowiek albo reguła decyduje. Po trzecie, rośnie udział modeli kupionych od dostawców, a z nim problem, który nadzorcy podnoszą od lat: bank odpowiada za model, którego kodu i danych treningowych często nie widzi. Do tego wątku wrócę przy zarządzaniu ryzykiem modeli.

Dlaczego wykrywanie nadużyć to najlepszy pierwszy przypadek użycia?

Bo spełnia trzy warunki naraz: problem jest duży i policzalny, informacja zwrotna przychodzi szybko, a model może działać jako ranking dla człowieka, zamiast podejmować decyzję o kliencie.

Skala jest udokumentowana. Wspólny raport EBA i Europejskiego Banku Centralnego o oszustwach płatniczych z sierpnia 2024 roku podaje, że wartość oszustw płatniczych zgłoszonych w Europejskim Obszarze Gospodarczym wyniosła 4,3 mld euro w 2022 roku i 2,0 mld euro w pierwszej połowie 2023 roku. W tym półroczu oszukańcze polecenia przelewu wysłane przez dostawców z UE i EOG miały wartość 1,131 mld euro, a oszustwa kartami wydanymi w UE i EOG 633 mln euro. Najwyższą stopę oszustw miały płatności kartowe: 0,031% wartości.

Ważniejsze od sumy są dwa szczegóły z tego raportu. Ponad połowa wartości oszukańczych przelewów wynikała z manipulacji płatnikiem, czyli sytuacji, w której klient sam autoryzuje przelew na rachunek oszusta. Silne uwierzytelnianie klienta takiego oszustwa nie zatrzyma, bo uwierzytelnia się prawdziwy klient. Po drugie, przy przelewach to użytkownicy ponieśli ponad 80% strat z oszustw. To jest dokładnie ta luka, w której model behawioralny ma przewagę nad regułą: rozpoznaje, że ten klient nigdy nie wysyłał takiej kwoty o tej porze na nowy rachunek, i to w czasie, gdy przelew natychmiastowy jeszcze nie wyszedł.

Presja czasu rośnie. Rozporządzenie o płatnościach natychmiastowych zobowiązało dostawców w państwach strefy euro do wysyłania przelewów natychmiastowych w euro i do weryfikacji odbiorcy od 9 października 2025 roku. Przy płatności rozliczanej w kilka sekund nie ma czasu na ręczny przegląd, więc ocena ryzyka musi zapaść automatycznie, a model ma milisekundy, nie godziny.

Jest też argument regulacyjny, który rzadko pada na komitetach. Załącznik III pkt 5 lit. b AI Act, który klasyfikuje ocenę zdolności kredytowej jako system wysokiego ryzyka, wprost wyłącza systemy AI używane do wykrywania oszustw finansowych. Model antyfraudowy nadal podlega RODO, wytycznym nadzorczym i wewnętrznemu zarządzaniu ryzykiem modeli, ale nie uruchamia pełnego zestawu obowiązków dla systemów wysokiego ryzyka. To nie zwalnia z ostrożności: model, który blokuje klientowi dostęp do rachunku, wpływa na niego realnie. Ale koszt nadzoru jest wyraźnie niższy niż przy scoringu.

Przykład spoza Europy pokazuje rząd wielkości możliwego efektu. Departament Skarbu USA ogłosił 17 października 2024 roku, że w roku fiskalnym 2024 dzięki wzmocnionym procesom wykrywania oszustw zapobiegł stratom i odzyskał łącznie ponad 4 mld dolarów, w tym 1 mld dolarów odzyskany dzięki szybszej identyfikacji oszustw czekowych z użyciem uczenia maszynowego. To instytucja publiczna, nie bank, ale mechanizm jest ten sam: model nie zastępuje dochodzenia, tylko kieruje je tam, gdzie prawdopodobieństwo oszustwa jest najwyższe.

Jedna uwaga o granicy tematu. Wykrywanie nadużyć w płatnościach i monitorowanie transakcji pod kątem prania pieniędzy to pokrewne, ale osobne systemy, z innymi przepisami i innym procesem obsługi alertów. Tu zajmuję się nadużyciami płatniczymi. Pierwszy krok procesu AML, czyli identyfikację klienta, opisałem w tekście o tym, jak zbudować zgodny proces KYC.

Jak mierzyć efekt modelu antyfraudowego, żeby nie oszukiwać się odsetkiem wykrytych?

Najczęstszy błąd to raportowanie zarządowi jednej liczby: „model wykrywa 92% oszustw”. Ta liczba nic nie mówi bez drugiej, czyli ile prawidłowych transakcji model przy tym zatrzymał. Przy stopie oszustw rzędu setnych części procenta model, który oznacza jako podejrzane 5% wszystkich płatności, prawie na pewno wykryje większość oszustw, a przy okazji sparaliżuje obsługę klientów.

Uczciwy zestaw metryk ma cztery warstwy. Wartość zatrzymanych oszustw w złotówkach, nie w liczbie transakcji, bo kilka dużych przelewów z manipulacji płatnikiem waży więcej niż setki drobnych transakcji kartowych. Precyzja alertów, czyli jaki odsetek alertów okazuje się prawdziwym oszustwem: od tego zależy, ilu analityków potrzebujesz. Koszt tarcia dla klienta, mierzony liczbą prawidłowych płatności odrzuconych lub wstrzymanych, porzuceń transakcji i skarg. Czas reakcji, bo w przelewach natychmiastowych decyzja po fakcie jest bezwartościowa.

Najlepiej przeliczyć to wszystko na jedną walutę. Dla każdego progu decyzyjnego modelu policz: wartość zatrzymanych oszustw minus koszt obsługi alertów minus szacowany koszt utraconych i porzuconych transakcji. Krzywa tego wyniku w funkcji progu pokaże, gdzie model zarabia, a gdzie przestaje. Ten próg wybiera biznes, nie data scientist.

Drugi warunek uczciwego pomiaru to porównanie z tym, co bank ma dziś. Model nie konkuruje z zerem, tylko z istniejącym silnikiem reguł. Standardem jest praca w trybie cienia przez kilka tygodni (model ocenia transakcje, ale nie wpływa na decyzje), a potem test typu champion–challenger na części ruchu. Warto zostawić niewielką grupę kontrolną, w której część niskoryzykownych alertów nie jest blokowana, tylko przeglądana po fakcie. Bez niej bank nie wie, ile oszustw model przepuszcza, bo widzi tylko te, które zatrzymał.

Trzeci warunek to świadomość opóźnionych i niepełnych etykiet. Oszustwo kartowe wychodzi na jaw, gdy klient zgłosi reklamację, czasem po tygodniach. Część oszustw nigdy nie zostanie zgłoszona. Model trenowany na „potwierdzonych oszustwach z ostatniego miesiąca” uczy się na niepełnym obrazie, a jego wyniki z ostatnich tygodni zawsze wyglądają lepiej, niż są. Raportuj efekt dla okresów, dla których etykiety zdążyły się ustabilizować, i mów zarządowi, jak długie jest to okno.

Jeśli bank zbuduje taki pomiar przy pierwszym modelu, ma szablon na każdy kolejny. Ta sama logika (wartość w walucie, porównanie z obecnym procesem, grupa kontrolna, okno stabilizacji etykiet) przenosi się na scoring, prognozy i obsługę klienta. O tym, jak przełożyć metrykę modelu na metrykę biznesową i jak zaplanować test online, pisałem szerzej w tekście o tym, kiedy zatrudnić konsulting machine learning.

Dlaczego scoring kredytowy daje największą wartość i ma najdroższy nadzór?

Wartość jest realna. EBA w raporcie z 2023 roku potwierdza, że techniki ML mogą poprawić moc dyskryminacyjną modeli i pomagają identyfikować istotne czynniki ryzyka, szczególnie tam, gdzie zróżnicowanie ryzyka było historycznie słabe i gdzie zależności są nieliniowe. Banki, które odpowiedziały na konsultację, opisały m.in. użycie lasów losowych i gradient boosting do wyboru czynników ryzyka oraz technik grupowania do ustalania przedziałów PD i LGD. Lepsza kolejność klientów według ryzyka oznacza, że przy tej samej stopie strat bank może zaakceptować więcej wniosków albo przy tej samej liczbie akceptacji ponieść mniejsze straty.

Ta ostatnia konstrukcja to właściwa metryka biznesowa scoringu: stopa akceptacji przy stałej stopie strat albo stopa strat przy stałej stopie akceptacji. Wzrost wskaźnika Giniego o kilka punktów jest dla data scientista sukcesem, dla zarządu nic nie znaczy, dopóki ktoś nie przeliczy go na dodatkowe kredyty albo uniknięte odpisy. Policzenie tego wymaga jednak danych, których bank często nie ma: nie wie, jak spłacaliby kredyty klienci, których stary model odrzucił. To klasyczny problem odrzuconych wniosków i każdy uczciwy business case scoringu powinien mówić, jak został potraktowany.

Teraz koszt. Scoring kredytowy osób fizycznych uruchamia jednocześnie cztery reżimy. Wytyczne EBA w sprawie udzielania i monitorowania kredytów (EBA/GL/2020/06, stosowane od 30 czerwca 2021 roku) w sekcji 4.3.4 wymagają, żeby bank używający zautomatyzowanych modeli oceny zdolności kredytowej rozumiał ich metodologię, dane wejściowe, założenia, ograniczenia i wyniki, a także miał procedury wykrywania i zapobiegania stronniczości, zapewniania jakości danych, identyfikowalności i audytowalności, regularnej oceny jakości wyników z testowaniem wstecznym oraz mechanizmy nadpisania decyzji modelu i eskalacji. Do tego RODO z art. 22, AI Act z wymogami dla systemów wysokiego ryzyka i krajowe zasady zarządzania ryzykiem modeli, w Polsce Rekomendacja W KNF oraz, dla kredytów detalicznych, Rekomendacja T.

Każdy z tych reżimów wymaga czegoś, czego model antyfraudowy w takim stopniu nie potrzebuje: wyjaśnienia na poziomie pojedynczej decyzji, które da się przekazać klientowi, analizy wpływu na grupy chronione, dokumentacji zrozumiałej dla osoby spoza zespołu danych i niezależnej walidacji przed pierwszym użyciem. Jeśli bank buduje te zdolności od zera przy scoringu, buduje je pod największą presją: na produkcie, który przynosi przychód, pod okiem nadzorcy, z działem sprzedaży czekającym na wynik.

To nie znaczy, że ML w scoringu jest zły. Znaczy, że jego koszt jest zdominowany przez otoczenie modelu, a nie przez model. Bank, który ma już inwentarz modeli, działający proces walidacji i narzędzia do wyjaśnień z projektu antyfraudowego, wdroży scoring ML szybciej i taniej niż bank, który zaczyna od niego.

Co AI Act wymaga od scoringu kredytowego i jaki jest stan terminów w listopadzie 2026?

Klasyfikacja jest jednoznaczna. Załącznik III pkt 5 lit. b AI Act obejmuje systemy AI przeznaczone do oceny zdolności kredytowej osób fizycznych lub ustalania ich scoringu kredytowego, z wyjątkiem systemów do wykrywania oszustw finansowych. Ten sam punkt, w lit. c, obejmuje ocenę ryzyka i ustalanie cen w ubezpieczeniach na życie i zdrowotnych, co ma znaczenie dla grup bankowo-ubezpieczeniowych.

Terminy się zmieniły. Pierwotnie wymogi dla systemów wysokiego ryzyka z załącznika III miały obowiązywać od 2 sierpnia 2026 roku. Po zmianie wprowadzonej w ramach pakietu Digital Omnibus przepisy rozdziału III sekcje 1–3 (czyli m.in. zarządzanie ryzykiem, dane i zarządzanie danymi, dokumentacja techniczna, rejestrowanie zdarzeń, przejrzystość, nadzór człowieka, dokładność i odporność) stosuje się do systemów z załącznika III od 2 grudnia 2027 roku, a do AI wbudowanej w produkty z załącznika I od 2 sierpnia 2028 roku. Według stanu w listopadzie 2026 roku bank ma więc nieco ponad rok na przygotowanie scoringu ML do tych wymogów.

Jest ważny niuans dla modeli już działających. Według harmonogramu obowiązki dla systemów z załącznika III wprowadzonych do obrotu przed 2 grudnia 2027 roku dotyczą ich tylko wtedy, gdy od tej daty przejdą istotne zmiany konstrukcyjne. Brzmi to jak furtka, ale w praktyce jest pułapką. Model ML w scoringu, który trzeba co jakiś czas trenować ponownie na nowych danych, prędzej czy później przejdzie zmianę, którą trudno będzie uznać za nieistotną. Bank, który liczy na to, że stary model „przeczeka”, odkłada problem do pierwszej poważnej rekalibracji.

Warto też znać art. 86 AI Act. Daje on osobie, wobec której podmiot stosujący podjął decyzję na podstawie wyników systemu wysokiego ryzyka z załącznika III, jeśli decyzja ma istotny niekorzystny wpływ na jej prawa, prawo do jasnych i merytorycznych wyjaśnień roli systemu AI w procedurze decyzyjnej i głównych elementów decyzji. W połączeniu z RODO oznacza to, że wyjaśnialność scoringu nie jest opcją do rozważenia, tylko wymogiem do zaprojektowania.

Nie wszystko czeka do 2027 roku. Obowiązki przejrzystości z art. 50, m.in. informowanie ludzi, że rozmawiają z systemem AI, obowiązują od 2 sierpnia 2026 roku. To dotyczy asystentów w kanałach cyfrowych, o których niżej. Szerzej o tym, co art. 14 wymaga od nadzoru człowieka i jak go zaprojektować, pisałem w tekście o tym, gdzie w procesie z AI musi zostać człowiek.

Jedna sprawa pozostaje sporna. EBA w raporcie z 2023 roku apelowała, żeby doprecyzować, że kategoria wysokiego ryzyka obejmuje ocenę zdolności kredytowej osób fizycznych w momencie udzielania kredytu, a nie np. modele IRB służące do wyliczania wymogów kapitałowych. Jeśli bank używa tego samego modelu do obu celów, powinien przyjąć ostrożniejszą interpretację i zapytać prawników o aktualne wytyczne Komisji, zanim założy, że któryś z zastosowań jest poza zakresem.

Co oznacza wyjaśnialność w praktyce: art. 22 RODO, SCHUFA i Dun & Bradstreet?

Przez lata banki traktowały art. 22 RODO jako przepis, który da się obejść: decyzję formalnie podejmuje analityk kredytowy, więc nie jest „oparta wyłącznie na zautomatyzowanym przetwarzaniu”. Dwa wyroki Trybunału Sprawiedliwości UE mocno to podejście osłabiły.

W wyroku z 7 grudnia 2023 roku w sprawie C-634/21 (SCHUFA Holding) Trybunał uznał, że ustalenie scoringu przez biuro informacji kredytowej należy traktować jako zautomatyzowaną decyzję w indywidualnej sprawie, co do zasady zakazaną przez RODO, w zakresie, w jakim klienci tego biura, np. banki, przypisują scoringowi decydującą rolę przy udzielaniu kredytu. Wniosek dla CIO: jeśli analityk w praktyce zatwierdza to, co pokazał model, formalny podpis człowieka nie zmienia charakteru decyzji. Liczy się rzeczywista rola modelu, a nie schemat organizacyjny.

W wyroku z 27 lutego 2025 roku w sprawie C-203/22 (Dun & Bradstreet Austria) Trybunał opisał, jak ma wyglądać wyjaśnienie. Administrator musi opisać procedurę i zasady faktycznie zastosowane tak, żeby osoba mogła zrozumieć, które jej dane osobowe zostały użyte i w jaki sposób. Trybunał wskazał, że właściwe może być poinformowanie, w jakim stopniu zmiana danych wziętych pod uwagę prowadziłaby do innego wyniku. Samo przekazanie algorytmu nie jest wystarczająco zwięzłym i zrozumiałym wyjaśnieniem. Jeśli administrator uważa, że informacje obejmują tajemnicę przedsiębiorstwa lub dane osób trzecich, musi przekazać je organowi nadzorczemu albo sądowi, który wyważy interesy stron.

To przesuwa wyjaśnialność z obszaru „dobrych praktyk data science” do obszaru produktu. Wyjaśnienie kontrfaktyczne („gdyby Pana miesięczne zobowiązania były niższe o 800 zł, wniosek zostałby przyjęty”) to dokładnie ten typ informacji, który wskazał Trybunał. Trzeba je jednak zaprojektować: wybrać zmienne, na które klient ma wpływ, ograniczyć się do kilku najważniejszych powodów i sprawdzić, czy wyjaśnienie jest stabilne, czyli czy dwa podobne wnioski nie dostają zupełnie różnych powodów odmowy.

Jakich narzędzi używają banki? EBA w raporcie z 2023 roku podała, że wśród respondentów najczęściej stosowanym narzędziem interpretowalności były wartości Shapleya (40% odpowiedzi), następnie rozszerzone raportowanie i dokumentacja metodologii (28%), narzędzia graficzne (20%) i analiza wrażliwości (8%). Wartości Shapleya są dobrym narzędziem dla walidatora, ale nie są jeszcze wyjaśnieniem dla klienta. Lista „wpływ zmiennej X: −0,17” nie spełnia standardu z wyroku C-203/22. Trzeba ją przetłumaczyć na język decyzji i sprawdzić, czy to tłumaczenie jest wierne modelowi.

Praktyczny wniosek: zanim bank zdecyduje o algorytmie scoringu, powinien zdecydować o formacie wyjaśnienia dla klienta i sprawdzić, czy wybrany model potrafi je wiarygodnie dostarczyć. Wytyczne EBA mówią to samo prostszym językiem: jeśli podczas używania modelu wymagane są wyjaśnienia, należy rozważyć zbudowanie modelu interpretowalnego. Czasem lepsza regresja z dobrze dobranymi cechami wygrywa z gradient boosting nie dlatego, że przewiduje lepiej, tylko dlatego, że da się ją obronić.

Czego EBA oczekuje od modeli ML w IRB i dlaczego bank nie powinien od tego zaczynać?

Modele wewnętrzne do wyliczania wymogów kapitałowych to najbardziej regulowane miejsce, w jakim bank może użyć ML. Raport EBA z 2023 roku jest tu bardzo konkretny i warto go przeczytać przed jakąkolwiek decyzją.

Po pierwsze, banki używają ML w IRB wybiórczo: głównie przy szacowaniu PD na etapie różnicowania ryzyka, rzadziej przy LGD, EAD i CCF. Do kwantyfikacji ryzyka, która wymaga długich średnich historycznych, ML nie jest potrzebny, a nowe źródła danych często nie mają jeszcze wystarczająco długiej historii. Po drugie, ML pojawia się w walidacji jako model konkurencyjny: do testowania odporności, kwestionowania zmiennych modelu docelowego i benchmarkingu. To najtańsze i najbezpieczniejsze wejście ML do świata IRB, bo model konkurencyjny nie liczy kapitału.

Po trzecie, główne trudności to przeuczenie (szczególnie w portfelach o niskiej liczbie niewypłacalności), brak kompetencji i wyjaśnialność. EBA oczekuje porównania wyników na próbie deweloperskiej z wynikami poza próbą i poza okresem, a walidacji hiperparametrów przez przeszkolony personel funkcji walidacji. Instytucje, które odpowiedziały na konsultację, przeważnie nie zlecały na zewnątrz budowy modeli ML, a jeśli już, to tylko na etapie rozwoju, częściowo z obawy o własność intelektualną.

Po czwarte, i to jest najważniejsze dla architektury systemu: zmiany modeli. EBA wskazuje, że każda aktualizacja systemu ratingowego używanego do wyliczania wymogów kapitałowych podlega ramom oceny zmian modeli, a zmiana algorytmu przypisującego dłużników do klas może wymagać zgody organu nadzoru. Dla modeli aktualizowanych często lub automatycznie szczególnie istotne są dwa wymogi: istotna zmiana kolejności lub rozkładu ekspozycji jest istotną zmianą modelu, a jednej zmiany nie wolno dzielić na kilka mniejszych. Jednocześnie EBA wyjaśnia, że dopóki system ratingowy używany do kapitału nie jest aktualizowany, ramy zmian nie ograniczają samouczących się modeli konkurencyjnych, które włączają nowe dane.

Wniosek dla CIO jest wprost architektoniczny. Model w IRB nie może się sam douczać w produkcji. Każdy ponowny trening to wersja, która przechodzi ocenę istotności zmiany, a potencjalnie procedurę zgody. Platforma ML w banku musi więc rozróżniać modele, które wolno aktualizować automatycznie (np. modele konkurencyjne, część modeli antyfraudowych), od modeli, których każda wersja jest decyzją regulacyjną. Jeśli ta różnica nie jest zapisana w narzędziach, tylko w pamięci zespołu, prędzej czy później ktoś wdroży nową wersję modelu kapitałowego zwykłym procesem CI/CD.

Dlatego IRB nie jest dobrym miejscem na pierwszy projekt ML. Jest dobrym miejscem na trzeci albo czwarty, gdy bank ma już sprawdzony proces wersjonowania, walidacji i monitorowania. Do tego czasu ML może pracować w IRB jako narzędzie walidatora, nie jako model docelowy.

Kiedy prognozowanie płynności zyskuje na ML, a kiedy model zawodzi właśnie wtedy, gdy jest potrzebny?

Prognozowanie przepływów pieniężnych to przypadek, który rzadko trafia na prezentacje o AI, a często daje mierzalny efekt. Bank codziennie prognozuje wypłaty z bankomatów i oddziałów, wpływy i odpływy depozytów, zapotrzebowanie na płynność śróddzienną w systemach płatności. Każdy błąd prognozy kosztuje: nadmiar gotówki w bankomatach to zamrożony pieniądz i koszt konwojów, niedobór to niezadowoleni klienci. Nadmiarowy bufor płynności to utracony dochód odsetkowy.

Tu ML ma dobre warunki. Danych jest dużo, są wysokiej częstotliwości, wzorce zależą od kalendarza, wypłat wynagrodzeń, świąt i lokalnych zdarzeń, czyli od nieliniowości, które modele gradient boosting albo sieci rekurencyjne wychwytują lepiej niż proste średnie ruchome. Efekt da się zmierzyć wprost: błąd prognozy w porównaniu z obecną metodą, przełożony na wielkość bufora, koszt konwojów albo koszt finansowania. Decyzję podejmuje skarb albo logistyka gotówki, nie klient, więc koszt nadzoru jest umiarkowany.

Jest jednak granica, której nie wolno przekroczyć. Model uczony na historii prognozuje dobrze w warunkach podobnych do historii. Kryzys płynności to z definicji sytuacja, której w danych nie było. Raport Rezerwy Federalnej z 28 kwietnia 2023 roku o upadku Silicon Valley Bank opisuje, że 9 marca 2023 roku bank stracił ponad 40 mld dolarów depozytów, a zarząd spodziewał się kolejnych ponad 100 mld dolarów następnego dnia, co odpowiadało około 85% bazy depozytowej. Dla porównania raport podaje szacunki, według których przy upadku Wachovii w 2008 roku odpływ wyniósł około 10 mld dolarów w ciągu 8 dni, a przy Washington Mutual 19 mld dolarów w ciągu 16 dni. Żaden model trenowany na spokojnych latach nie przewidziałby takiej dynamiki.

Wniosek: ML jest dobrym narzędziem do prognozowania operacyjnego w normalnych warunkach i złym zamiennikiem testów warunków skrajnych. Scenariusze stresu muszą pozostać konstrukcją ekspercką, zgodną z wymogami nadzorczymi dla ryzyka płynności (w Polsce Rekomendacja P KNF), z założeniami, które można przedyskutować na komitecie ALCO. Model ML może zasilać te scenariusze, np. segmentując depozyty według zachowania, ale nie powinien zastępować pytania „co, jeśli klienci zachowają się inaczej niż kiedykolwiek wcześniej”.

Dla zarządzania ryzykiem modeli to przykład ważnej zasady z nowych amerykańskich wytycznych nadzorczych SR 26-2 (opisuję je niżej): ryzyko modelu zależy nie tylko od jego złożoności, ale od celu i ekspozycji. Ten sam algorytm prognozujący wypłaty z bankomatów ma niską istotność, a użyty do zarządzania buforem płynności regulacyjnej ma wysoką. Inwentarz modeli powinien zapisywać zastosowanie, nie tylko algorytm.

Co obsługa klienta z AI może zmierzyć, a czego nie powinna obiecywać?

Asystenci w aplikacji mobilnej i na infolinii to dziś najbardziej widoczne zastosowanie AI w bankach, a od czasu modeli językowych także najbardziej kuszące. Wnioski budżetowe obiecują odciążenie konsultantów i obsługę całą dobę. Część tych obietnic da się zmierzyć, część nie.

Dobrze mierzalne są rozpoznawanie intencji i kierowanie sprawy (czy klient trafił do właściwej ścieżki za pierwszym razem), odsetek spraw zamkniętych bez udziału konsultanta, czas obsługi i koszt kontaktu. Pułapka leży w pierwszej z tych metryk. Odsetek spraw „zamkniętych przez asystenta” rośnie także wtedy, gdy klient się poddaje. Dlatego zawsze trzeba go zestawić z odsetkiem ponownych kontaktów w tej samej sprawie w ciągu kilku dni, ze skargami i z wynikiem satysfakcji mierzonym po rozmowie. Asystent, który zamyka 60% rozmów, ale co trzeci klient dzwoni ponownie, nie zaoszczędził tyle, ile pokazuje panel.

Nie należy obiecywać tego, czego bank nie może kontrolować. Asystent oparty na modelu językowym nie powinien samodzielnie odpowiadać w sprawach, które mają skutki prawne albo finansowe dla klienta: reklamacje, warunki kredytu, restrukturyzacja zadłużenia, podejrzenie oszustwa. Te intencje powinny trafiać do człowieka, a asystent może co najwyżej zebrać dane i przygotować sprawę. Od 2 sierpnia 2026 roku art. 50 AI Act wymaga informowania ludzi, że rozmawiają z systemem AI, chyba że jest to oczywiste z okoliczności.

Ciekawym sygnałem jest to, jak nadzorcy traktują generatywną AI. W nowych wytycznych o zarządzaniu ryzykiem modeli (SR 26-2 z 17 kwietnia 2026 roku) amerykańscy nadzorcy wprost wyłączyli modele generatywne i agentowe z zakresu wytycznych, uzasadniając to tym, że są nowe i szybko się zmieniają, i zostawiając bankom zaprojektowanie dla nich odpowiedniego zarządzania i kontroli. Klasyczne modele statystyczne i AI inną niż generatywna i agentowa są w zakresie. To nie oznacza, że generatywna AI jest wolna od nadzoru. Oznacza, że nie ma jeszcze ustalonej metody jej walidacji i bank musi ją zaprojektować sam.

Tu koszt nadzoru przesuwa się z walidacji modelu na testowanie zachowania systemu. Model, który za każdym razem odpowiada trochę inaczej, wymaga zestawów testowych, oceny odpowiedzi i monitorowania w produkcji. Jak to zorganizować, opisałem w tekście o testowaniu aplikacji z LLM. Obsługa klienta z AI ma więc umiarkowany koszt nadzoru tylko wtedy, gdy zakres asystenta jest wąski i jasno ograniczony.

Jak zbudować zarządzanie ryzykiem modeli, które obsłuży kolejne przypadki bez nowego projektu?

To jest właściwy produkt pierwszego projektu ML. W Polsce ramę wyznacza Rekomendacja W KNF dotycząca zarządzania ryzykiem modeli w bankach. Dobrym uzupełnieniem, choć nie jest wiążący dla polskich banków, jest najnowszy dokument amerykańskich nadzorców, bo jest krótki i dobrze pokazuje, dokąd zmierza praktyka.

Rezerwa Federalna, FDIC i OCC wydały 17 kwietnia 2026 roku list SR 26-2 „Revised Guidance on Model Risk Management”, który zastąpił SR 11-7 z 2011 roku, przez piętnaście lat światowy punkt odniesienia dla zarządzania ryzykiem modeli. Nowe wytyczne kładą nacisk na podejście oparte na ryzyku: istotność modelu wynika z ekspozycji (jak duży portfel lub skutek biznesowy) i celu (modele służące spełnieniu wymogów regulacyjnych lub zarządzaniu ryzykiem finansowym są z zasady bardziej ryzykowne). Definicja modelu wyklucza proste obliczenia arytmetyczne i deterministyczne procesy oparte na regułach. Wytyczne są adresowane głównie do organizacji bankowych z aktywami powyżej 30 mld dolarów.

Z tego dokumentu i z Rekomendacji W da się wyprowadzić minimalny zestaw, który warto zbudować przy pierwszym modelu:

  • Inwentarz modeli z zastosowaniem, właścicielem biznesowym, istotnością, wersją, danymi wejściowymi i statusem walidacji. Bez niego nie da się ocenić ryzyka zagregowanego, czyli sytuacji, w której kilka modeli korzysta z tych samych danych lub założeń i myli się jednocześnie.
  • Niezależna walidacja proporcjonalna do istotności, obejmująca poprawność koncepcyjną (projekt, założenia, dobór danych, w przypadku ML także miary interpretowalności lub benchmarking z innymi modelami), analizę wyników wobec rzeczywistości i plan bieżącego monitorowania.
  • Efektywne kwestionowanie, czyli krytyczna analiza prowadzona przez osoby z kompetencjami, niezależnością i pozycją w organizacji pozwalającą wymusić zmiany. To ostatnie jest najczęściej pomijane: walidator, który nie może zatrzymać wdrożenia, jest recenzentem, nie kontrolą.
  • Monitorowanie w produkcji z progami, po przekroczeniu których model wraca do przeglądu, rekalibracji albo przebudowy.
  • Ścieżka dla modeli dostawców. Bank często nie dostaje kodu, danych ani metodologii, a zasady zarządzania ryzykiem modeli nadal obowiązują. Trzeba więc zrozumieć projekt i dane rozwojowe modelu dostawcy, a potem prowadzić własne monitorowanie i analizę wyników.

Po stronie technicznej odpowiada temu platforma MLOps z wersjonowaniem danych i modeli, rejestrem modeli powiązanym z inwentarzem, zapisem predykcji i cech dla każdej decyzji oraz śladem audytu, który pozwala odtworzyć, dlaczego model ocenił konkretną transakcję czy wniosek tak, a nie inaczej. Zapis cech na moment decyzji jest szczególnie ważny przy wyjaśnieniach dla klienta: odtworzenie wyjaśnienia po pół roku, z danymi, które od tego czasu się zmieniły, jest prawie niemożliwe. Do tego dochodzą wymogi DORA wobec dostawców usług ICT, jeśli platforma lub modele są kupowane, o których pisałem w tekście o tym, co DORA zmienia w wyborze dostawcy oprogramowania dla finansów.

Kto ma to zbudować? EBA odnotowuje brak wykwalifikowanych ludzi jako jedną z głównych przeszkód. Bank potrzebuje inżynierów danych do potoków i zapisu cech, inżynierów ML do platformy i wdrożeń, data scientistów do modeli i osobnej grupy walidatorów z kompetencjami statystycznymi. O kolejności tych zatrudnień pisałem w tekście data scientist, data engineer czy ML engineer. Jeśli ML ma się zmieścić w szerszej architekturze banku, warto też przeczytać, gdzie w oprogramowaniu bankowym budować, a gdzie kupować.

Jak wygląda mapa przypadków użycia: efekt, czas do pomiaru i koszt nadzoru?

Poniższa tabela zbiera wnioski z poprzednich sekcji. Oceny „niski”, „średni”, „wysoki” są moim szacunkiem opartym na opisanych wyżej regulacjach i charakterze decyzji, nie wynikiem badania. Konkretny bank może przesunąć dany przypadek o jedną kategorię w zależności od tego, czy model decyduje sam, czy wspiera człowieka.

Przypadek użyciaMetryka efektu biznesowegoCzas do wiarygodnego pomiaruGłówne wymogi nadzorczeKoszt nadzoruKolejność
Wykrywanie nadużyć w płatnościachWartość zatrzymanych oszustw minus koszt alertów i tarcia dla klientaTygodnie (z oknem stabilizacji etykiet)RODO, wewnętrzne zarządzanie ryzykiem modeli; wyłączenie z pkt 5 lit. b zał. III AI ActNiski–średni1
Prognozowanie gotówki i płynności operacyjnejBłąd prognozy wobec obecnej metody, przełożony na bufor i koszty logistykiTygodnie–miesiąceZarządzanie ryzykiem modeli; Rekomendacja P przy użyciu w płynności regulacyjnejNiski–średni1–2
Asystent w kanałach cyfrowych (wąski zakres)Koszt kontaktu przy stałym poziomie ponownych kontaktów i skargTygodnieArt. 50 AI Act od 2.08.2026; RODO; testy zachowaniaŚredni2
ML jako model konkurencyjny w walidacjiWykryte słabości modeli docelowychMiesiąceZarządzanie ryzykiem modeli, CRR (model nie liczy kapitału)Średni2–3
Scoring kredytowy osób fizycznychStopa akceptacji przy stałej stopie stratMiesiące–kwartałyWytyczne EBA LOM 4.3.4, art. 22 RODO, wymogi wysokiego ryzyka AI Act od 2.12.2027, art. 86 AI Act, Rekomendacje W i TWysoki3
ML w modelach IRB do wymogów kapitałowychDokładność różnicowania ryzyka, wpływ na RWAKwartały–lataCRR, ramy zmian modeli, zgoda nadzorcy, Rekomendacja WBardzo wysoki4

Jak czytać tę tabelę? Kolumna „Kolejność” nie mówi, który przypadek jest najcenniejszy. Mówi, w jakiej kolejności bank buduje zdolności, z których korzystają następne. Wykrywanie nadużyć uczy pomiaru efektu, pracy z opóźnionymi etykietami i monitorowania. Prognozowanie uczy rozróżniania istotności według zastosowania. Asystent uczy testowania systemów niedeterministycznych. Model konkurencyjny w walidacji buduje kompetencje walidatorów na ML bez ryzyka kapitałowego. Dopiero z tym zestawem scoring przestaje być projektem badawczym.

Ktoś może zapytać, czy to nie za wolno. Konkurencja wdraża scoring ML już teraz. To możliwe, ale termin z AI Act dotyczy wszystkich jednakowo, a bank, który wejdzie w grudzień 2027 roku z działającym inwentarzem, walidacją i wyjaśnieniami, będzie w lepszej sytuacji niż ten, który ma lepszy model i ich nie ma.

Jakie są kluczowe wnioski dla CIO banku?

Uczenie maszynowe w bankowości ma udokumentowane zastosowania z mierzalnym efektem, ale koszt każdego z nich jest zdominowany przez otoczenie modelu: walidację, wyjaśnienia, monitorowanie i zgodność z regulacjami. Ten koszt różni się między przypadkami znacznie bardziej niż koszt samego modelu i to on powinien decydować o kolejności.

Zapamiętaj sześć rzeczy. Po pierwsze, oceniaj przypadki użycia w dwóch wymiarach: koszt nadzoru i czas do wiarygodnego pomiaru, a nie tylko obiecaną korzyść. Po drugie, zacznij od wykrywania nadużyć w płatnościach: problem jest duży, etykiety przychodzą szybko, model wspiera analityka, a AI Act wyłącza ten przypadek z kategorii wysokiego ryzyka dla scoringu kredytowego. Po trzecie, mierz efekt w walucie, wobec obecnego procesu i z grupą kontrolną, i ustal okno stabilizacji etykiet. Po czwarte, przygotuj scoring kredytowy na 2 grudnia 2027 roku, ale wejdź w niego dopiero z działającym zarządzaniem ryzykiem modeli; najpierw zaprojektuj wyjaśnienie dla klienta zgodne z wyrokiem C-203/22, potem wybierz algorytm. Po piąte, rozróżniaj w platformie modele, które wolno aktualizować automatycznie, od tych, których każda wersja jest decyzją regulacyjną. Po szóste, nie zastępuj modelami ML scenariuszy stresu płynnościowego.

Jeśli budujesz zespół do pierwszego projektu ML albo do platformy i walidacji modeli, zobacz, jak pracujemy ze specjalistami IT dla sektora fintech i bankowości, lub umów rozmowę. Inżynierów danych, inżynierów ML i walidatorów dołączamy do zespołu banku w modelu body leasingu, ze stawkami seniorów w skali 180–260 zł/h, dwutygodniową gwarancją wymiany specjalisty (wymiana w 5 dni roboczych) i 30-dniowym okresem wypowiedzenia.