Wykorzystanie algorytmów w procesach decyzyjnych – stanowisko Bafin

Znaczenie stanowiska niemieckiego organu

15 czerwca 2021 r. Bafin- niemiecki organ nadzoru finansowego, opublikował zasady nadzorcze dotyczące wykorzystania przez instytucje finansowe algorytmów w procesach decyzyjnych.

Ich wydanie ma stanowić odpowiedź na coraz bardziej powszechne wykorzystywanie rozwiązań z zakresu zarówno Big Data, jak i AI (łącznie określanych jako BDAI) oraz promować odpowiedzialne stosowanie powyższych technologii przez instytucje finansowe w Niemczech.

Opracowanie Bafin zapewne będzie miało również pośredni wpływ na kształt unijnych regulacji w tym zakresie oraz być może, także i na zasady i wytyczne przyjęte przez innych regulatorów rynku finansowego.

Sztuczna inteligencja jako połączenie technologii uczenia maszynowego i Big Data

Opublikowane przez Bafin zasady nadzorcze nie odnoszą się jedynie do zagadnień powiązanych z tematyką sztucznej inteligencji, ale obejmują szerszy kontekst stosowania rozwiązań AI i Big Data, jako ściśle powiązanych technologii.

W ocenie Bafin rozwiązania sztucznej inteligencji oparte są bowiem de facto na kombinacji techniki machine learningu i Big Data. Bafin zwrócił szczególną uwagę na szeroko komentowany problem jakości danych wykorzystywanych do zasilenia rozwiązań opartych na sztucznej inteligencji. Jest to również zagadnienie podnoszone w projekcie rozporządzenia w sprawie AI opracowanego przez Komisję Europejską.

Już teraz wiemy, że jakość wyników generowanych przez sztuczną inteligencje w przeważającej mierze zależy od jakości danych, z których ona korzysta. Nie dziwi zatem pojawienie się trendu regulacyjnego do łączenia tematyki z zakresu AI z Big Data.

W przyszłości w kontekście AI, możemy również spodziewać się coraz częstszych odniesień także do tematyki ochrony danych osobowych oraz przetwarzania danych w chmurze.

Definicja sztucznej inteligencji

Publikacja Bafin zwraca również uwagę na kolejne problemy, z którymi musimy się zmierzyć chcąc uregulować kwestie stosowania AI, w szczególności na zagadnienie rozróżniania pomiędzy rozwiązaniami wykorzystującymi sztuczną inteligencję, a jedynie konwencjonalną statystyką i „zwykłymi” algorytmami.

W ocenie Bafin na dziś nie jesteśmy w stanie stworzyć w pełni precyzyjnej definicji sztucznej inteligencji. Nie mniej jednak jesteśmy w stanie wyszczególnić pewne cechy, które pozwolą nam wyróżnić technologie i metody oparte na sztucznej inteligencji, i które ze względu na ryzyko jakie za sobą niosą, powinny podlegać szczególnym regulacjom. W tym zakresie Bafin wyróżnia trzy kluczowe cechy:

• skomplikowanie algorytmu – algorytmy oparte na technologii machine learning wykazują się znacznie wyższym poziomem szczegółowości od tradycyjnych algorytmów, co czyni je trudnymi do zrozumienia dla człowieka;
• szybkie cykle rekalibracji algorytmu- algorytmy, które dzięki samodzielnej nauce i wykorzystywaniu masowych danych mają możliwość szybkiej rekalibracji modelu i stosowanych rozwiązań, przez co granice pomiędzy kalibracją algorytmu, a jego walidacją ulegają zatarciu;
• wysoki stopień automatyzacji w zakresie niestandardowych procesów, pozwalający na podejmowanie przez algorytm szybkich decyzji na dużą skalę.

Działania na poziomie unijnym

Z tożsamym problem mierzy się również unijny prawodawca. Kwestia ogólnej definicji sztucznej inteligencji budzi wiele emocji i kontrowersji co do swojego zakresu.

Należy przy tym wrócić uwagę, że definicja przedstawiona przez Bafin jest bardziej złożona od tej przedstawionej przez Komisję Europejską, i jest generalnie definicją węższą. W ocenie Bafin rozróżnienie tradycyjnych algorytmów od algorytmów sztucznej inteligencji nie sprowadza się jedynie do oceny wykorzystywanych technik ( w szczególności technologii machine learning-u), lecz wymaga oceny również i wskazanych powyżej cech tego algorytmu.

W przypadku zaś projektu rozporządzenia unijnego samo wykorzystywanie technologii machine learningu automatycznie kwalifikuje dane rozwiązanie jako sztuczną inteligencję. Niezależnie od ostatecznego kształtu definicji sztucznej inteligencji, która zostanie przyjęta przez unijnego prawodawcę i organy nadzoru, już teraz wiadomo, że zagadnienie to będzie budziło wiele wątpliwości i kontrowersji.

Stworzenie jednolitej definicji sztucznej inteligencji na potrzeby regulacyjne jest bowiem trudne i zapewne w tym zakresie toczyć się będzie zacięta dyskusja w szczególności, w ramach prac na projektem unijnego rozporządzenia w sprawie AI.

Kompleksowe podejście do regulacji AI oparte na ocenie ryzyka

Bafin w celu opracowania precyzyjnych zasad i wytycznych nadzorczych podzielił również proces podejmowania decyzji z wykorzystywaniem algorytmu na dwie fazy:

• rozwojową,
• i aplikacyjną.

Również i w tym przypadku podobne podejście do sztucznej inteligencji przedstawione zostało w propozycji unijnego rozporządzenia w sprawie AI. Projekt rozporządzenia także widzi wykorzystywanie sztucznej inteligencji jako proces, który obejmuje swym zakresem zarówno fazę projektowania rozwiązania, jak również jego stosowania i dalszego nadzoru nad jego funkcjonowaniem.

Opracowanie Bafin zwraca również uwagę na często podnoszone zagadnienia:

• proporcjonalności podejmowanych działań nadzorczych;
• neutralności technologicznej regulacji;
• jak również konieczności przeciwdziałania nierównościom, jakie mogą się wiązać z wykorzystaniem sztucznej inteligencji.

Także i w powyższym zakresie w mniejszym lub większym stopniu zagadnienia te zostały uwzględnione w projekcie unijnego rozporządzenia w sprawie AI.

Dalsze prace regulatorów rynków w kontekście AI i Big Data oraz wpływ opracowania Bafin na proces uregulowania kwestii AI w Unii Europejskiej

Powyższe zasady nadzorcze stanowić mają jedynie jeden z elementów opracowania ram prawno- regulacyjnych w Niemczech dla stosowania rozwiązań BDAI w sektorze finansowym. Bafin już zapowiedział, że w połowie lipca zamierza opublikować kolejne opracowanie, tym razem skupiające się na modelach działalności, które wymagać będą zatwierdzenia ze strony organów regulacyjnych w kontekście nadzoru ostrożnościowego.

Mimo, że zasady nadzorcze wydane przez Bafin nie mają bezpośredniej mocy wiążącej dla podmiotów działających na terenie innych państw członkowskich, to nie ma wątpliwości, że stanowią one znaczący wkład w dyskusję nad przyszłymi regulacjami branży finansowej w zakresie AI.

Tak jak to zostało wskazane przez sam Bafin, powyższe opracowanie ma stanowić wkład we wspólną pracę europejskich organów nadzoru i Komisji Europejskiej w zakresie przyszłych regulacji AI na terenie Unii Europejskiej. Poruszane przez niemiecki nadzór zagadnienia i przedstawiony punkt widzenia, stanowią przy tym wartościowy materiał do dyskusji nad przyszłym kształtem tych regulacji.

Można również spodziewać się, że inni regulatorzy rynku finansowego zainteresowani będą wydaniem własnych wytycznych lub opinii w zakresie wykorzystywania technologii BDAI. W takiej sytuacji zapewne zasady nadzorcze opublikowane przez Bafin będą mogły stanowić inspirację dla organów nadzorczych innych państw europejskich, w tym i dla Komisji Nadzoru Finansowego.

Prace w Polsce

Przypomnieć należy również, że Urząd Komisji Nadzoru Finansowego udostępnił ankietę dotyczącą AI w sektorze finansowym. Zgodnie ze stanowiskiem KNF wyrażonym w Raporcie z prac Zespołu ds. rozwoju innowacji finansowych FinTech, stanowi to pierwszy krok w kierunku wydania przez UKNF ewentualnych wyjaśnień i zasad wykorzystywania AI/ML w procesach instytucji finansowych.

Należy zatem spodziewać się, że w przyszłości również i polski regulator wyda odpowiednie wytyczne, opinie lub komunikaty w przedmiocie wykorzystywania technologii AI (i być może Big Data) przez podmioty rynku finansowego.

Autor: Michał Barwicki, aplikant radcowski