W kwietniu 2021 r. Komisja Europejska opublikowała projekt rozporządzenia w sprawie sztucznej inteligencji, określany jako AI Act. Celem regulacji ma być zapewnienie bezpieczeństwa w związku z wdrażaniem technologii sztucznej inteligencji oraz jednocześnie wsparcie rozwoju tej technologii i opartej na niej gałęzi gospodarki w całej Unii Europejskiej. Już w chwili publikacji pierwotnego projektu, wiele zapisów rozporządzenia budziło kontrowersje, i w zasadzie wiadomo było, że projekt podlegać będzie wielu dalszym zmianom. Obraz toczących się prac legislacyjnych potwierdza te przypuszczenia.

AI Act jest przedmiotem ożywionej dyskusji zarówno w Parlamencie Europejskim, jak i w Radzie. Owocem tych prac jest chociażby powstanie szeregu tzw. wersji kompromisowych aktu, założeń, które powinny zostać uwzględnione w dalszych pracach legislacyjnych, a także tysiące propozycji poprawek. Niemniej jednak wciąż wiele obszarów rozporządzenia budzi szereg wątpliwości, a ich ostateczny kształt nie jest pewny.

Definicja AI i klasyfikacja systemów

uż na początku prac zaproponowane zostały poprawki do zakresu rozporządzenia, jak i przyjętych definicji. Wciąż także słychać stanowisko, zgodnie z którym definicja systemu AI, jak również klasyfikacja systemów AI (w szczególności systemów wysokiego ryzyka) wymaga dalszej dyskusji i dopracowania.

W szczególności dostrzeżono, że definicja AI powinna w większym stopniu różnicować klasyczne oprogramowanie od faktycznych systemów posiadających cechy sztucznej inteligencji. Nie ma jednak zgody, co do ostatecznego kształtu tej definicji, gdyż pojawiają się również i głosy o konieczności pozostawienia jeszcze szerszej definicji systemu AI, niż ta, która została przyjęta w pierwotnym kształcie. W odniesieniu do zakresu rozporządzenia, widać również inicjatywę doprecyzowania tekstu rozporządzenia, tak by bez wątpienia obejmowało ono użycie sztucznej inteligencji w nowych rodzajach zastosowań np. w metaverse.

AI generalnego zastosowania

Duże wątpliwości powstały także w odniesieniu do zakresu wyłączenia tzw. AI generalnego zastosowania z zakresu rozporządzenia. W związku z powyższym pojawiają się pomysły pełnego lub przynajmniej pełniejszego objęcia powyższych systemów wymogami AI Act. W toku prac pojawiły się w tym zakresie propozycje jednoznacznego wyznaczenia AI generalnego zastosowania, jako osobnej kategorii systemu AI i jednoznacznego opisania obowiązków, jakimi objęte będą tego typu systemy.

Sztuczna inteligencja wysokiego ryzyka

Zmianom podlegać zapewne będzie również definicja systemów sztucznej inteligencji wysokiego ryzyka, gdzie kilkukrotnie zaproponowane zostało zarówno:

• uzupełnienie listy o kolejne kategorie systemów;
• lub – choć rzadziej – odwrotnie, wyłączenie niektórych, wcześniej wskazanych systemów spod tego zakresu.

AI w sektorze finansowym

 szczególności wątpliwości powstały co do kwalifikacji systemów AI, wykorzystywanych w sektorze finansowym, gdzie z jednej strony pojawiła się propozycja usunięcia z listy systemów służących do oceny zdolności kredytowej, z drugiej zaś propozycja rozszerzenia tej listy o systemy związane z płatnościami czy windykacją. Niemniej jednak należy się spodziewać, że w ostatecznym kształcie rozporządzenia, zakres systemów AI wysokiego ryzyka będzie raczej szerszy niż pierwotnie to przewidziano.

Praktyki zakazane

Duże emocje wciąż budzi także zagadnienie tzw. zakazanych praktyk, w tym social scoringu, który to w odniesieniu do podmiotów publicznych, był zakazany już na gruncie pierwotnego projektu.

Pojawiają się jednak głosy o konieczności rozszerzenia powyższego zakazu na działalność podmiotów prywatnych. Nie jest przy tym pewne, czy taki zakaz będzie miał negatywne implikacje dla np. rozwiązań służących ocenie zdolności kredytowej i na tzw. scoring kredytowy.

Również z punktu widzenia ochrony praw podstawowych, ożywiona dyskusja toczy się wokół zasad identyfikacji biometrycznej i w tym zakresie także nie jest pewne jaki ostateczny kształt przyjmą zapisy rozporządzenia. Pierwotnie przewidziano bowiem szereg ściśle określonych wyjątków od generalnej reguły zakazującej identyfikacji biometrycznej w czasie rzeczywistym. Niemniej jednak możliwe jest również, że w ostatecznym kształcie rozporządzenia wyjątki te zostaną usunięte, a sam zakaz stanie się bezwzględny.

Wymogi wobec systemów AI

Zmiany zapewne nie ominą także samych wymogów, jakim będą podlegały systemy AI, a w szczególności systemy AI wysokiego ryzyka, w tym:

• wprowadzenie bardziej precyzyjnej definicji, opisującej czym jest AI godnego zaufania;
• rezygnacja z zasady „error free data” na rzecz uogólnionej zasady dążenia do eliminacji błędów;
• plany zrewidowania rozłożenia obowiązków pomiędzy użytkownikami systemów AI, a ich dostawcami, tak by w większym stopniu odpowiadały one faktycznej odpowiedzialności za produkt.

Modyfikacjom podlegać mają także wymogi odnoszące się do transparentności sztucznej inteligencji, tak by ustanowione zostały skuteczniejsze zasady zapobiegające wykorzystaniu manipulacji np. poprzez deepfake.

Procedura zapewniania zgodności. Sytuacja MŚP

Duże kontrowersje budzi także zagadnienie procedury zapewnienia zgodności (conformity assement). Podnoszone są bowiem głosy o potencjalnej nieskuteczności mechanizmu samooceny, który to został przyjęty w pierwotnym tekście rozporządzenia. Należy zatem spodziewać się ożywionej dyskusji w tym zakresie na dalszym etapie procesu prawodawczego.

Niezależnie od powyższych wątpliwości, pojawia się także wiele propozycji mających na celu usprawnienie procesu zapewniania zgodności systemów AI z zasadami ustanowionymi przez rozporządzenie i nadzoru nad tymi systemami. Propozycje dotyczą:

• zakresu obowiązków;
• kompetencji i zasad funkcjonowania m.in. organów notyfikujących, właściwych organów oraz organów nadzoru rynku.

Wydaje się również, że rozporządzenie ostatecznie w większym stopniu dostrzeże potrzeby sektora mikro, małych i średnich przedsiębiorstw (sektor MŚP). Pojawiają się bowiem pomysły ograniczenia zakresu pewnych obowiązków, które mają być nałożone na powyższe podmioty i uwzględnienia charakteru prowadzonej przez nie działalności. Można dostrzec również i głosy o konieczności uwzględnienia sytuacji MŚP w kontekście wysokości kar i mechanizmu ich obliczania, jakie będą wiązały się z naruszeniem postanowień rozporządzenia.

Europejska Rada ds. Sztucznej Inteligencji

Zmianie zapewne ulegnie kształt Europejskiej Rady ds. Sztucznej inteligencji, która – co bardzo możliwe, oparta będzie w większym stopniu na przedstawicielach rządów państw członkowskich.

Pojawiają się także sugestie odnośnie zmian kompetencji Rady, co ma wynikać z troski o zachowanie jak najbardziej jednolitych zasad stosowania rozporządzenia na terenie Unii Europejskiej.

Dalszy ciąg zmian

Nie są to oczywiście wszelkie modyfikacje i propozycje zmian, jakie pojawiły się w trakcie dyskusji nad AI Act. Zakres, w jakim rozporządzenie ws. sztucznej inteligencji może ulec zmianie jest znaczny, a dyskusji wciąż poddawane są kluczowe elementy rozporządzenia.

Na obecnym etapie zmiany mają przy tym charakter istotny i tym samym AI Act zapewne ostatecznie ulegnie znaczącym modyfikacjom w stosunku do treści pierwotnego projektu.

Należy jednak zauważyć, że pomimo dużej liczby proponowanych zmian, sama konieczność wprowadzenia rozporządzenia i idea, która za tym stoi, nie są kwestionowane i nie istnieją sygnały, które by mogły sugerować, że AI Act nie będzie ostatecznie przyjęte. Nie mamy zatem pewności, jaki ostatecznie kształt przyjmie AI Act. Niemniej już obecnie z całą pewnością można stwierdzić, że rynek czeka szereg wyzwań związanych ze wdrożeniem nowej regulacji. Ten fakt nie uległ i nie ulegnie zmianie, niezależnie od zakresu zmian, jakim zostanie poddane rozporządzenie.

Ocena kierunku zmian

Cieszy jednocześnie fakt, że unijny prawodawca dostrzega zasadność przynajmniej części argumentów podnoszonych w trakcie publicznych konsultacji rozporządzenia. Dotyczy to w szczególności uwag odnoszących się do:

• ustanowionych definicji i podziału systemów sztucznych inteligencji;
• rozdziału obowiązków;
• urealnienia niektórych wymogów;
• czy chociażby zakresu obowiązków nałożonych na MŚP.

Oczywiście niektóre z zaproponowanych poprawek, mogą niepokoić rynek, inne zaś budzą niepokój organizacji pozarządowych. Nie ma jednak wątpliwości, że AI Act obejmuje swym zakresem często kontrowersyjne zagadnienia, a wypracowanie ostatecznej wersji aktu będzie wymagać kompromisu, który zapewne nie zadowoli wszystkich stron dyskusji.

Dalszy etap prac

Przed upływem okresu francuskiej prezydencji, Rada Europejska ma zaproponować kolejny kompromisowy kształt rozporządzenia, a także raport podsumowujący obecny etap prac. W zakresie dyskusji prowadzonej w Parlamencie Europejskim, założono że głosowanie w ramach połączonego komitetu IMCO i LIBE powinno odbyć się w październiku 2022 r., zaś na kolejny miesiąc – listopad zaplanowano przeprowadzenie głosowania na sali plenarnej.

Ze względu jednak na powstałe wątpliwości i rozbieżności w zakresie kierunku, w jakim powinno podążać rozporządzenie, można spodziewać się opóźnień w procesie prawodawczym, w stosunku do pierwotnego harmonogramu. W związku z powyższym pojawiają się sygnały, że głosowanie nad projektem na posiedzeniu plenarnym może przesunąć się nawet na przyszły rok.

Warto trzymać rękę na pulsie. Rozporządzenie będzie miało wpływ na bardzo wiele obszarów gospodarki, a jego ostateczny kształt wymusi wdrożenie wielu zmian w codziennym funkcjonowaniu nie tylko dużych, ale i mniejszych podmiotów, wykorzystujących w codziennej pracy nie tylko systemy, ale i elementy sztucznej inteligencji.