Kartele sztucznej inteligencji - czyli ograniczanie konkurencji na rynku AI. Kto za to ponosi odpowiedzialność?

• Czym są kartele?
• Regulacje dotyczące praktyk monopolowych w UE
• Algorytmy w służbie monopolistów? Możliwe scenariusze
• A co jeśli to same algorytmy prowadzą do stworzenia karteli?

Czym są kartele?

Jedną z fundamentalnych zasad gospodarki rynkowej jest ochrona konkurencyjności, a jedne z największych zagrożeń dla jej utrzymania wynikają z porozumień ograniczających konkurencyjność w danym segmencie gospodarki, prowadząc do przejęcia kontroli nad nią np. przez dwa podmioty. W niektórych przypadkach, państwa uznają, że w pewnych gałęziach gospodarki powinny mieć monopol, chociażby w odniesieniu do kluczowych usług. W większości jednak przypadków monopol, oligopol, w tym kartele są zjawiskami i praktykami ekonomicznie głęboko nieuzasadnionymi z perspektywy państwa, a przede wszystkim nielegalnymi. Regulacje w tym zakresie posiada większość świata, w tym USA oraz UE. Rozwój technologii wymusza nowe spojrzenia na tę kwestię, a to z tego powodu, że porozumienia zawierane przez przedsiębiorców mogą przybierać coraz bardziej skomplikowane i niecodzienne formy, utrudniające wykrycie nielegalnego procederu, na czym zależy przecież podmiotom zawierającym porozumienie. Ostatnie kilka lat wymusza refleksję prowadzącą jeszcze głębiej.

Co bowiem, gdy to algorytmy współdecydują lub decydują np. o cenie produktu w ten sposób, że efektem staje się radykalne zmniejszenie konkurencyjności w danym segmencie? Albo, jak należałoby ocenić sytuacje, w której dochodzi do „porozumienia” samych algorytmów, np. dwa systemy, działające dla dwóch podmiotów, oparte w znacznej mierze na generatywnej sztucznej inteligencji mogłyby niezależnie od siebie dojść do dość logicznego w zasadzie wniosku, że znacznie większe korzyści przyniosłaby współpraca z drugim podmiotem, np. na zasadzie dumpingu cenowego lub odwrotnie, regularnego, wspólnego podnoszenia cen. Z punktu widzenia prawa taka sytuacja może być niejasna, chociażby z tego powodu, że większość regulacji w zakresie konkurencji powstała z myślą o bardziej „tradycyjnych” ich rodzajach. W Stanach Zjednoczonych reguluje tę kwestię ustawa z 1890 roku, tzw. ustawa Shermana, kwalifikująca niektóre z porozumień pomiędzy przedsiębiorstwami jako przestępstwa.

Regulacje dotyczące praktyk monopolowych w UE

W Unii Europejskiej z kolei najważniejszym przepisem regulującym te kwestie jest art. 101 Traktatu o Funkcjonowaniu Unii Europejskiej (TFUE), regulujący zachowania niezgodne z rynkiem wewnętrznym. Stanowi on, że niezgodne z rynkiem wewnętrznym i zakazane są: wszelkie porozumienia między przedsiębiorstwami, wszelkie decyzje związków przedsiębiorstw i wszelkie praktyki uzgodnione, które mogą mieć wpływ na handel między Państwami Członkowskimi i których celem lub skutkiem jest zapobieżenie, ograniczenie lub zakłócenie konkurencji wewnątrz rynku wewnętrznego, a w szczególności te, które polegają na: ustalaniu w sposób bezpośredni lub pośredni cen zakupu lub sprzedaży albo innych warunków transakcji; ograniczaniu lub kontrolowaniu produkcji, rynków, rozwoju technicznego lub inwestycji; podziale rynków lub źródeł zaopatrzenia; stosowaniu wobec partnerów handlowych nierównych warunków do świadczeń równoważnych i stwarzaniu im przez to niekorzystnych warunków konkurencji; lub uzależnianiu zawarcia kontraktów od przyjęcia przez partnerów zobowiązań dodatkowych, które ze względu na swój charakter lub zwyczaje handlowe nie mają związku z przedmiotem tych kontraktów. Co istotne porozumienia lub decyzje zakazane na mocy tego artykułu są nieważne z mocy prawa.

Wyjątki stanowią takie porozumienia, które przyczyniają się do polepszenia produkcji lub dystrybucji produktów bądź do popierania postępu technicznego lub gospodarczego, przy zastrzeżeniu dla użytkowników słusznej części zysku, który z tego wynika, oraz bez nakładania na zainteresowane przedsiębiorstwa ograniczeń, które nie są niezbędne do osiągnięcia tych celów oraz dawania przedsiębiorcom możliwości eliminowania konkurencji w stosunku do znacznej części danych produktów.

Sytuacja na gruncie tego przepisu jest jasna w odniesieniu do wszelkich porozumień, w tym takich, w których „biorą udział” algorytmy – klasyczne lub sztuczna inteligencja. W szczególności przemawia za tym sformułowanie „wszelkie decyzje związków przedsiębiorstw i wszelkie praktyki uzgodnione, które mogą mieć wpływ na handel między Państwami Członkowskimi”. O ile oczywiście potraktujemy algorytm wyłącznie jako narzędzie służące wykonaniu porozumienia. Rozwój technologii pokazuje, że może być jednak inaczej.

Algorytmy w służbie monopolistów? Możliwe scenariusze

W dokumencie opublikowanym przez Urząd Ochrony Konkurencji i Konsumentów „Środki algorytmicznej koordynacji zachowań przedsiębiorstw w świetle prawa antymonopolowego Unii Europejskiej” wskazano na cztery potencjalne scenariusze wykorzystania algorytmów w zmowach. Pierwszym z nich jest zmowa wyraźna wprowadzona w życie za pomocą algorytmów. Chodzi o sytuację, w której zmowa zawierana jest między ludźmi, a algorytmy służą jedynie do wprowadzania porozumienia w życie, ewentualnie także nadzorowania poziomu cen czy automatycznego reagowania w przypadku odstępstw. W takich przypadkach przypisanie odpowiedzialności może być jak najbardziej możliwe. Mamy do czynienia wówczas z zachowaniem, które zakwalifikować można jako praktykę uzgodnioną, świadomą, skoordynowaną. W dokumencie UOKiK-u stwierdzono, że: w scenariuszu, w którym algorytmy używane są instrumentalnie do wprowadzenia w życie lub nadzorowania wcześniej zawartej zmowy wyraźniej, automatyzacja działań kartelu stanowi jedynie przedłużenie ludzkiej woli. O ile więc zachodzi koordynacja odpowiadająca przesłankom zmowy cenowej, pozostaje bez znaczenia, jakiego dokładnie środka użyto do tej koordynacji. O ile przypisanie odpowiedzialności za tego rodzaju zmowę wydają są jak najbardziej możliwe, co potwierdza przywoływany w dokumencie przykład oceny brytyjskiego organu ochrony konkurencji kwalifikującą taką sytuację jako działanie ograniczające konkurencję tak o wiele trudniejsze wydaje się być wykrycie tego rodzaju porozumień. Wskazuje się w tym kontekście na uprawnienia kontrole Komisji Europejskiej przyznane jej mocą art.20 Rozporządzenia Rady (WE) nr. 1/2003 z dnia 16 grudnia 2002 roku (ze zmianami).

Drugi scenariusz jest interesujący, bo nie mamy w tym przypadku do czynienia z klasycznym porozumieniem. Chodzi mianowicie o konfigurację polegającą na użyciu algorytmu w tzw. relacji hub and spoke, gdzie hub jest podmiotem stojących wyżej w stosunku do konkurujących ze sobą podmiotów i to on zarządza algorytmem. Nie istnieje więc wymiana informacji na poziomie podmiotów na płaszczyźnie poziomej, ale efekt jak i cel są podobne i mają charakter ograniczający konkurencję. W takim przypadku dowodzenie istnienia kartelu jest rzecz jasna znacznie trudniejsze, ale także możliwe. W wyroku TSUE w sprawie C-74/14 Trybunał wskazał, że istnienie uzgodnionej praktyki lub porozumienia, a więc środka koordynacji zachowań przedsiębiorstw, wywodzi się często ze zbiegów okoliczności oraz poszlak, które przy łącznym rozpoznaniu mogą stanowić dowód naruszenia art.101 ust.1 TFUE. Samo wysłanie informacji poprzez skomputeryzowany system może uzasadnić domniemanie, że biura się z nią zapoznały, a co za tym idzie że brały udział w praktyce uzgodnionej. Domniemanie to może jednak zostać obalone przez udowodnienie, że nie otrzymały one tej wiadomości albo że jej nie odczytały. Moment przyjęcia uczestnictwa w praktyce uzgodnionej został więc uzależniony od momentu zapoznania się z treścią wiadomości. W przypadku jednak, w którym biuro podróży otwarcie zdystansowało się od praktyki lub zawiadomiło o niej odpowiednie organy, brak odpowiedzialności za naruszenie.

A co jeśli to same algorytmy prowadzą do stworzenia karteli?

Jeszcze bardziej subtelnym i trudnym do analizy przypadkiem jest konfiguracja, w której komunikacji między ludźmi jest bardzo mało lub nie ma jej w ogóle. Można sobie bowiem wyobrazić scenariusz zmowy milczącej osiągniętej za pomocą algorytmów, w której przedsiębiorstwa posiadające dostęp do gigantycznej liczby danych przy pomocy stosowanych niezależnie algorytmów cenowych doprowadzają bez komunikacji do osiągnięcia na rynku monopolistycznego poziomu cen.
W raporcie UKOiK-u w celu przedstawienia tego przypadku przywoływana jest amerykańska wyspa Martha’s Vineyard, na której zaledwie kilku przedsiębiorców prowadzi stacji benzynowe, a sytuacja pod względem strony popytowej i podażowej jest bardzo przewidywalna. W takich okolicznościach wszelkie obniżki ceny przez jednego z przedsiębiorców okazują się nierozsądne, a to z tego powodu, że każda z takich obniżek wygeneruje także obniżki u konkurencji, co w konsekwencji oznaczać będzie spadek marży dla każdego z przedsiębiorców. Jedyną opłacalną strategią więc z punktu widzenia stacji benzynowych jest utrzymywanie stale cen powyżej poziomu konkurencyjnego. Dokładnie taką samą sytuację można wyobrazić sobie w tym scenariuszu. Coraz częstsze korzystanie z algorytmów w ustalaniu cen (w niektórych branżach będące na porządku dziennym, np. rynek lotniczy) może prowadzić do sytuacji, w której racjonalną decyzją każdego przedsiębiorcy w danym segmencie będzie także korzystanie z algorytmów cenowych, by nadążać za zmianami nad dynamicznymi zmianami cen na rynku będących wynikiem manipulacji algorytmu. Jeżeli jednak niemal każdy lub każdy istotny podmiot na rynku będzie korzystał w ten sposób z algorytmicznego ustalania cen, to sytuacja stanie się podobna do tej z amerykańskiej wyspy. W końcu jakiekolwiek obniżenie ceny produktu jednego przedsiębiorcy przez algorytm nie okażę się skuteczne i nie zachęci do zakupu, ponieważ jego konsekwencją będzie automatycznego obniżenie ceny także u konkurencji.

W sytuacji, w której nie istnieje możliwość konkurowania przedsiębiorców o klienta za pomocą obniżenia ceny, racjonalnym jest jej podniesienie do poziomu wyższego niż wynikałby z równowagi między podażą i popytem. Jak wskazuje się w raporcie taka sytuacja w pierwszej kolejności będzie zachodzić na rynkach wysoce homogenicznych. Z punktu widzenia prawnego taka sytuacja jest trudna do oceny z tego względu, że jednocześnie sposób oczywisty zostaje ograniczona konkurencja, ale bez udziału komunikacji pozwalającej uznać ograniczenie konkurencji jako skutek zawartego pomiędzy przedsiębiorstwami porozumienia. Na ten moment wydaje się, że taka sytuacja nie jest w sposób jednoznaczny uregulowana, a jest w sposób oczywisty konsekwencją rozwoju technologicznego i automatycznego zbierania dużych agregatów danych wejściowych dotyczących otoczenia i przetwarza ich przez przy pomocy algorytmów, co przecież samo w sobie nie jest zakazane.

Ostatnim i najbardziej posuniętych w przyszłość scenariuszem jest na ten moment jeszcze teoretyczna konstrukcja, która jednak przez postęp osiągnięty w ostatnich kilku latach w dziedzinie sztucznej inteligencji wydaje się nie być aż tak mało prawdopodobna. Chodzi o sytuację, w której już nie klasyczne algorytmy zaprogramowane i służące do ustanawiania poziomu cen, ale systemy oparte o sztuczną inteligencję, posiadające zdolność nie tylko do odtwarza nauczonej reguły, ale do wnioskowania, uogólniania i generowania zupełnie nowych treści miałyby doprowadzić do takiej zmowy. Jedną z kluczowych cech sztucznej inteligencji poza wymienionymi powyżej jest także pewien poziom autonomii, a także zdolność do samouczenia się i trenowania. W przywołanym wcześniej scenariuszu trzecim możliwe byłoby do przeanalizowania czy algorytm stworzony przez programistę został zaprojektowany w ten sposób, by prowadzić do stworzenia kartelu i ograniczyć konkurencję czy na przykład jest to efekt powszechnego wykorzystania algorytmów przez wszystkie podmioty na rynku i nie sposób przypisać mu takiej odpowiedzialności. Inaczej może być jednak w przypadku systemów opartych na sztucznej inteligencji, chociażby z tego powodu, że raz zaprojektowane mogą „ewoluować” w nieco innym kierunku, co oznacza, że brakuje elementy statycznego występującego w klasycznych algorytmach. Sytuacja, w której zaawansowane algorytmy samodzielnie rozpoznają współzależność i zachowują się niezależnie w sposób równoległy, nie różni się w ocenie prawnej od trzeciego scenariusza dotyczącego mniej skomplikowanych algorytmów na rynkach produktów homogenicznych. Zachowanie takie prawdopodobnie należy uznać za zgodne z art.101 ust.1 TFUE.

W niektórych przypadkach odpowiedzialność może ponosić także dostawca algorytmu. W raporcie UOKiK-u wskazuje się, że konieczne jest spełnienie jednak kilku warunków. Po pierwsze, jeśli dostawca działał pod kontrolą przedsiębiorstwa zaangażowanego w praktykę naruszającą prawo konkurencji. Po drugie, jeśli twórca algorytmu jest świadomy antykonkurencyjnego celu, do którego dążą przedsiębiorstwa na innym rynku i zamierza przyczynić się do niego swoim zachowaniem. Po trzecie wreszcie, jeśli dostawca mógł przy zachowaniu należytej staranności przewidzieć wystąpienie praktyki ograniczającej konkurencję i gotów był zaakceptować wynikające stąd ryzyko. Ważne zmiany mogą wynikać z regulacji nie dotyczących wprost regulacji chroniących konkurencyjność, ale innych nakładających liczne obowiązki na dostawców i twórców oprogramowania, np. AI Act ustanawiający obowiązki dotyczące transparentności i instrumenty nadzorcze czy DSA wprowadzające obowiązki informacyjne i audyty algorytmów. Tego rodzaju regulację mogą pomagać w przejrzystości systemu i ograniczać możliwości wykorzystania algorytmów, w tym także systemów opartych o sztuczną inteligencję do praktyk monopolistycznych.

Ustalanie cen API modeli językowych mógłby być przykładem kartelu AI. Kartel cenowy powstaje, gdy konkurujące firmy uzgadniają między sobą ceny, zamiast ustalać je niezależnie. W kontekście AI oznaczałoby to zatem, na przykład, wspólne ustalenie minimalnej ceny za 1 mln tokenów, uzgodnione podwyżki cen API, ustalenie wspólnych progów darmowego dostępu, eliminację tańszych planów. To byłoby klasyczne naruszenie prawa antymonopolowego. W takim przypadku, regulatorzy (np. Federal Trade Commission czy Komisja Europejska) szukaliby takich sygnałów jak identyczne i równoczesne podwyżki cen bez uzasadnienia kosztowego, ujawnione komunikacje między firmami, wspólne ustalenia dotyczące standardów ograniczających konkurencję, czy zamykanie dostępu do infrastruktury GPU dla nowych graczy. W tym kontekście, przykładowo, inwestycje chmurowe w startupy AI lub długoterminowe umowy infrastrukturalne, choć same w sobie nie są nielegalne, mogą zmniejszać realną konkurencję.

Autor: K. Jakub Gładkowski, radca prawny KG LEGAL KIEŁTYKA GŁADKOWSKI