Od 1 sierpnia 2024 roku weszła w życie ustawa o sztucznej inteligencji (AI) w Unii Europejskiej. Choć jej pełne wdrożenie zajmie kilka lat, już teraz wyznacza nowe standardy w zakresie zarządzania, bezpieczeństwa i ryzyka związanego z AI. Wprowadzane przepisy mają na celu ochronę praw podstawowych, demokracji i rządów prawa, a także zapewnienie, że systemy AI będą działały w sposób przejrzysty, zrozumiały i niedyskryminacyjny.
Klasyfikacja ryzyka i zakazy
Nowe przepisy dzielą aplikacje AI na trzy kategorie ryzyka: niedopuszczalne, wysokie i ograniczone. Systemy o niedopuszczalnym ryzyku, takie jak punktacja społeczna, zabawki z pomocą głosową oraz bazy danych rozpoznawania twarzy tworzone poprzez skrobanie Internetu, są całkowicie zakazane. Użycie AI do wnioskowania o emocjach w miejscach pracy również zostało zabronione.
Przypadki użycia AI o wysokim ryzyku obejmują technologie stosowane w biometrii, infrastrukturze krytycznej oraz w procesach rekrutacji i zatrudnienia. Systemy te muszą spełniać surowe wymagania dotyczące przejrzystości, monitorowania i zgodności z prawem. Aplikacje AI o ograniczonym ryzyku, takie jak chatboty, podlegają lżejszym obowiązkom, skupiającym się głównie na przejrzystości.
Etapy wdrażania i egzekwowania przepisów
Choć ustawa weszła w życie w sierpniu 2024 roku, egzekwowanie poszczególnych przepisów będzie rozłożone na kilka lat. W lutym 2025 roku zaczną obowiązywać zakazy niedopuszczalnych przypadków użycia AI, a w sierpniu tego samego roku dostawcy modeli AI ogólnego przeznaczenia będą musieli publikować podsumowanie treści użytych do szkolenia modeli oraz dokumentację techniczną.
Do sierpnia 2027 roku wszystkie modele AI ogólnego przeznaczenia, dostępne na rynku przed sierpniem 2025 roku, muszą być w pełni zgodne z nowymi przepisami. W tym czasie, organy regulacyjne w każdym kraju UE mają identyfikować odpowiednie organy egzekwujące przepisy i przeprowadzać regularne audyty oraz badania.
Konsekwencje dla przedsiębiorstw i konsumentów
Dostawcy i firmy korzystające z systemów AI muszą dostosować się do nowych regulacji, aby uniknąć surowych kar finansowych. Za nieprzestrzeganie przepisów grożą grzywny do 35 milionów euro lub do 7% rocznych obrotów globalnych firmy. Naruszenia dotyczące dostarczania niekompletnych lub wprowadzających w błąd informacji mogą skutkować karami do 7,5 miliona euro.
Dla konsumentów nowe przepisy oznaczają większą ochronę przed ryzykownymi aplikacjami AI, zwłaszcza w zakresie rozpoznawania twarzy i wnioskowania o emocjach w przestrzeni publicznej i miejscach pracy. Konsumenci będą również lepiej poinformowani o tym, które programy wykorzystują AI, co zwiększy przejrzystość i zaufanie do tych technologii.
Reakcje i przyszłość regulacji
Eksperci są podzieleni co do wpływu nowych regulacji na rozwój technologii AI. Z jednej strony przepisy te mogą stanowić wzór dla reszty świata, podobnie jak RODO. Z drugiej strony, istnieje obawa, że zbyt surowe regulacje mogą spowolnić innowacje i rozwój technologiczny. Komisja Europejska zobowiązała się do corocznego przeglądu listy przypadków wysokiego ryzyka, aby dostosować przepisy do szybko zmieniających się realiów technologicznych.
Nowe prawo AI w UE to krok w kierunku bardziej bezpiecznego i przejrzystego wykorzystania sztucznej inteligencji, mający na celu ochronę obywateli i zachowanie fundamentalnych wartości unijnych. Wyzwania związane z jego wdrażaniem i przyszłością regulacji będą wymagały stałej uwagi zarówno ze strony legislatorów, jak i branży technologicznej.
Nowa ustawa o sztucznej inteligencji, która weszła w życie w Unii Europejskiej, wywołuje znaczące zmiany w sposobie zarządzania technologią w firmach, szczególnie z perspektywy dyrektorów ds. informatycznych (CIO).
Zmiana priorytetów i współpraca z działami zgodności
Jednym z najważniejszych skutków nowej ustawy jest zmiana priorytetów w pracy CIO. Zarządzanie systemami AI staje się teraz nie tylko kwestią technologiczną, ale również prawną i etyczną. CIO będą musieli ściślej współpracować z działami zgodności, prywatności oraz zespołami prawnymi, aby upewnić się, że ich systemy AI są zgodne z nowymi regulacjami. Wymaga to zacieśnienia współpracy między różnymi działami firmy, co może prowadzić do większej koordynacji i zaangażowania na wszystkich szczeblach organizacji.
Koszty wdrażania i zgodności
Nowe przepisy wiążą się z dodatkowymi kosztami. Tworzenie szczegółowej dokumentacji technicznej, zapewnianie przejrzystości procesów szkoleniowych oraz przestrzeganie praw autorskich oznacza dodatkowe nakłady finansowe i czasowe. Firmy będą musiały inwestować w nowe narzędzia i zasoby ludzkie, aby sprostać tym wymaganiom. Dla niektórych przedsiębiorstw może to stanowić poważne obciążenie, zwłaszcza jeśli nie posiadają one wystarczających zasobów.
Korzyści dla konsumentów i rynku
Jednakże, mimo wyzwań, nowe regulacje mogą przynieść również korzyści. Przejrzystość i bezpieczeństwo systemów AI mogą zwiększyć zaufanie konsumentów do nowych technologii, co w dłuższej perspektywie może przyczynić się do wzrostu rynku. Klienci będą lepiej chronieni przed ryzykownymi aplikacjami AI, co zwiększy ich poczucie bezpieczeństwa i może zachęcić do większego wykorzystania nowoczesnych technologii.
Wpływ na innowacje
Jednym z głównych zarzutów wobec nowych przepisów jest obawa, że mogą one spowolnić innowacje. Surowe regulacje mogą zniechęcać firmy do eksperymentowania i wdrażania nowych rozwiązań z obawy przed niezgodnością z prawem i wysokimi karami. Jednak z drugiej strony, regulacje te mogą również stymulować rozwój bardziej odpowiedzialnych i etycznych technologii, co w dłuższej perspektywie może przynieść korzyści całemu społeczeństwu.
Nowa ustawa o sztucznej inteligencji w UE z pewnością zmienia krajobraz technologiczny i sposób, w jaki CIO zarządzają systemami AI. Choć wiąże się to z wyzwaniami i dodatkowymi kosztami, może również przynieść korzyści w postaci większego zaufania konsumentów i bardziej odpowiedzialnych technologii. Kluczowe będzie znalezienie równowagi między zapewnieniem zgodności z przepisami a zachowaniem innowacyjnego podejścia, co stanowić będzie duże wyzwanie dla współczesnych liderów technologicznych.
