Stronniczość (bias) systemu AI to systematyczne odchylenie wyników na niekorzyść określonych osób lub grup, które może prowadzić do dyskryminacji. Etyka AI zamienia się dziś w konkretne obowiązki: AI Act wymaga badania danych pod kątem stronniczości i nadzoru człowieka, a nowelizacja z lipca 2026 roku zmieniła część tych reguł i terminów.
Na skróty
Czego dowiesz się z artykułu:
- Skąd bierze się stronniczość modeli i dlaczego nie rozwiązuje jej samo „usunięcie wrażliwych kolumn”
- Które artykuły AI Act dotyczą danych, stronniczości i nadzoru człowieka
- Co zmieniło rozporządzenie Digital Omnibus on AI i jakie terminy obowiązują po zmianie
- Jak zespół może mierzyć sprawiedliwość modelu
Dla kogo jest ten artykuł:
- Właściciele produktów i kierownicy projektów AI
- Zespoły danych i uczenia maszynowego
- Osoby odpowiedzialne za zgodność, ryzyko i ochronę danych
Czas czytania: 7 minut
Skąd bierze się stronniczość w systemach AI
Model uczy się na danych, a dane opisują świat taki, jaki był, a nie taki, jaki powinien być. Jeżeli historyczne decyzje kredytowe albo rekrutacyjne były nierówne, model nauczy się tej nierówności i będzie ją powtarzał w skali. Motyw preambuły AI Act poświęcony zarządzaniu danymi wskazuje dokładnie ten mechanizm: stronniczość bywa nieodłączną cechą danych historycznych, a gdy wyniki systemu wpływają na dane, na których system będzie się dalej uczył, efekt może się wzmacniać (sprzężenie zwrotne).
Usunięcie z danych kolumny „płeć” czy „wiek” zwykle nie wystarcza. Inne cechy, takie jak kod pocztowy, ścieżka zawodowa albo przerwy w zatrudnieniu, potrafią pełnić rolę pośrednika. Dlatego etyka AI w praktyce nie polega na deklaracjach, tylko na pomiarze: trzeba sprawdzić, jak model traktuje poszczególne grupy, a potem zdecydować, co z tym zrobić.
Co AI Act wymaga w sprawie danych i nadzoru
Rozporządzenie (UE) 2024/1689, czyli AI Act, opublikowane w eur-lex.europa.eu, opisuje stronniczość przede wszystkim w wymogach dla systemów wysokiego ryzyka:
- Art. 10 ust. 2 lit. f i g — praktyki zarządzania danymi treningowymi, walidacyjnymi i testowymi obejmują badanie danych pod kątem ewentualnej stronniczości oraz środki jej wykrywania, zapobiegania jej i ograniczania.
- Art. 10 ust. 3 — zbiory danych muszą być adekwatne, wystarczająco reprezentatywne i w jak największym stopniu wolne od błędów.
- Art. 14 — nadzór ze strony człowieka. Osoba nadzorująca ma rozumieć możliwości i ograniczenia systemu, pozostawać świadoma tendencji do nadmiernego polegania na wyniku (tzw. błąd automatyzacji) i móc zignorować, unieważnić albo odwrócić wynik systemu.
Obowiązki rozkładają się między role. Dostawca projektuje dane i mechanizmy nadzoru, podmiot stosujący używa systemu zgodnie z instrukcją i wyznacza osoby sprawujące nadzór. Preambuła AI Act w eur-lex.europa.eu przypomina też niewiążące zasady etyczne grupy ekspertów wysokiego szczebla z 2019 r., wśród nich różnorodność, niedyskryminację i sprawiedliwość.
Najważniejsze zmiany: harmonogram i nowelizacja
Od 2 lutego 2025 r. stosuje się, zgodnie z art. 113 tekstu w eur-lex.europa.eu, rozdziały I i II AI Act, w tym zakazane praktyki z art. 5 i obowiązek dotyczący kompetencji w zakresie AI z art. 4.
Rozporządzenie (UE) 2026/1744 (Digital Omnibus on AI) z 8 lipca 2026 r. weszło w życie 27 lipca 2026 r. Tekst jest dostępny w eur-lex.europa.eu. Zmiany istotne dla etyki i stronniczości:
- Nowy art. 4a. Podstawa prawna wyjątkowego przetwarzania szczególnych kategorii danych osobowych w celu wykrywania i korygowania stronniczości przeszła z art. 10 ust. 5 (skreślonego) do osobnego artykułu. Obejmuje teraz także podmioty stosujące systemy wysokiego ryzyka oraz dostawców i podmioty stosujące inne systemy i modele AI. Warunki pozostały ostre: brak możliwości użycia danych syntetycznych lub zanonimizowanych, pseudonimizacja, kontrola dostępu, usunięcie danych po skorygowaniu stronniczości i uzasadnienie w rejestrze czynności przetwarzania. Ust. 2 wprost zastrzega, że nie tworzy obowiązku takiego badania.
- Nowe brzmienie art. 4. Dostawcy i podmioty stosujące „podejmują środki, które wspierają rozwój kompetencji w zakresie AI” personelu. Przepis zastrzega, że nie oznacza to obowiązku zapewnienia określonego poziomu kompetencji.
- Nowe zakazy w art. 5 dotyczące systemów generujących intymne wizerunki rozpoznawalnych osób bez ich zgody oraz materiały przedstawiające wykorzystywanie seksualne dzieci — stosowane od 2 grudnia 2026 r.
- Przesunięte terminy dla systemów wysokiego ryzyka. Wymogi z rozdziału III sekcje 1–3, w tym art. 10 i art. 14, stosuje się od 2 grudnia 2027 r. dla systemów z załącznika III i od 2 sierpnia 2028 r. dla systemów z załącznika I.
Poza Unią ważnym punktem odniesienia pozostają ramy NIST. Według strony NIST w www.nist.gov AI Risk Management Framework 1.0 z 26 stycznia 2023 r. jest obecnie rewidowany, a 7 kwietnia 2026 r. NIST opublikował notę koncepcyjną profilu AI RMF dla infrastruktury krytycznej.
Jak mierzyć sprawiedliwość modelu
Przesunięcie terminów nie oznacza, że temat można odłożyć: dane i procesy trzeba przygotować przed datą stosowania. Dokumentacja Azure Machine Learning w learn.microsoft.com, opisująca otwartoźródłowy pakiet Fairlearn, porządkuje pomiar wokół dwóch rodzajów szkód: szkody alokacji (system przyznaje albo odmawia szans, zasobów lub informacji) i szkody jakości usługi (system działa gorzej dla jednej grupy niż dla innej).
Punktem wyjścia jest różnica w odsetku decyzji pozytywnych między grupami, na przykład w odsetku przyznanych kredytów. Fairlearn obsługuje ograniczenia parytetowe: parytet demograficzny służy ograniczaniu szkód alokacji, a wyrównane szanse (equalized odds) i równość szans (equal opportunity) — diagnozowaniu szkód alokacji i jakości usługi w klasyfikacji binarnej. Wybór miary należy do zespołu i trzeba go uzasadnić. Ta sama dokumentacja podkreśla, że ocena sprawiedliwości nie jest wyłącznie ćwiczeniem technicznym.
Praktyczna sekwencja dla zespołu:
- Zidentyfikuj grupy, wobec których system będzie używany, i cechy wrażliwe.
- Zmierz wyniki modelu w podziale na grupy i zapisz wybraną miarę wraz z uzasadnieniem.
- Zaplanuj korektę: lepsze dane, zmiana progu decyzji albo algorytm ograniczający różnice.
- Wyznacz osobę nadzorującą i opisz, kiedy może zatrzymać system lub odrzucić jego wynik.
Czytaj także
- AI Act — co zmienia się dla zespołów IT — kalendarz wymogów po nowelizacji
- AI Act a kompetencje zespołu — przygotowanie ludzi do pracy z AI
- Zarządzanie ryzykiem IT w praktyce — rejestr ryzyk, do którego warto dopisać ryzyka AI
Rozwijaj kompetencje
Temat rozwijają szkolenia Etyka i odpowiedzialna sztuczna inteligencja w biznesie oraz Wyjaśnialna sztuczna inteligencja — EU AI Act, LIME/SHAP i etyka AI dla zarządów. Pierwsze obejmuje stronniczość algorytmów i budowę ładu AI, drugie metryki sprawiedliwości i wyjaśnialność modeli. Skontaktuj się z nami, żeby dopasować zakres do swojego zespołu.
Najczęściej zadawane pytania (FAQ)
Czym jest etyka AI w praktyce firmy?
To zestaw decyzji o tym, jak system AI traktuje ludzi: czyje dane wykorzystuje, kogo może skrzywdzić błędem i kto odpowiada za wynik. W praktyce oznacza pomiar stronniczości, dokumentowanie wyborów projektowych oraz wyznaczenie osób, które nadzorują system i mogą odrzucić jego decyzję.
Co AI Act oznacza dla firm po ostatniej nowelizacji?
Według tekstów aktów w eur-lex.europa.eu zakazy z art. 5 obowiązują od 2 lutego 2025 r., a nowe zakazy dodane nowelizacją — od 2 grudnia 2026 r. Wymogi dla systemów wysokiego ryzyka zostały przesunięte na 2 grudnia 2027 r. (załącznik III) i 2 sierpnia 2028 r. (załącznik I). Firma powinna wiedzieć, które jej systemy mogą trafić do tych kategorii, i przygotować dane oraz nadzór z wyprzedzeniem.
Czy pracowników trzeba przeszkolić z AI Act?
Art. 4 w brzmieniu nadanym rozporządzeniem (UE) 2026/1744 (eur-lex.europa.eu) wymaga, by dostawcy i podmioty stosujące podejmowali środki wspierające rozwój kompetencji w zakresie AI swojego personelu, z uwzględnieniem kontekstu użycia systemów. Przepis nie narzuca formy ani nie wymaga zapewnienia określonego poziomu wiedzy. Szkolenie jest jednym z możliwych środków, a nie jedynym.
Jakie wymogi dotyczą stronniczości w systemach wysokiego ryzyka?
Art. 10 ust. 2 lit. f i g AI Act (eur-lex.europa.eu) wymaga badania danych pod kątem stronniczości oraz środków jej wykrywania i ograniczania, a art. 14 — skutecznego nadzoru człowieka. Szczególne kategorie danych osobowych można w tym celu przetwarzać wyłącznie wyjątkowo, na warunkach art. 4a, gdy danych syntetycznych lub zanonimizowanych nie da się skutecznie użyć.