System AI wysokiego ryzyka

System AI wysokiego ryzyka to zdefiniowana w akcie o sztucznej inteligencji UE kategoria ryzyka dla zastosowań AI, które mogą mieć istotny wpływ na zdrowie, bezpieczeństwo lub prawa podstawowe, na przykład w selekcji kandydatów, przyznawaniu kredytów czy medycynie. Dla tych systemów obowiązują szczególnie surowe wymogi, znacznie wykraczające poza zwykły obowiązek przejrzystości.

Czym jest system AI wysokiego ryzyka?

Akt o sztucznej inteligencji UE dzieli AI według ryzyka. Drugi najwyższy poziom, „wysokie ryzyko”, obejmuje systemy AI, które mogą istotnie wpływać na zdrowie, bezpieczeństwo lub prawa podstawowe ludzi. Takie systemy nie są zakazane, ale podlegają szczególnie surowym wymogom.

Uwaga dla porządku: ten wpis służy orientacji, nie poradzie prawnej. Czy konkretny system uchodzi za wysokiego ryzyka, ustal z prawnikiem.

Typowe przykłady

Do obszarów, w których AI może być sklasyfikowana jako wysokiego ryzyka, należą między innymi:

• AI w selekcji personelu, na przykład automatyczne wstępne sortowanie aplikacji.
• AI w ocenie zdolności kredytowej osób prywatnych.
• AI w infrastrukturze krytycznej, wyrobach medycznych lub ściganiu przestępstw.

Zwykły chatbot AI do obsługi klienta z reguły nie wpada w tę kategorię, lecz w poziom „ograniczone ryzyko” z obowiązkiem przejrzystości.

Jakie obowiązki obowiązują?

Systemy wysokiego ryzyka niosą dalej idące wymogi niż sama informacja. Należą do nich na przykład zarządzanie ryzykiem, wymogi co do jakości danych, dokumentacja techniczna, nadzór człowieka i rejestrowanie zdarzeń. Dokładny katalog obowiązków i terminy przejściowe są uregulowane w akcie o AI i częściowo zaczynają obowiązywać później niż obowiązki przejrzystości z artykułu 50 (które obowiązują od 2 sierpnia 2026).

Co to oznacza dla MŚP

Dla większości małych i średnich firm poziom wysokiego ryzyka nie jest codziennością. Ważna jest czysta klasyfikacja: bot serwisowy, który odpowiada na pytania i rezerwuje terminy, to zwykle „ograniczone ryzyko”. Jeśli natomiast stosujesz AI w wrażliwych decyzjach, jak selekcja kandydatów, warto wcześnie zlecić sprawdzenie, czy działają obowiązki wysokiego ryzyka.

SendSeven w obsłudze klienta

SendSeven to platforma Unified Messaging dla WhatsApp, Telegram, SMS, Instagram, Messenger, e-mail, czat na żywo i powiadomienia push. Obszar zastosowania to komunikacja z klientem, która typowo wpada w „ograniczone ryzyko”. Asystent AI wspiera Cię we właściwym obowiązku: konfigurowalna informacja o AI czyni bota rozpoznawalnym, z przekazaniem pracownikowi w każdej chwili. Skonfigurowane przez agentów AI. Zgodne z RODO, Made in Germany, Meta Business Partner. 14 dni za darmo bez karty kredytowej.