Pod kontrolą

W zeszłym tygodniu dowiedzieliśmy się, że Unia Europejska planuje uregulować prawnie korzystanie ze sztucznej inteligencji. Mowa tu zwłaszcza o systemach wpływających bezpośrednio na ludzi. Byłyby to pierwsze tego typu regulacje na świecie. Ich celem jest zagwarantowanie ochrony praw człowieka. Nowe przepisy mają obowiązywać we wszystkich krajach członkowskich. Często nazywa się je "cyfrowym RODO".

System ocen

Przede wszystkim regulacje zabronią korzystania ze wszelkich systemów SI, które zostały zakwalifikowane jako zagrażające bezpieczeństwu lub swobodzie obywateli. Jest to reakcja na kontrowersje związane z działającymi w Chiach systemami rozpoznawania twarzy albo baz danych określających wiarygodność społeczną obywateli. Komisja chce w ten sposób pokazać, że problem nie będzie dotyczył Europy.

Do oceny konkretnych systemów organ unijny będzie stosował podział na cztery kategorie: systemy niewielkiego ryzyka, ograniczonego ryzyka, wysokiego ryzyka i niedopuszczalne. Jedynie systemy należące do ostatniej grupy nie będą mogły być stosowane w żadnym przypadku. Kwalifikacja zostanie przeprowadzona nie tylko na podstawie działania systemu, ale także jego przeznaczenia i ewentualnych konsekwencji. Narzędziami wysokiego ryzyka będą m.in. inteligentne systemy wykorzystywane przez banki, roboty medyczne czy instytucje dbające o przestrzeganie prawa.

Szacowanie ryzyka

Im wyższa kategoria, tym więcej norm system będzie musiał spełnić. Do tego obarczone wyższym ryzykiem narzędzia mają mieć ograniczone zastosowanie – nie będzie dozwolone np. wykorzystywanie ich w miejscach publicznych w celu pilnowania porządku. Systemy ograniczonego ryzyka to z kolei różnego rodzaju boty, pojawiające się w komunikatorach. Tutaj wymogi będą już dużo niższe: system ma po prostu poinformować użytkownika, że nie rozmawia z człowiekiem.

Nad dbaniem o nowe regulacje ma czuwać Europejska Rada ds. Sztucznej Inteligencji. Przepisy mają zapewnić obywatelom Unii bezpieczeństwo, ale ma wiązać się z nimi również dalszy rozwój technologii. Szefowa Komisji Europejskiej poinformowała też, że w związku z tym 20% z zaplanowanego już budżetu na sektor technologii cyfrowych została przeznaczona na prace dotyczące rozwoju systemów AI. Na skutki nowych regulacji musimy jeszcze poczekać, tym niemniej projekt może okazać się trafionym rozwiązaniem.

fot. Pixabay