A A A

Wzór, który oszukuje sztuczną inteligencję

14 maja 2020, 16:45
Głębokie sieci neuronowe nie są w stanie zidentyfikować człowieka, który ma na ubraniu specyficzny wzór.
Wzór, który oszukuje sztuczną inteligencję

Stań się niewidzialny.

Umiejętność znikania na zawołanie to marzenie wielu osób. Teraz bycie niewidzialnym jest możliwe – ale tylko dla "oczu" sztucznej inteligencji. Badacze z firmy IBM oraz Uniwersytetu Technologii w Massachusetts (MIT) podjęli się opracowania wzoru, który po naniesieniu na odzież chroni noszącego przed głębokimi sieciami neuronowymi. Nie są one wówczas w stanie rozpoznać, że w zasięgu ich działania pojawił się człowiek.

 

Głębokie sieci neuronowe

Sztuczna inteligencja (SI) wykorzystywana jest na wiele sposobów. Głębokie sieci neuronowe często stosuje się do rozpoznawania i klasyfikacji obrazów, dźwięków, kształtów i wzorów. Specjaliści trenują odpowiedzialne za to algorytmy na milionach przykładów i testują zdolności sieci do momentu, aż uzyskają oczekiwane rezultaty.

Wiedza o tym, jak działa sztuczna inteligencja, pozwala na jej... oszukanie. Badacze z IBM i MIT pracujący z sieciami odpowiedzialnymi za rozpoznawanie i katalogowanie kształtów postanowili sprawdzić, jakie kroki muszą wykonać, aby "pomieszać się w głowie" SI. Dotychczas prawidłowo rozpoznająca sylwetki osób, przedmiotów i zwierząt techhnologia miała zostać oszukana, tak by nie zorientowała się, że dany kształt to człowiek.

Bieg

Do zrealizowania założenia naukowcy opracowali specjalny wzór. Kierowali się przy tym działaniami odwrotnymi do realizowanych w celu trenowania sztucznej inteligencji. Pozmieniane zostały dane konkretnych pikseli, na których uczono sieci neuronowe. Zmienione wartości miały zdezorientować SI.

Badacze udowodnili, że wystarczy kilka specyficznie rozmieszczonym naklejek na ubraniu, aby głębokie sieci neuronowe zostały oszukane i nie rozpoznały sylwetki ludzkiej. W ten sposób, jak twierdzą naukowcy, można obejść niektóre zabezpieczenia i tylko kwestią czasu jest opracowanie przez przestępców swoich metod bycia "niewidzialnym" dla zabezpieczeń wykorzystujących SI.

Koszulka z opracowanym przez badaczy wzorem sprawiała, że ubrana w nią osoba pojawiająca się w zasięgu działania specyficznej sieci neuronowej aż w 60% czasu nie była rozpoznawana jako człowiek.

fot. UTM, Gordon Johnson


Paula Jeziorska
Ocena:
Oceń:
Komentarze (0)

Redakcja nie ponosi odpowiedzialności za treść komentarzy. Komentarze wyświetlane są od najnowszych.
Najnowsze aktualności


Nowe funkcje Teams
9 lipca 2020
Użytkownicy wkrótce będą mogli skorzystać z wielu udoskonaleń platformy komunikacyjnej.


Załóż konto
Co daje konto w serwisie pcformat.pl?

Po założeniu konta otrzymujesz możliwość oceniania materiałów, uczestnictwa w życiu forum oraz komentowania artykułów i aktualności przy użyciu indywidualnego identyfikatora.

Załóż konto