92. spotkanie MLGdańsk [ONLINE] – Robustness in Computer Vision

Nasze 92. spotkanie odbyło się online 21 września 2020 r.

Prelegentem był Sebastian Cygert realizujący doktorat na Politechnice Gdańskiej – Sebastian specjalizuje się w wykorzystywaniu głębokich sieci neuronowych w zadaniach analizy obrazu.

Zobaczyliśmy prezentację pt.: “Robustness in Computer Vision”, w której poruszone zostały tematy zdolności generalizacji przez sieci neuronowe, analizy ich działania oraz oceny poziomu generalizacji.

Podczas pierwszej części spotkania dowiedzieliśmy się o zastosowaniach aplikacyjnych, w których wysoka generalizacja jest istotna.

Przykładem takiego obszaru są systemy wizyjne w pojazdach autonomicznych, które powinny zachować wysoką dokładność w różnych warunkach pogodowych, o różnych porach dnia i roku, a nawet w różnych strefach klimatycznych.

W kolejnej części prelekcji zaprezentowane zostały liczne przykłady analizy decyzji podejmowanych przez sieci neuronowe.

Okazuje się, że sieci neuronowe często opierają swoje decyzje na cechach obrazu, które nie są widoczne dla człowieka. W licznych badaniach wykazano, że niewielka zmiana wartości pikseli (niewidoczna dla człowieka) może spowodować zmianę klasy zwracanej przez sieć.

W innym badaniu opisano, że sieć podczas podejmowania decyzji, zwraca uwagę nie tylko na sam obiekt ale i na otoczenie czy tło. Zmiana tła może prowadzić do zmiany decyzji sieci neuronowej. Kolejnym z zaprezentowanych przykładów, był system wykrywania zapalenia płuc ze zdjęć rentgenowskich. Analiza miejsc obrazu, które wpływają na decyzję sieci neuronowej, wykazała jednak, że sieć neuronowa opiera decyzje na znaczniku znajdującym się w rogu zdjęcia RTG.

W ostatniej część przedstawiono sposoby oceny generalizacji sieci neuronowych – na przykład wydzielając zbiór testowy z innego zbioru danych.

Sebastian omówił również sposoby polepszenia generalizacji sieci neuronowych np. poprzez odpowiednie techniki rozszerzania danych.

Prezentacja ze spotkania dostępna jest pod tym linkiem.

Serdecznie zapraszamy na nasze kolejne spotkania!