June 05, 13:58

Что видит умирающая от деменции нейросеть?

Вы наверняка видели лица несуществующих людей, сгенерированные нейронными сетями. Как это работает, очень грубо: программе показывают много разных лиц, она обобщает их черты и сохраняет "память" о том, что такое "лица", в виде матрицы из коэффициентов (нейронов). Несуществующие лица — это фактически рандомные картинки, которые нейросеть модифицирует, пока не начнёт узнавать в них "лицо", основываясь на своей памяти о том, как выглядят лица. Если постепенно выключать нейроны, нейросеть будет "терять память". Генерируемое ею лицо с каждой итерацией теряет узнаваемость, а затем и человеческий облик. Стрёмная картина! Надеюсь, белковые нейросети не так сильно изнашиваются с возрастом.

Три хороших поста по теме:

Как ИИ видит мир

Что внутри нейросети, распознающей объекты

Самые интересные публикации о генерации изображений с помощью GAN

What I saw before the darkness

A neural network imagines a person. Then, one by one, neurons in the network are being switched off... Project page: https://aitold.me/portfolio/i-will-not-forget/