ИНЖЕНЕРИЯ ЗНАНИЙ ОБРАЗОВАТЕЛЬНОЙ СРЕДЫ: Когда нейросеть видит несуществующее

В сюжете рассматривается необычная уязвимость глубоких нейронных сетей: система может с высокой уверенностью распознавать объекты на изображениях, которые человеку кажутся бессмысленными текстурами или шумом. Эксперименты с эволюционными алгоритмами показывают, что нейронная сеть реагирует на комбинации признаков, усвоенные при обучении, а не обязательно формирует понятие объекта в человеческом смысле. Поэтому высокую уверенность модели нельзя отождествлять с человеческим пониманием и уверенностью.