ИНЖЕНЕРИЯ ЗНАНИЙ ОБРАЗОВАТЕЛЬНОЙ СРЕДЫ: Чему на самом деле обучается нейронная сеть

В этом видео рассматривается одна из важных проблем машинного обучения — «обучение по короткому пути» (shortcut learning). На примере распознавания животных показано, как нейронная сеть вместо существенных признаков объекта может использовать случайную статистическую закономерность — например, размытый фон. Объясняется, почему высокая точность на тестовых данных ещё не гарантирует надёжной работы системы в реальном мире и почему изменение фона, текстуры, ракурса или других условий может привести к ошибкам. Главный вопрос темы: как добиться того, чтобы система искусственного интеллекта усваивала существенные свойства объектов и явлений, а не случайные особенности данных, на которых она обучалась?