Машинное обучение 2. Лекция 2

00:00:00 Начало, напоминание про спектральную кластеризацию 00:01:25 Гипотеза: собственные векторы и близость вершин графа 00:03:54 Пример: гистограмма, KNN-граф, собственные значения 00:08:22 Вопросы по графику собственного вектора 00:10:52 Алгоритм спектральной кластеризации: построение графа 00:11:56 Матрица U из собственных векторов Лапласиана 00:13:14 Запуск K-means на новых признаках 00:14:01 Итог: спектральная кластеризация = 2 шага 00:14:33 Сложность алгоритма 00:17:17 Связь со задачей о минимальном разрезе графа 00:19:08 Смесь распределений, EM-алгоритм (анонс), вопрос про ДЗ 00:20:00 Переход к новой теме: метрики качества кластеризации 00:21:07 Внешние методы (extrinsic metrics) — постановка вопроса 00:23:16 Задача: оценка кластеризации по разметке 00:25:19 Сложность: перестановки и сопоставление кластеров 00:28:00 Главный вопрос: как сравнивать метрики кластеризации 00:30:04 Введение аксиом (требований) к метрике 00:32:19 Свойство 1: гомогенность 00:33:43 Свойство 2: полнота 00:35:32 Свойство 3: rec-back 00:37:29 Свойство 4: size vs quantity 00:39:57 Проверка аксиом асессорами 00:42:06 Поиск метрики, удовлетворяющей всем аксиомам 00:42:54 B-cubed: определение correctness 00:44:23 Precision B-cubed 00:47:47 Recall B-cubed 00:49:57 F-мера B-cubed 00:52:23 Тематическое моделирование (Topic Modeling) — введение 00:54:43 Понятие темы как распределения над словами 00:58:06 Распределение документа по темам (θ) 00:58:48 LSA (Latent Semantic Analysis) 01:01:45 Проблема LSA: нет гарантии неотрицательности/нормировки 01:02:34 PLSA (Probabilistic LSA) — генеративная модель 01:03:45 Функция правдоподобия PLSA 01:04:40 Проблема суммы под логарифмом 01:06:12 EM-алгоритм для решения PLSA 01:06:31 LDA (Latent Dirichlet Allocation) 01:09:05 Вопросы, завершение лекции