Ткань знаний — Дэвид Спивак

MLST спонсируется компанией Brave: API поиска Brave охватывает более 20 миллиардов веб-страниц, создан с нуля без предвзятости крупных технологических компаний и недавнего непомерного повышения цен на доступ к API поиска. Идеально подходит для обучения моделей ИИ и генерации дополненной информации для поиска. Попробуйте прямо сейчас — получайте 2000 бесплатных запросов в месяц на http://brave.com/api. Дэвид Спивак, математик из Института Топос Массачусетского технологического института, известный своей работой в области прикладной теории категорий, беседует с Тимом Скарфом о природе интеллекта, творчества и самого знания. Спивак объясняет теорию категорий в удивительно конкретных терминах. Категории — это системы отношений — не просто совокупности вещей, а то, как эти вещи связаны друг с другом. Функторы отображают одну систему отношений в другую, подобно тому, как «счет» связывает мир множеств с миром чисел. Он утверждает, что ценность теории категорий заключается в математической точности очевидных вещей, что звучит тривиально, пока не поймешь, насколько математика зависит от общих, но негласных предположений. Разговор переходит к коллективному интеллекту и осмыслению. Опираясь на утверждение Майка Левина о том, что весь интеллект — это коллективный интеллект, Спивак описывает осмысление как процесс «учета» — подобно сверке чековой книжки, где разные точки зрения вносят свой вклад, пока бухгалтерские книги не устоятся и понимание не стабилизируется. Это применимо на всех уровнях, от нейронов, общающихся на общем языке, до двух людей, пытающихся договориться о том, что теория категорий означает для машинного обучения. По-настоящему интересным становится взгляд Спивака на креативность и открытость. Он опровергает идею о том, что структура минимизации ошибки прогнозирования Карла Фристона охватывает все самое интересное в интеллекте. Его контрпример: ребенок, копающий песок в песочнице, который плачет, когда его оттаскивают. В заботе и вовлеченности есть нечто, что не сводится к ошибке прогнозирования. Он утверждает, что вопросы важнее ответов — сам акт задавания вопросов создает пространство, в котором может возникнуть подлинное понимание. В отношении ИИ Спивак высказывается взвешенно, но откровенно. Он считает, что современные подходы «сильно бьют по мячу», не задумываясь о том, куда этот мяч должен попасть. Он беспокоится об оптимизации, не понимая, что именно мы оптимизируем. Обсуждение затрагивает вопросы воплощения и того, как физический опыт формирует абстрактное мышление, роль письменного языка в передаче знаний из поколения в поколение, а также вопрос о том, является ли взрывной рост интеллекта продолжением эволюционных процессов или чем-то действительно новым. ВРЕМЕННЫЕ МЕТКИ: 00:00:00 Введение в теорию категорий 00:04:40 Коллективный интеллект и осмысление 00:09:54 Воплощение и физические понятия в знании 00:16:23 Креативность, открытость и забота 00:25:46 Моделирование креативности и роль вопросов 00:36:04 Эволюция, оптимизация и ИИ 00:44:14 Письменный язык и передача знаний ССЫЛКИ: лицо: [00:00:00] Дэвид Спивак - Личная страница http://www.dspivak.net/ [00:04:40] Майк Левин - Google Scholar https://scholar.google.com/citations?user=luouyakAAAAJ&hl=en ссылка: [00:00:00] Теория категорий MIT Лекции Дэвида Спивака https://www.youtube.com/watch?v=UusLtx9fIjs [00:00:00] Версия подкаста на Spotify https://podcasters.spotify.com/pod/show/machinelearningstreettalk/episodes/The-Fabric-of-Knowledge---David-Spivak-e2o220h [00:25:46] Герберт Саймон - Удовлетворительное решение и ограниченная рациональность https://plato.stanford.edu/entries/bounded-rationality/ [00:36:04] Эрик Смит - Сложность и ранняя жизнь https://www.youtube.com/watch?v=SpJZw-68QyE книга: [00:09:54] Карл Фристон - Активный Умозаключение https://direct.mit.edu/books/oa-monograph/5299/Active-InferenceThe-Free-Energy-Principle-in-Mind [00:36:04] Ричард Докинз - Эгоистичный ген https://amzn.to/3X73X8w [00:36:04] Карл Саган - Космос, познающий себя https://amzn.to/3XhPruK статья: [00:36:04] DeepMind - Статья об открытых системах https://arxiv.org/abs/2406.04268 ССЫЛКИ: Полная стенограмма: https://app.rescript.info/share/3e4986b488817a53549bf134e2a5695a Скачать стенограмму в формате PDF: https://app.rescript.info/api/public/sessions/069a33878cbdd032/pdf