Policy-as-Code для ИИ-агентов: от естественного языка к формальной логике | Демонстрационный день...

Что потребуется, чтобы исключить человека из процесса принятия решений и при этом быть уверенным, что ИИ-агент следует правилам? На Hacker Room Demo Day Венката Пидипалли представил подход к преобразованию бизнес-политик в формальную, символическую логику, которую можно проверить и скомпилировать в код. Вместо того чтобы надеяться, что агент правильно интерпретирует политику, агент напрямую вызывает скомпилированную политику. Он прослеживает истоки идеи до концепции Лейбница о разрешении споров посредством вычислений и до попытки в 1977 году вручную закодировать налоговое законодательство, которая провалилась из-за масштаба и жесткости. Затем он разбивает логику политики на три уровня: формальные правила, количественно выраженная неопределенность и подлинная неоднозначность. Он показывает, как каждый из них может быть представлен формально. Команда работает с американской компанией, занимающейся медицинским страхованием, чьи политики хранятся одновременно в трех местах: на естественном языке, в таблицах решений и на языке клинических запросов. Основная проблема заключается в доказательстве того, что все три уровня кодируют одни и те же условия, и в обнаружении изменений между ними с течением времени. Запись сделана в прямом эфире в Hacker Room, четырехмесячной резиденции Merantix AI Campus для лучших инженеров в области ИИ, занимающихся созданием базовой инфраструктуры и прикладными исследованиями с нуля. 👾 Узнайте больше о Hacker Room: https://www.merantix-aicampus.com/hacker-room Merantix AI Campus. Где встречаются будущие разработки в области ИИ. 🔗 Присоединяйтесь к нашим мероприятиям, участвуйте в жизни нашего сообщества или найдите рабочее место для своей команды или компании: www.merantix-aicampus.com РАЗДЕЛЫ: 0:00 Введение 0:16 Мысленный эксперимент: исключение человека из процесса 0:42 Мечта Лейбница и эксперимент с налоговым кодексом 1977 года 1:37 Что меняется с программами LLM 1:53 Три уровня логики политики 2:55 Что создает Naya 3:30 Пример: составление политики возврата товаров в электронной коммерции 4:07 Партнер по проектированию в сфере здравоохранения: три представления, одна истина 4:45 Команда, посевной раунд и найм 5:43 Вопросы и ответы: применение этого к контрактам B2B #ФормальнаяВерификация #АгентыAIA #LeanProver #LLM #НейросимволическийИИ #КомнатаХакеров #MerantixAICampus