Безопасность ИИ для молодежи: разрыв между теорией и реальностью
Хотя в области HCI всё чаще изучается безопасность ИИ для молодежи, в литературе отсутствует всестороннее представление о том, какие риски были выявлены, как они устраняются и работают ли предложенные меры защиты на практике. Мы провели систематический обзор 100 эмпирических исследований в области HCI, посвященных взаимодействию детей и молодежи с ИИ или их подверженности ему в школах, домах, учреждениях по уходу и государственных службах. Используя таксономию YAIR для рисков и таксономию MIT Mitigation для контрмер, мы составили карту того, какие риски были выявлены, устраняется ли каждый риск с помощью контрмер(ы) и реализована ли, а тем более оценена, каждая контрмера для этого риска. Карта рисков и контрмер показывает, что большинство рисков сопоставлены только с предложенными/идеированными контрмерами; немногие контрмеры были реализованы, и еще меньше — оценены; а существующие оценки часто измеряют техническую производительность, а не защиту от вреда. Мы определяем, где отсутствует охват, где меры безопасности остаются непроверенными, и предлагаем конкретные направления для исследований HCI по усилению безопасности ИИ для молодежи. Поддержка: https://boosty.to/krastykovyaz создано с помощью NotebookLM
Название:
Безопасность ИИ для молодежи: разрыв между теорией и реальностью
Категория:
Разное