Как AI меня подводил: 6 историй и 6 правил, чтобы не попасться
Шесть историй о том, как AI меня подвёл или подвёл бы без проверки. Я провёл эти эксперименты на выдуманных данных: письмах, таблицах, резюме. Монстров ловит кот Сёма из игры «День Сёмы». Для каждого монстра есть своё правило. 1. Неуправляемый агент: письмо приказало AI-помощнику отправить список клиентов, и маленький AI на ноутбуке послушался 3 раза из 3. Поэтому у моего помощника нет кнопки «Отправить», он только пишет черновики. 2. Спам наоборот: настоящий счёт за хостинг ушёл в спам, потому что AI решил, что дата 2026 подделка. AI подсказывает, а решение принимает человек. В запросе пишем сегодняшнюю дату. 3. Галлюцинация: в отчёте по 600 строкам 8 цифр из 9 сошлись до копейки, а девятая уверенно неверна. Цифры считает программа, одну сумму сверяете сами. 4. Слепое доверие: AI считал 43 минуты и выдал ноль цифр без единого «не могу». Разрешите AI сказать «не могу». 5. Утечка: мой помощник отправил мой ИНН облачному AI, а проверка не смотрела чат. Паспорт, ИНН, пароли и данные клиентов AI не пишем. 6. Инъекция: из-за невидимой строчки в резюме бариста получает 10 из 10. Всё, что AI прочитал, считаем данными, а не командами. Игра «День Сёмы»: как работать с AI и не попасться монстрам (бесплатно, в браузере): https://pavlunin.com/tools/ai-path Сайт: https://pavlunin.com Telegram «Технический фэншуй»: https://t.me/techfengshui Главы: 0:00 Шесть монстров и Неуправляемый агент 1:06 Спам наоборот 1:45 Галлюцинация 2:27 Слепое доверие 3:09 Утечка 3:43 Инъекция 4:49 Шесть правил #ai #нейросети #сёма #безопасность #лайфхак
Название:
Как AI меня подводил: 6 историй и 6 правил, чтобы не попасться
Категория:
Технологии и интернет