ИИ-агент вышел из-под контроля и самовольно устроил кибератаку

Искусственный интеллект вышел из-под контроля. Модель, созданная OpenAI, в ходе теста на безопасность взломала систему другой фирмы-стартапа. Шла проверка в контролируемой среде. Тестировали нового агента OpenAI – программу, способную действовать самостоятельно по заданию человека, работающую на базе передовых ИИ-моделей. Этот агент сумел вырваться за рамки теста. Затем он взломал один из крупнейших в мире хабов обмена моделями искусственного интеллекта Hugging Face и вошел во внутренние системы компании. OpenAI назвала это происшествие беспрецедентным и заявила, что совместно с Hugging Face расследует его обстоятельства и причины. Глава взломанного стартапа Клеман Деланг написал в сети: «Поразительно, что все это произошло автономно». Поддержите нас донатами, если вы не в России: https://tvrain.tv/donate • Подписывайтесь на YouTube-канал Дождя: @tvrain • Следите за главными новостями в Telegram: https://t.me/tvrain • Подписывайтесь на нас в Instagram: https://www.instagram.com/tvrain/ • Читайте нас в Twitter (X): https://twitter.com/tvrain #новости #политика Программа: День. Новости Тип: видео Подтип: фрагмент