Возможно ИИ обладает сознанием.

Роман Ямпольский отвечающий за безопасность ИИ уже два десятилетия оказывается прав в тех вопросах, в которых люди предпочли бы, чтобы он ошибался. И в этом разговоре он здесь не для того, чтобы вас напугать, а для того, чтобы быть точным. Он утверждает, что проблема согласования ИИ не просто не решена, но и в корне не определена: нет ни общепринятых ценностей, ни способа их формализовать, даже если бы они были, ни механизма для их внедрения в систему, которая умнее своих создателей. Его главный аргумент — это не сценарий конца света, а то, что невозможно бесконечно контролировать нечто более умное, чем вы сами.