Как квантовать Qwen3.6 с помощью AutoRound для максимальной скорости

Научитесь квантовать Qwen3.6 с помощью AutoRound для максимальной скорости вывода и снижения потребления памяти. Это пошаговое руководство охватывает настройку, конфигурацию и оптимизацию для эффективного запуска квантованных LLM.