MLA 005 Формы и размеры: тензоры и NDArrays
В книге объясняются фундаментальные различия между размерами, размерами и формой тензоров, разъясняются распространенные заблуждения, например, различие между количеством признаков («столбцов») и истинными размерами данных, а также разъясняются операции преобразования, такие как expand_dims, squeeze и transpose в NumPy. На практических примерах из области обработки изображений и естественного языка слушатели узнают, как манипулировать тензорами в соответствии с требованиями модели, включая сценарии, такие как добавление фиктивных измерений для изображений в оттенках серого или изменение порядка осей для данных последовательностей. Ссылки • Заметки и ресурсы на ocdevel.com/mlg/mla-5 (https://ocdevel.com/mlg/mla-5?utm_source=podcast&utm_medium=mlg&utm_campaign=mla5) • Попробуйте использовать рабочий стол для ходьбы (https://ocdevel.com/walk?utm_source=podcast&utm_medium=mlg&utm_campaign=mla5) — оставайтесь здоровыми и в тонусе, пока учитесь и программируете. Определения • Тензор: общий термин для массива любого количества измерений. • 0D тензор (скаляр): одно число (например, 5). • 1D тензор (вектор): простой список чисел. • 2D тензор (матрица): сетка чисел (строки и столбцы). • 3D+ тензоры: многомерные массивы, такие как изображения или пакеты изображений. • NDArray (NumPy): означает «N-мерный массив», базовый тип массива в NumPy, синоним «тензора». Свойства тензора Размеры • Количество вложенных уровней в массиве (например, матрица имеет два измерения: строки и столбцы). • Доступ в NumPy: через свойство .ndim (например, array.ndim). Размер • Общее количество элементов в тензоре. • Примеры: • Скаляр: размер = 1 • Вектор: размер равен количеству элементов (например, 5 для [1, 2, 3, 4, 5]) • Матрица: размер = количество строк × столбцов (например, 10×10 = 100) • Доступ в NumPy: через свойство .size. Форма • Кортеж, указывающий количество элементов на каждое измерение. • Пример: Изображение размером 256×256 пикселей с 3 цветовыми каналами имеет форму = (256, 256, 3). Типичные сценарии и примеры структур данных на практике • Пример CSV/электронной таблицы: набор данных с 1 миллионом примеров жилья и 50 признаками: • Форма: (1 000 000, 50) • Размер: 50 000 000 • Пример изображения (RGB): изображение 256 × 256 пикселей: • Форма: (256, 256, 3) • Размеры: 3 (ширина, высота, каналы) • Пакетная обработка для моделей: • Для сверточной нейронной сети форма может стать (размер пакета, ширина, высота, каналы), например, (32, 256, 256, 3). Пояснения к концепции • Термин «размеры» в науке о данных часто относится к признакам (столбцам), но технически в тензорах он означает количество структурных осей. • В контексте «проклятия размерности» часто используется термин «размерности» для обозначения признаков, а не осей тензора. Изменение формы и манипулирование в NumPy: Изменение формы тензоров • Добавление размеров: • Полезно, когда модель ожидает входные данные более высокой размерности, чем текущая доступная (например, преобразование изображения в оттенках серого из формы (256, 256) в (256, 256, 1)). • Используйте np.expand_dims или array.reshape. • Удаление одномерных измерений: • Происходит, например, когда выходные данные модели равны (N, 1), и необходимо удалить одномерное измерение, чтобы получить (N,). • Используйте np.squeeze или array.reshape. • Подстановочный знак с -1: • При преобразовании -1 используется в качестве заполнителя для определения правильного размера NumPy, что полезно, когда размер пакета или другое измерение являются переменными. • Сглаживание: • Используйте np.ravel для преобразования многомерного тензора в непрерывный одномерный массив. Перестановка осей • Транспонирование осей: • Необходимо, когда входные или выходные данные модели ожидают оси в другом порядке (например, длина последовательности и измерения встраивания в НЛП). • Используйте np.transpose для общих перестановок осей. • Используйте np.swapaxes для замены двух конкретных осей, но предпочтительнее использовать transpose для большей ясности и гибкости. Практический пример • В моделях последовательностей NLP: • Для некоторых моделей 3D-тензор с размерами пакета (batch_size, sequence_length, embedding_dim) может потребовать переупорядочения до размеров пакета (batch_size, embedding_dim, sequence_length). • Достигается с помощью: array.transpose(0, 2, 1) Основные функции NumPy для манипулирования: • reshape: Общая функция для изменения формы тензора, включая добавление или удаление измерений. • expand_dims: Добавляет новое...
Название:
MLA 005 Формы и размеры: тензоры и NDArrays
Категория:
Разное