PyTorch добавляет новые API

PyTorch был обновлен несколькими новыми API-интерфейсами, включая поддержку NumPy-совместимых операций БПФ, инструментов профилирования и основных обновлений как распределенного обучения на основе параллельных распределенных данных (DDP), так и удаленного вызова процедур (RPC).

PyTorch — это оптимизированная тензорная библиотека для глубокого обучения с использованием графических процессоров и процессоров. Он нацелен на то, чтобы предложить замену NumPy, использующую мощь графических процессоров, и в то же время предоставить исследовательскую платформу для глубокого обучения, которая обеспечивает максимальную гибкость и скорость.

Есть несколько новых интерфейсных API, все в бета-формате. К ним относится torch.fft, который реализует функции, связанные с БПФ, с тем же API, что и NumPy. PyTorch исторически поддерживал несколько функций, связанных с БПФ, но новый API добавляет больше функций для использования в научных областях, таких как обработка сигналов.
Второй API добавляет поддержку C ++ для модулей nn.transformer и позволяет разработчикам использовать абстракцию модуля nn.transformer из Frontend C ++. Это также означает, что вам больше не нужно сохранять модуль из python / JIT и загружать его в C ++, поскольку теперь его можно использовать непосредственно в C ++.
Третий новый API — torch.set_deterministic. Это может помочь выявить ошибки при отладке или тестировании программы. Его функция предписывает операторам PyTorch выбирать детерминированные алгоритмы, если они доступны, и выдавать ошибку времени выполнения, если операция может привести к недетерминированному поведению.
Наряду с новыми API-интерфейсами на «стабильный» уровень были перемещены несколько функций, включая настраиваемые классы C ++, профилировщик памяти, расширения с помощью настраиваемых тензорно-подобных объектов, пользовательские асинхронные функции в RPC и ряд других функций в torch.distributed. .
Разработчики говорят, что одним из основных моментов является то, что CUDA 11 теперь официально поддерживается двоичными файлами, доступными на PyTorch.org. Этот выпуск также включает обновления и дополнения к профилированию и производительности для трассировок RPC, TorchScript и Stack в профилировщике autograd. В другом месте Transforms теперь поддерживает ввод Tensor, пакетные вычисления, GPU и TorchScript, а PyTorch теперь имеет собственный ввод-вывод изображений для форматов JPEG и PNG.