Разработчик Speedstu ведет на github проект «», рассчитывая сделать использование видеоадаптеров AMD Radeon для задач «искусственного интеллекта» таким же простым и прозрачным, как это происходит сегодня с видеадаптерами Nvidia. Идея в том, чтобы получить возможность запускать приложения, разработанные под Nvidia CUDA, на GPU от AMD под Windows без переработки и без убивающих производительность* прослоек типа WSL2. Проект состоит из трех основных компонентов:
• Собственно CUDA for AMD on Windows — скрипта-конфигуратора/сборки, автоматически создающего среду исполнения для CUDA-based приложений в среде Windows. • — слоя трансляции, который перехватывает вызов CUDA и переводит их в эквивалентные вызовы rocBLAS, hipBLASLt, rocSPARSE и т.д. из стека ROCm/HIP, перенаправля их в AMD HIP/ROCm (аналог CUDA для AMD). • для Windows — нативного стека AMD для вычислительных задач, который теперь поддерживается на Windows для потребительских GPU. В настоящее время проект находится на очень ранней стадии развития: проверена автором только AMD Radeon RX 9060 XT 16GB, важные вызовы библиотек cuDNN, TensorRT и NCCL еще не реализованы, потому, что AMD HIP SDK под Windows пока не содержит аналогов этих библиотек (в отличие от полноценного ROCm под Linux, где есть MIOpen), а, учитывая потерю финансирования и существование проекта в режиме «хобби выходного дня», на их быстрое появление рассчитывать не стоит, наверное. Да и внедрять этот проект в качестве коммерческого решения я бы пока не посоветовал. Зрелость стека неравномерна: inference и dense-тренинг на LibTorch уже работают, а вот conv-сети (компьютерное зрение), мульти-GPU (NCCL) и TensorRT-зависимый софт — пока нет. Однако, значение проекта «CUDA for AMD on Windows», по-моему, гораздо больше, чем его практическая применимость на сегодня. Более чем убедительно показана принципиальная возможность нормального исполнения AI-нагрузок на видеоадаптерах AMD. Да, вопросы оптимизации остаются открытыми, да — исходя из чисто аппаратных параметров и, по очень приблизительной оценке, производительность AMD Radeon RX 9060 XT через ZLUDA + ROCm/HIP будет ниже, чем у Nvidia RTX 5060 Ti/4070/4080 на инференсе на 30–55%, на тренинге потенциально до 70–85%, плюс не измеренные точно накладные расходы трансляции. Но опять же, «есть нюанс»: AMD Radeon RX 9060 XT 16GB потребляет всего 160 ватт, да и стоит в два и более раза дешевле, чем RTX 5060. Согласитесь, это немного меняет картину?
В общем, будем смотреть, как дело пойдет. Процесс подтягивания GPU AMD к массово применимым AI задачам стронулся с мертвой точки. Хотя, конечно, это поднимет их розничную цену, но встречно может немного снизить вышедшие за всякие разумные пределы цены на Nvidia RTX.
* - Если оценивать накладные расходы исключительно на прохождение транзита от Linux-приложения до физического GPU (без учета времени исполнения самого вычисления на GPU), то в тактах CPU это будет, конечно, очень примерно, 6000...30000 тактов, что в ~10 раз больше, чем при нативном вызове Windows. Только смена контекста процессора - это уже ~2000 тактов, безотносительно к технологии виртуализации.
Насколько это критично - конечно, зависит от задачи. Если у вас таких вызовов мало (загрузили данные память видеоадаптера и пускай работает) - то разница в итоге на уровне погрешности, в пределах 1-5%, а вот если у вас много мелких вызовов (всякое рисование картинок, например), то уже всё будет гораздо хуже. Тут можно и 50% потерять.
