Джим Келлер, легендарный архитектор процессоров, работавший над процессорами x86, Arm, MISC и RISC-V, в эти выходные раскритиковал архитектуру и стек программного обеспечения Nvidia CUDA и сравнил их с x86, который он уже когда-то назвал "болотом". Он отметил, что даже у самой Nvidia есть несколько пакетов специального программного обеспечения, которые по соображениям производительности используют платформы с открытым исходным кодом.
"CUDA — это болото, а не ров», — написал Келлер в своем X-посте. "x86 тоже был болотом. […] CUDA уродлив. Он был построен путем накопления чего-то одного за раз".
Действительно, как и x86, в CUDA постепенно добавляли функциональность, сохраняя при этом обратную совместимость программного и аппаратного обеспечения. Это делает платформу Nvidia полной и обратно совместимой, но влияет на производительность и усложняет разработку программ. Между тем, многие среды разработки программного обеспечения с открытым исходным кодом могут использоваться более эффективно, чем CUDA.
Даже у самой Nvidia есть инструменты, которые не полагаются исключительно на CUDA. Например, Triton Inference Server — это инструмент с открытым исходным кодом, который упрощает развертывание моделей искусственного интеллекта в масштабе, поддерживая такие платформы, как TensorFlow, PyTorch и ONNX. Triton также предоставляет такие функции, как управление версиями моделей, обслуживание нескольких моделей и одновременное выполнение моделей для оптимизации использования ресурсов графического процессора и процессора.
Но хотя такие архитектуры, как Arm, CUDA и x86, можно считать "болотом" из-за их относительно медленного развития, обязательной обратной совместимости и громоздкости, эти платформы также не так фрагментированы, как такие вещи, как GPGPU, что, возможно, совсем неплохо.
Неясно, что Джим Келлер думает о AMD ROCm и Intel OneAPI, но ясно, что, хотя он потратил много лет своей жизни на разработку архитектур x86, он не в восторге от ее будущих перспектив. Его заявления также подразумевают, что, хотя он работал в некоторых крупнейших производителях микросхем в мире, включая Apple, Intel, AMD, Broadcom (а теперь и Tenstorrent), мы, возможно, никогда не увидим его имя в списке Nvidia.
Иван Ковалев
VIA
Центральный процессор, также известный как ЦП, является "сердцем" для каждого ПК. Этот кусок кремния сильно влияет на
