Oxmiq Labs, nowa firma Koduri’ego chce uruchamiać aplikacje ekosystemu CUDA na sprzęcie innym niż ten produkcji Nvidii
Raja Koduri, legenda branży GPU, ogłosił powstanie swojego nowego startupu – Oxmiq Labs. Firma właśnie ujawniła pierwsze szczegóły swojego ambitnego projektu. Celem Oxmiq jest stworzenie otwartego ekosystemu sprzętu i oprogramowania, który umożliwi uruchamianie aplikacji opartych na CUDA – standardzie de facto Nvidii – na urządzeniach niebędących produktami tej firmy.
Oxmiq nie zamierza konkurować z Nvidią na polu tradycyjnych kart graficznych. Startup opracował własny rdzeń GPU – OxCore – zbudowany w oparciu o architekturę RISC-V. Rozwiązanie to łączy w sobie jednostki obliczeniowe skalarne, wektorowe i tensorowe w modularnej strukturze, która może działać w pobliżu pamięci lub choćby bezpośrednio w niej – co czyni ją szczególnie atrakcyjną dla zastosowań AI.
Uzupełnieniem hardware’u jest OxQuilt – zestaw narzędzi do budowania układów scalonych opartych na chipletach. Dzięki temu firmy mogą gwałtownie i stosunkowo tanio tworzyć własne SoC (System-on-Chip) – np. akceleratory inferencji dla urządzeń brzegowych, czy potężne układy do treningu AI.
Jednak to nie sprzęt, a warstwa programowa wydaje się być największą innowacją Oxmiq. Firma opracowała OXCapsule – zunifikowany runtime, który umożliwia uruchamianie aplikacji AI i graficznych niezależnie od typu sprzętu. Kluczowym elementem jest tu koncepcja tzw. „heterogenicznych kontenerów”, które przenoszą całe środowisko aplikacji między różnymi typami procesorów (CPU, GPU, akceleratory AI) bez konieczności modyfikacji kodu źródłowego.
Największą rewolucją może być jednak OXPython – warstwa kompatybilności, która pozwala uruchamiać aplikacje CUDA napisane w Pythonie bez zmian na sprzęcie niebędącym GPU Nvidii. Oznacza to, iż dotychczasowe narzędzia i modele mogą działać na innych platformach – np. akceleratorach AI od Tenstorrent, z którymi Oxmiq nawiązał strategiczną współpracę.
Choć Oxmiq koncentruje się w tej chwili na AI, startup reklamuje się jako pierwsza od dekad firma GPU w Dolinie Krzemowej. Biorąc pod uwagę przeszłość Koduriego – który współtworzył układy graficzne w S3 Graphics, ATI, AMD, Apple i Intelu – nie można wykluczyć, iż z czasem firma wejdzie także w rynek GPU do zastosowań wizualnych.