Közös irányt keres a nyílt mesterséges intelligencia
Több mint 3500 résztvevő gyűlt össze a PyTorch Conference North America 2026 eseményén, amelyet október 20-án és 21-én rendeztek meg San Joséban. A találkozó középpontjában a nyílt mesterségesintelligencia-szoftverek fejlesztése, valamint a különböző processzorok és grafikus gyorsítók támogatása állt.
Az esemény azt járta körül, miként hozható létre olyan nyílt forráskódú szoftveres réteg, amely bármilyen chipen, bármely felhőben és különféle ügynökök számára is lehetővé teszi a modellek tanítását és futtatását. Mark Collier, a PyTorch Foundation ügyvezető igazgatója a kutatás, a modellek, a keretrendszerek, az infrastruktúra, a hardver és az éles használat közötti kapcsolatot emelte ki.
Az első nap főként a közös fejlesztések gyorsító hatásáról szólt, a második pedig a szélesebb hardvertámogatásról, a többféle környezetben futó munkaterhelésekről, valamint a nagy léptékű modellképzésről és testreszabásról. Az esemény részleteiről az aihirek.info beszámolója szerint több fontos újdonságot is bejelentettek.
Új lehetőségek a chipek és a fejlesztők számára
A Google és a Meta közös, nyílt forráskódú projektje, a TorchTPU natív PyTorch-hátteret kínál a Google TPU-khoz. A megoldás támogatja az eager executiont és a torch.compile használatát, az ellenőrzött integrációk között pedig ott van a TorchTitan, a vLLM, az SGLang és a Ray. Egyes feladatok célhardverre helyezéséhez elég lehet a hardver módosítása, a csúcsteljesítményhez azonban az alakzatok, a felosztás és a műveletek átalakítására is szükség lehet.
A TorchNeuron natív PyTorch-hátteret biztosít az AWS Trainiumhoz, valamint a Trn2 és Trn3 Amazon EC2-példányokhoz. Nyilvános bétája október 20-án indult Apache 2.0 licenc alatt. A projekt az eager executiont, a torch.compile rendszert, a PyTorch DTensor és torch.distributed API-jait, továbbá a TorchTitan könyvtárat is támogatja.
Az IBM Spyre processzoraihoz készülő torch-spyre az Inductor munkamegosztással és tenzorelhelyezéssel kapcsolatos döntéseit futtatható programmá alakítja. A FlyDSL október 21-i frissítése választható hátteret adott az AMD MI350 sorozatú GPU-ihoz. A TorchTitan közben új modelleket támogatott az ötdimenziós párhuzamosításban, a TitanRL pedig a megerősítéses tanulással bővítette a rendszert.
Adatmegőrzés és eszközoldali futtatás
A Zephon TorchTitan-integrációjának célja, hogy a globális kötegek akkor is változatlanok maradjanak, ha a tanítás eltérő számú GPU-n folytatódik. Egy egymilliárd paraméteres modell tesztjében minden globális köteg hashértéke megegyezett, amikor a folyamat egy 16 GPU-s ellenőrzési pontból 8, 32, illetve 64 GPU-n indult újra.
Ehhez rögzített adat-előkészítési receptre és globális kötegméretre van szükség. A lebegőpontos redukció sorrendje továbbra is hatással lehet a tanítási veszteségre. A Helion és az NVIDIA CompileIQ együttműködése közben fordítói vezérlőkkel egészíti ki a kerneltuning keresési folyamatát.
Az ExecuTorch Cortex-M-háttere közvetlen utat kínál a PyTorchban tanított modellektől az Arm Cortex-M processzorokon végzett eszközoldali következtetésig. A gyorsítást az Arm CMSIS-NN biztosítja, így a modellfuttatás közelebb kerülhet a használt eszközhöz.
Új tagok és iparági együttműködések
A PyTorch Foundation kilenc új taggal bővült. Platinum tagként csatlakozott a Nebius, az Nscale és a Shopify Inc., Silver tagként a LightSeek Foundation és a Lablup Inc., társult tagként pedig a SKOPOS INDIA FOUNDATION, a Siksha ‘O’ Anusandhan, a Messiah University és a Valencia College.
A Shopify a PyTorch és a vLLM segítségével folyamatos tanulási hurkot alkalmaz. Saját esettanulmánya szerint a termelési hibákat naponta modellparaméterekké alakítja, és 96 százalékkal csökkenti a kiszolgálási költségeket.
A konferencia programja október 19-én képzésekkel, műhelyekkel és társrendezvényekkel kezdődött. A PyTorch Associate Training előadásokat, bemutatókat, vezetett laborokat és felméréseket kínált a PyTorch Certified Associate vizsgára készülőknek. Az Academia to Adoption Workshop azt vizsgálta, miként válhatnak a kutatási projektek megbízható, újrahasználható és közösségileg fejleszthető eszközökké.
A bejelentések alapján a Foundation a kutatási szoftvereket, a modellképzést, az infrastruktúrát, a hardvereket és a gyártási környezeteket kapcsolja össze. A cél olyan nyílt komponensekre épülő ökoszisztéma fenntartása, amelyben több szervezet és projekt fejlesztései egymást erősíthetik.
