Amazon chce pomocou TorchNeuron uľahčiť nasadzovanie svojich AI čipov tým, že umožní spúšťať existujúce aplikácie PyTorch na AWS Trainium po jedinej zmene konfigurácie. Vo svojom oznámení z 20. októbra 2026 Amazon uviedol, že softvér sprístupní ako projekt s otvoreným zdrojovým kódom. Zameriava sa tak na softvérovú prekážku, ktorá môže vývojárom predražiť prechod na inú čipovú platformu.
Kľúčové zistenia
- Amazon uvádza, že existujúci kód PyTorch možno spúšťať na Trainium bez jeho prepisovania.
- Plánované vydanie s otvoreným zdrojovým kódom podporuje čipy Trainium2 a Trainium3.
- Jednoduchšia migrácia by mohla posilniť konkurenciu Amazonu voči Nvidii, oznámenie však nedokladá všeobecnú cenovú ani výkonnostnú výhodu.
Obsah
- Amazon TorchNeuron sa zameriava na prenositeľnosť softvéru
- Náklady na prechod vývojárov formujú konkurenciu s Nvidiou
- Ďalším deklarovaným míľnikom je vydanie s otvoreným zdrojovým kódom
- Záver
Amazon TorchNeuron sa zameriava na prenositeľnosť softvéru
Oznámenie Amazonu o TorchNeuron predstavuje natívny backend pre PyTorch, ktorý prepája tento široko používaný rámec umelej inteligencie s platformou Trainium. Namiesto vytvárania novej verzie aplikácie pre iný hardvér by vývojári zmenili nastavenie určujúce, ktorý čip má kód používať.
Amazon uvádza, že TorchNeuron využíva existujúci mechanizmus PyTorch na registráciu nového hardvéru, vďaka čomu možno na Trainium bez úprav používať známe nástroje na testovanie, ladenie a škálovanie. V ukážke spoločnosti sa ten istý tréningový skript spustil na bežnom čipe aj na Trainium; Amazon uviedol, že model sa na oboch naučil rovnaké veci rovnakým tempom.
Táto ukážka podporuje tvrdenie Amazonu o prenositeľnosti pri predvedenej úlohe. Nedokladá však rovnaký výkon vo všetkých aplikáciách ani nevyčísľuje úspory pre zákazníkov.
| Položka | Podrobnosti |
|---|---|
| Podporované procesory | AWS Trainium2 a Trainium3 |
| Plánovaná licencia | Apache 2.0 |
| Distribuované trénovanie | Integrácia s TorchTitan a Fully Sharded Data Parallelism |
| Podpora vývojových nástrojov | Amazon uvádza, že Hugging Face sprístupnil natívnu podporu Trainium |
Náklady na prechod vývojárov formujú konkurenciu s Nvidiou
Konkurencia sa netýka iba technických parametrov čipov. Softvér CUDA spoločnosti Nvidia pomáha vývojárom optimalizovať pracovné záťaže umelej inteligencie pre jej grafické procesory, takže okolitý softvérový ekosystém je dôležitou súčasťou rozhodovania o nasadení hardvéru.
Obmedzenie technickej práce potrebnej na presun aplikácie by mohlo zákazníkom cloudových služieb poskytnúť väčšiu flexibilitu pri výbere výpočtovej infraštruktúry. Procesory Amazonu by zároveň mohli byť dostupnejšie pre tímy, ktoré už pracujú v PyTorch, ale nechcú udržiavať výrazne odlišnú kódovú základňu.
Amazon uviedol, že medzi prvých používateľov patria subjekty pôsobiace v oblasti hlasovej umelej inteligencie, vývoja liekov a ďalších aplikácií. Podľa spoločnosti Cartesia spustila svoj štandardný inferenčný proces s minimálnymi zmenami kódu PyTorch, zatiaľ čo Lieber Institute for Brain Development skúma výskumné úlohy s využitím AI na Trainium. Tieto príklady svedčia o počiatočnom používaní, nie o miere rozšírenia v celom odvetví.
Ďalším deklarovaným míľnikom je vydanie s otvoreným zdrojovým kódom
Amazon naplánoval vydanie TorchNeuron pod licenciou Apache 2.0 na konferenciu PyTorch Conference North America, ktorá sa koná 20. októbra. Predložené oznámenie opisuje vydanie ako plánované, nepotvrdzuje však, že už bolo dokončené.
Spoločnosť zároveň prispieva zmenami do PyTorch, ktorých cieľom je obmedziť závislosť od konkrétneho hardvéru. Tým sa úsilie rozširuje nad rámec kompatibility s Trainium a smeruje k tomu, aby bol tento rámec menej previazaný s jednotlivými čipovými platformami.
Záver
Amazon sa zameriava na technickú prácu spojenú so zmenou hardvéru pre AI; neoznamuje preukázaný výkonnostný náskok pred Nvidiou. Ďalším deklarovaným míľnikom je vydanie s otvoreným zdrojovým kódom 20. októbra, ktoré by vývojárom umožnilo softvér vo väčšom rozsahu preskúmať a otestovať.
Ďalšie správy
Upozornenie
Tento článok FinanceVelix poskytuje všeobecné informácie, nie individualizované finančné, investičné, právne ani daňové poradenstvo. Trhové ceny, úrokové sadzby a ekonomické podmienky sa môžu meniť; investovanie je spojené s rizikom straty. Uvedené fakty vychádzajú z materiálov dostupných v čase uverejnenia a môžu sa zmeniť. Dôležité informácie si overte nezávisle a v prípade potreby sa obráťte na kvalifikovaného odborníka. Zmienka o aktíve, spoločnosti alebo službe nepredstavuje odporúčanie.
