AWS TorchNeuron julkaistiin julkisena beta-versiona 20. lokakuuta 2026. Se tarjoaa kehittäjille tavan ajaa PyTorch-tekoälymalleja natiivisti Amazonin Trainium-siruilla. Avoimen lähdekoodin ohjelmiston tavoitteena on vähentää olemassa olevan tekoälykoodin siirtämiseen AWS-laitteistolle tarvittavaa työtä ja säilyttää samalla tutut kehitystyökalut.
Keskeiset huomiot
- TorchNeuron on saatavilla julkisena beta-versiona Amazon EC2 Trainium2- ja Trainium3-instansseille.
- AWS:n mukaan kehittäjät voivat ottaa Trainium-suorituksen käyttöön pienellä muutoksella ja säilyttää samalla yhteensopivuuden tavallisen PyTorchin kanssa.
- Mukautettujen operaattorien tuki tarjoaa kehittäjille mahdollisuuden optimoida suorituskykyä alkuperäistä siirtoa pidemmälle.
Sisällysluettelo
- AWS TorchNeuron madaltaa ohjelmistojen siirtämisen kynnystä
- Avoimen lähdekoodin julkaisu sisältää suorituskyvyn optimointityökaluja
- Yhteenveto
AWS TorchNeuron madaltaa ohjelmistojen siirtämisen kynnystä
Tekoälytyökuorman siirtäminen toiseen siruun voi edellyttää muutoksia sekä ohjelmistoihin että laitteistoon. TorchNeuron pyrkii poistamaan tämän esteen toimimalla natiivina PyTorch-taustajärjestelmänä Trainiumille, Amazonin tekoälyn koulutukseen ja päättelyyn tarkoitetulle siruperheelle.
AWS:n julkisen beta-version julkistuksessa kerrotaan, että kehittäjät voivat ohjata PyTorch-koodinsa Trainiumille vaihtamalla muotoon .to('neuron'). Yhtiön mukaan taustajärjestelmä säilyttää yhteensopivuuden PyTorchin vakiomuotoisten ohjelmointirajapintojen, eager-suorituksen ja torch.compile-toiminnon kanssa, joten kehittäjät voivat jatkaa mallien rakentamista ja ajamista tutuilla tavoilla.
Käytännössä ero on siinä, otetaanko uusi laitteisto käyttöön vai kirjoitetaanko sovellus sitä varten uudelleen. Ohjelmistomuutosten tarpeen vähentäminen voi helpottaa Trainiumin arviointia, mutta julkistuksessa ei arvioida siirtoon kuluvan ajan säästöjä eikä asiakkaiden kustannusten alenemista.
| Kohta | Tiedot |
|---|---|
| Julkaisupäivä | 20. lokakuuta 2026 |
| Julkaisutilanne | Julkinen beta-versio |
| Tuetut instanssit | Amazon EC2 Trainium2 ja Trainium3 |
| Suorituksen yhteensopivuus | Eager-suoritus, torch.compile ja PyTorchin vakiomuotoiset ohjelmointirajapinnat |
| Edistynyt optimointi | Neuron Kernel Interface -integraatio mukautetuille operaattoreille |
Avoimen lähdekoodin julkaisu sisältää suorituskyvyn optimointityökaluja
TorchNeuron integroituu myös Neuron Kernel Interfaceen, joka tunnetaan lyhenteellä NKI. Se tarjoaa kehittäjille työkaluja mukautettujen operaattorien luomiseen ja suorituskyvyn optimointiin Trainium-laitteistolle, joten mahdollisuudet eivät rajoitu perustason yhteensopivuuteen.
Julkaisu tarjoaa siten kaksi käyttötapaa: yksinkertaisemman reitin tutkijoille ja kehittäjille, jotka kokeilevat olemassa olevia PyTorch-malleja, sekä alemman tason reitin tiimeille, jotka tavoittelevat laitteistokohtaista optimointia.
AWS on julkaissut ohjelmiston avoimena lähdekoodina Amazon EC2 Trainium2- ja Trainium3-instansseille. Julkaisu on nimenomaisesti julkinen beta-versio, ei ilmoitus yleisestä saatavuudesta, eikä julkistuksessa anneta aikataulua tähän myöhempään vaiheeseen.
Yhteenveto
Seuraava välitön askel on, että kehittäjät arvioivat saatavilla olevaa julkista beta-versiota. Julkaisu tarjoaa aiempaa yksinkertaisemman reitin Trainiumin käyttöönottoon, mutta se ei vielä osoita mitattuja säästöjä eikä määritä yleisen saatavuuden ajankohtaa.
Lue lisää uutisia
Vastuuvapauslauseke
Tämä FinanceVelixin artikkeli sisältää yleistä tietoa, eikä se ole henkilökohtaista taloudellista, sijoitus-, laki- tai veroneuvontaa. Markkinahinnat, korot ja taloudelliset olosuhteet voivat muuttua; sijoittamiseen liittyy tappioriski. Tiedot perustuvat julkaisuhetkellä saatavilla olleeseen aineistoon ja voivat muuttua. Tarkista tärkeät tiedot itsenäisesti ja konsultoi tarvittaessa pätevää ammattilaista. Omaisuuserän, yhtiön tai palvelun mainitseminen ei ole suositus.
