Amazon TorchNeuron цели да улесни внедряването на AI чиповете на компанията, като позволява съществуващи приложения на PyTorch да работят на AWS Trainium с промяна само в една конфигурационна настройка. В съобщението си от 20 октомври 2026 г. Amazon заяви, че софтуерът ще бъде пуснат като проект с отворен код, насочен към софтуерната бариера, която може да оскъпи за разработчиците преминаването към друга платформа за чипове.
Основни изводи
- Amazon заявява, че съществуващ PyTorch код може да работи на Trainium без пренаписване.
- Планираното издание с отворен код поддържа чиповете Trainium2 и Trainium3.
- По-лесната миграция може да засили предизвикателството на Amazon към Nvidia, но съобщението не доказва широко предимство по отношение на разходите или производителността.
Съдържание
- Amazon TorchNeuron се фокусира върху преносимостта на софтуера
- Разходите за преминаване на разработчиците оформят предизвикателството към Nvidia
- Изданието с отворен код е следващият обявен етап
- Заключение
Amazon TorchNeuron се фокусира върху преносимостта на софтуера
Съобщението на Amazon за TorchNeuron описва нативен бекенд за PyTorch, който свързва широко използваната AI рамка с Trainium. Вместо да изграждат отново приложение за различен хардуер, разработчиците ще трябва да променят настройка, която указва кой чип да използва кодът.
Amazon заявява, че TorchNeuron използва съществуващия механизъм на PyTorch за регистриране на нов хардуер, което позволява познатите инструменти за тестване, отстраняване на грешки и мащабиране да работят на Trainium без промени. В демонстрация на компанията един и същ скрипт за обучение е работил на конвенционален чип и на Trainium; Amazon заяви, че моделът е научил едни и същи неща със същата скорост.
Тази демонстрация подкрепя твърдението на Amazon за преносимост при показаното работно натоварване. Тя не доказва еквивалентна производителност при всички приложения и не измерва количествено спестяванията за клиентите.
| Показател | Подробности |
|---|---|
| Поддържани процесори | AWS Trainium2 и Trainium3 |
| Планиран лиценз | Apache 2.0 |
| Разпределено обучение | Интеграция с TorchTitan и Fully Sharded Data Parallelism |
| Поддръжка на инструменти за разработка | Amazon заявява, че Hugging Face е осигурила нативна поддръжка на Trainium |
Разходите за преминаване на разработчиците оформят предизвикателството към Nvidia
Конкурентният въпрос надхвърля спецификациите на чиповете. Софтуерът CUDA на Nvidia помага на разработчиците да оптимизират AI натоварванията за нейните графични процесори, превръщайки свързаната софтуерна екосистема във важен фактор при избора на хардуер.
Намаляването на инженерната работа, необходима за прехвърляне на приложение, може да даде на клиентите на облачни услуги по-голяма гъвкавост при избора на изчислителна инфраструктура. То може също да направи процесорите на Amazon по-достъпни за екипи, които вече работят с PyTorch, но не искат да поддържат съществено различна кодова база.
Amazon посочи сред ранните потребители компании от областта на гласовия AI, откриването на лекарства и други приложения. Компанията заяви, че Cartesia е изпълнила стандартния си конвейер за инференция с минимални промени в PyTorch кода, докато Lieber Institute for Brain Development проучва изследователски натоварвания с AI на Trainium. Тези примери показват ранна употреба, а не измерват внедряването в цялата индустрия.
Изданието с отворен код е следващият обявен етап
Amazon насрочи пускането на TorchNeuron под лиценза Apache 2.0 за конференцията PyTorch Conference North America на 20 октомври. В предоставеното съобщение това издание е описано като планирано, а не като вече осъществено.
Компанията също допринася с промени към PyTorch, предназначени да намалят зависимостите от конкретен хардуер. Тази работа разширява усилията отвъд съвместимостта с Trainium към ограничаване на обвързаността на рамката с отделни платформи за чипове.
Заключение
Amazon се насочва към инженерната работа, необходима при смяната на AI хардуер, вместо да обявява доказано предимство в производителността спрямо Nvidia. Следващият обявен етап е пускането на проекта с отворен код на 20 октомври, което би позволило на разработчиците да разгледат и тестват софтуера по-широко.
Още новини
Отказ от отговорност
Тази статия на FinanceVelix предоставя обща информация, а не персонализиран финансов, инвестиционен, правен или данъчен съвет. Пазарните цени, лихвените проценти и икономическите условия могат да се променят; инвестициите носят риск от загуба. Фактите отразяват наличните към момента на публикуване материали и могат да се променят. Проверявайте самостоятелно важната информация и при необходимост се консултирайте с квалифициран специалист. Споменаването на актив, компания или услуга не представлява одобрение.
