Amazon TorchNeuron має спростити впровадження AI-чипів компанії, давши змогу запускати наявні застосунки PyTorch на AWS Trainium після однієї зміни конфігурації. В оголошенні від 20 жовтня 2026 року Amazon повідомила, що програмне забезпечення буде випущене як проєкт із відкритим вихідним кодом. Ініціатива спрямована на усунення програмного бар’єра, через який перехід між платформами чипів може бути дорогим для розробників.
Ключові висновки
- За словами Amazon, наявний код PyTorch можна запускати на Trainium без переписування.
- Запланований випуск із відкритим вихідним кодом передбачає підтримку чипів Trainium2 і Trainium3.
- Простіший перехід може посилити конкуренцію Amazon із Nvidia, однак оголошення не підтверджує широкої переваги за вартістю чи продуктивністю.
Зміст
- Amazon TorchNeuron зосереджується на переносності програмного забезпечення
- Витрати розробників на перехід визначають характер конкуренції з Nvidia
- Наступний заявлений етап — випуск із відкритим вихідним кодом
- Висновок
Amazon TorchNeuron зосереджується на переносності програмного забезпечення
В оголошенні Amazon про TorchNeuron описано нативний бекенд PyTorch, який поєднує широко використовуваний фреймворк AI з Trainium. Замість того щоб перебудовувати застосунок для іншого обладнання, розробникам потрібно буде змінити параметр, який визначає, на якому чипі має виконуватися код.
За словами Amazon, TorchNeuron використовує наявний у PyTorch механізм реєстрації нового обладнання, завдяки чому звичні інструменти тестування, налагодження та масштабування можуть працювати з Trainium без змін. Під час демонстрації компанії той самий сценарій навчання запускався на звичайному чипі та на Trainium; Amazon заявила, що модель засвоїла те саме з тією самою швидкістю.
Ця демонстрація підтверджує заяву Amazon про переносність для показаного робочого навантаження. Вона не доводить еквівалентну продуктивність для всіх застосунків і не дає кількісної оцінки економії для клієнтів.
| Параметр | Деталі |
|---|---|
| Процесори з підтримкою | AWS Trainium2 і Trainium3 |
| Запланована ліцензія | Apache 2.0 |
| Розподілене навчання | Інтеграція з TorchTitan і Fully Sharded Data Parallelism |
| Підтримка інструментів розробки | За словами Amazon, Hugging Face забезпечила нативну підтримку Trainium |
Витрати розробників на перехід визначають характер конкуренції з Nvidia
Конкуренція не обмежується технічними характеристиками чипів. Програмне забезпечення CUDA від Nvidia допомагає розробникам оптимізувати робочі навантаження AI для її графічних процесорів, тож програмна екосистема навколо них є важливою складовою впровадження обладнання.
Зменшення обсягу інженерної роботи, потрібної для перенесення застосунку, може надати клієнтам хмарних сервісів більше свободи у виборі обчислювальної інфраструктури. Це також може зробити процесори Amazon доступнішими для команд, які вже працюють із PyTorch, але не хочуть підтримувати суттєво іншу кодову базу.
Amazon назвала серед перших користувачів компанії у сферах голосового AI, пошуку ліків та інших застосувань. За її словами, Cartesia запустила свій стандартний конвеєр інференції з мінімальними змінами коду PyTorch, тоді як Lieber Institute for Brain Development вивчає можливість виконання на Trainium дослідницьких робочих навантажень на основі AI. Ці приклади свідчать про раннє використання, а не є показником впровадження в усій галузі.
Наступний заявлений етап — випуск із відкритим вихідним кодом
Amazon запланувала випуск TorchNeuron за ліцензією Apache 2.0 до конференції PyTorch Conference North America 20 жовтня. У наданому оголошенні цей випуск описано як запланований, а не як уже завершений.
Компанія також вносить до PyTorch зміни, покликані зменшити залежність від конкретного обладнання. Ця робота розширює ініціативу за межі сумісності з Trainium і має зробити фреймворк менш прив’язаним до окремих платформ чипів.
Висновок
Amazon зосереджується на обсязі інженерної роботи, необхідної для зміни обладнання AI, а не заявляє про доведену перевагу над Nvidia у продуктивності. Наступний оголошений етап — випуск із відкритим вихідним кодом 20 жовтня, який дасть змогу розробникам ширше ознайомитися з програмним забезпеченням і протестувати його.
Читайте також
Застереження
Ця стаття FinanceVelix містить загальну інформацію, а не персоналізовані фінансові, інвестиційні, юридичні чи податкові поради. Ринкові ціни, процентні ставки та економічні умови можуть змінюватися; інвестиції пов’язані з ризиком збитків. Факти відповідають матеріалам, доступним на момент публікації, і можуть змінитися. Самостійно перевіряйте важливу інформацію та за потреби звертайтеся до кваліфікованого фахівця. Згадка про актив, компанію чи послугу не є рекомендацією.
