19 жовтня 2026 року Modal повідомила, що в ранніх тестах процесора Nvidia Vera пропускна здатність для робочих навантажень її пісочниць для ШІ-агентів подвоїлася. Стартап у сфері хмарних обчислень отримав свій перший сервер Vera, але ширше впровадження потребуватиме змін інфраструктури, побудованої виключно на процесорах x86.
Ключові висновки
- Внутрішні бенчмарки Modal показали дворазове підвищення пропускної здатності для паралельних робочих навантажень у пісочницях.
- Окремі завдання на сервері, який не виконував інших операцій, демонстрували менші й менш стабільні переваги.
- Підтримка процесора, сумісного з Arm, потребуватиме змін інфраструктури та системи створення образів.
Зміст
- Результати тестів процесора Nvidia Vera свідчать про переваги для серверів із високим навантаженням пісочниць
- Чому паралельні робочі навантаження змінюють порівняння
- Підтримка Arm і далі потребує інтеграції
- Висновок
Результати тестів процесора Nvidia Vera свідчать про переваги для серверів із високим навантаженням пісочниць
Оголошення Modal про бенчмарк пісочниць на Vera описує сервер, який уже працює в офісі компанії в Сан-Франциско, а також попередні результати на користь додавання цього процесора до Modal Sandboxes. Йдеться про початкове тестування, а не про завершений перехід із процесорів Intel і AMD.
Важливо розрізняти пропускну здатність і швидкість виконання завдання. Пропускна здатність показує, скільки завдань система виконує за певний проміжок часу; затримка — скільки часу потрібно для виконання окремого завдання. Modal виявила, що Vera часто, але не завжди, показувала кращі результати в послідовних тестах набору бенчмарків, причому перевага не була особливо значною.
Помітніша перевага проявилася, коли за обчислювальні ресурси змагалася велика кількість контейнерів. Modal повідомила про дворазове збільшення пропускної здатності. Отже, цей результат стосується серверів пісочниць із високою щільністю спільного використання ресурсів, а не свідчить про те, що кожна програма працюватиме вдвічі швидше.
| Показник | Деталі |
|---|---|
| Набір бенчмарків | 50 розв’язків і засобів перевірки Oracle для Terminal-Bench. |
| Підготовка контейнерів | Робочі навантаження попередньо запускали в паралельних контейнерах Docker. |
| Процедура вимірювання пропускної здатності | Кількість паралельних контейнерів збільшували, а завершені завдання підраховували протягом фіксованого інтервалу. |
| Умови послідовного тестування | Завдання виконували по одному на незавантаженій машині. |
Чому паралельні робочі навантаження змінюють порівняння
За словами Modal, на хостах пісочниць можуть одночасно працювати сотні контейнерів і віртуальних машин. Їхні потреби непередбачувані: ШІ-агент може певний час чекати на мовну модель, а потім раптово потребувати значно більшої обчислювальної потужності процесора для встановлення програмного забезпечення або пошуку файлів.
Така мінливість може спричиняти конкуренцію за ресурси, через що робоче навантаження одного клієнта впливає на продуктивність іншого. Modal дозволяє робочим навантаженням перевищувати зарезервовану потужність, тому продуктивність за інтенсивного спільного використання є важливою складовою оцінювання обладнання компанією.
Тест Agentless Agent Bench відокремлює завдання, що навантажують процесор, зокрема компіляцію, пошук файлів, операції Git та емуляцію пристроїв. Завдяки вилученню мережевих викликів тест зосереджується на виконанні операцій процесором, а не на всьому часі, потрібному ШІ-агенту для виконання завдання в реальних умовах.
Підтримка Arm і далі потребує інтеграції
Vera — це процесор, сумісний з Arm, створений для графічної платформи Nvidia Vera Rubin, який також пропонується як окремий сервер із процесором. Для Modal його використання означатиме перехід до іншої архітектури процесорів після багатьох років роботи виключно з машинами x86.
За словами Modal, для підтримки Arm знадобляться зміни в інфраструктурі та системі створення образів. Отже, бенчмарк указує на потенційну операційну перевагу, а не на завершений перехід платформи чи виміряну фінансову віддачу.
Висновок
Наступний крок упровадження — адаптація інфраструктури та системи створення образів Modal до Arm. Ранні результати свідчать на користь такої роботи, але ширше розгортання та поліпшення роботи сервісу в реальних умовах ще належить продемонструвати.
Читайте більше новин
Застереження
Ця стаття FinanceVelix містить загальну інформацію, а не персоналізовані фінансові, інвестиційні, юридичні чи податкові поради. Ринкові ціни, процентні ставки та економічні умови можуть змінюватися; інвестиції пов’язані з ризиком збитків. Факти відповідають матеріалам, доступним на момент публікації, і можуть змінитися. Самостійно перевіряйте важливу інформацію та за потреби звертайтеся до кваліфікованого фахівця. Згадка про актив, компанію чи послугу не є рекомендацією.
