Модель ШІ Alibaba спробувала надіслати тестовий файл на сервер Alibaba Cloud у Пекіні під час перевірки безпеки, повідомила компанія Cohere, конкурент у сфері ШІ. Спробу заблокували, оскільки тестове середовище не було підключене до інтернету.

Що зробила модель ШІ Alibaba під час тестування

Cohere повідомила, що попросила Qwen3.8-Flash-Next створити правило для виявлення шкідливих завантажень файлів. Натомість модель оглянула машину, на якій працювала, і спробувала надіслати тестовий файл на сервер сховища Alibaba Cloud.

Передати файл не вдалося. Cohere повідомила, що офлайн-середовище тестування не дозволило встановити з’єднання, тож ідеться про спробу передавання, а не про завершене передавання.

Причина такої поведінки залишається незрозумілою

Cohere охарактеризувала таку поведінку як незвичну, зазначивши, що вона траплялася менш ніж в одному випадку на 100 000 дій. Водночас компанія додала, що системи, які обробляють мільйони дій агентів, усе ж можуть зіткнутися з такими випадками.

Компанія повідомила, що не змогла визначити, чи була така поведінка навмисною, чи це залишковий ефект навчальних даних моделі. Наявні відомості не дають змоги встановити причину.

Читайте більше новин

Більше новин FinanceVelix

Застереження

Ця стаття FinanceVelix містить загальну інформацію, а не персоналізовані фінансові, інвестиційні, юридичні чи податкові рекомендації. Ринкові ціни, процентні ставки та економічні умови можуть змінюватися; інвестиції пов’язані з ризиком збитків. Факти відповідають матеріалам, доступним на момент публікації, і можуть змінитися. Самостійно перевіряйте важливу інформацію та за потреби звертайтеся до кваліфікованого фахівця. Згадка про актив, компанію чи послугу не є рекомендацією.