HPE і Nvidia співпрацюють в області платформ і сервісів, оптимізованих для AI

Компанія Hewlett Packard Enterprise розширила портфель послуг у сфері штучного інтелекту, оголосивши про випуск нового набору гібридних хмарних пропозицій для розроблення систем машинного навчання, аналізу даних, зберігання файлів, оптимізованих для AI, і тонкого налаштування сервісів штучного осмислення.

За словами компанії, послуги надаватимуться на платформі, що містить поєднання відкритого програмного забезпечення та інфраструктури, розробленої спеціально для вимогливих до даних потреб навчання моделей AI.

"Швидкість, з якою підприємства можуть впроваджувати, вивчати та експериментувати з перетворенням окремих частин бізнес-операцій, має вирішальне значення", - сказав Ніл Макдональд, генеральний директор групи обчислень HPE. "Ми надаємо готове рішення для опрацювання висновків, яке дає змогу клієнтам брати попередньо підготовлені моделі, впроваджувати їх у середовище і трансформувати свої операції, причому робити це швидше, ніж раніше".

HPE заявила, що використовуватиме свою платформу GreenLake для надання комбінації функцій, орієнтованих на AI, включно з конвеєром, орієнтованим на дані, програмним забезпеченням для управління життєвим циклом, високопродуктивними міжз'єднаннями та підтримкою відкритої екосистеми розширень сторонніх виробників. За словами компанії, суперкомп'ютерний досвід, отриманий нею в результаті придбання у 2019 році компанії Cray Research, дає їй перевагу на ринку.

На конференції Discover Barcelona компанія оголосила про розширення співпраці з Nvidia для створення генеративної обчислювальної платформи для AI від Nvidia, яка буде оптимізована для навчання і налаштування моделей AI з використанням приватних наборів даних і користувацьких програмних інструментів.

Заснована на апаратному забезпеченні HPE ProLiant DL380a, платформа постачається з попередньо встановленими графічними процесорами Nvidia L40S, блоками оброблення даних BlueField-3 і мережею Ethernet Spectrum-X і розрахована на точне налаштування моделі Llama-2 з 70 млрд параметрів за допомогою 16 серверів і 64 графічних процесорів. У систему входить розширене середовище HPE Machine Learning Development Environment з можливостями генеративної студії AI для створення прототипів і тестування, а також версія програмного забезпечення HPE Ezmeral з підтримкою GPU.

Також до комплекту входить стек хмарних даних AI Enterprise від Nvidia для безпечної та керованої розробки та розгортання AI та хмарний нативний фреймворк NeMo від Nvidia для налаштування та розгортання моделей.

"Існує новий тип корпоративних застосунків, які стали можливими завдяки генеративному AI", - говорить Манувір Дас, віцепрезидент Nvidia з корпоративних обчислень. "У ньому використовується модель вбудовування AI для перетворення даних у сховище даних у вбудовування, яке являє собою уявлення того, що означає інформація. Потім ви використовуєте векторну базу даних для зберігання цих вкраплень, щоб ви могли спілкуватися з вашими даними, знаходити всю інформацію у вашому сховищі, яка якнайкраще представляє відповідь, і перетворювати її на підказки для подачі у вашу велику мовну модель".

Інфраструктура, орієнтована на AI, включатиме GreenLake for File Storage - платформу для зберігання неструктурованих даних на флешпам'яті, спеціально налаштовану для навчання і налаштування моделей. Платформа має вдвічі більшу продуктивність порівняно з наявними файловими сховищами GreenLake і вчетверо більшу пропускну спроможність та можливість підключення за допомогою мережевої платформи Nvidia Quantum-2 InfiniBand.

Середовище розробки HPE Machine Learning Development Environment тепер доступне як керована послуга для навчання моделей. За словами компанії, ця послуга знижує операційну складність і потребу в персоналі для розробки моделей і має можливості генеративної студії AI для створення прототипів і тестування.

Удосконалена платформа HPE Ezmeral для програмних контейнерів тепер підтримує гібридне озеро даних, оптимізоване для графічних процесорів і сумісне з файловою системою NFS і об'єктним сховищем S3, сумісним з Amazon Web Services. Покращене навчання та налаштування моделей забезпечуються аналітичним програмним забезпеченням, інтегрованим із середовищем розробки машинного навчання.

Удосконалену пропозицію оптимізовано для розподілу графічних процесорів Nvidia між робочими навантаженнями та надає доступ до сторонніх інтеграцій з відкритим вихідним кодом Whylogs для реєстрації даних і фреймворком Voltron Data для запитів з GPU-прискоренням.

HPE також повідомила, що її сервісна організація буде надавати широкий спектр послуг з консультування, навчання та розгортання за підтримки нових центрів, орієнтованих на AI та дані, в Іспанії, США, Болгарії, Індії та Тунісі. Клієнти зможуть розміщувати замовлення на продукти та послуги генеративного AI вже з першого кварталу наступного року.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365