Суперкомп'ютер Condor Galaxy 1 для ШІ-навчання має продуктивність 4 ексафлопси

Компанія Cerebras Systems та G42, технологічна холдингова група з ОАЕ, оголосили про створення Condor Galaxy - мережі з дев'яти взаємопов'язаних суперкомп'ютерів, що пропонує новий підхід до обчислень в області ШІ та обіцяє значно скоротити час навчання моделей ШІ. Перший суперкомп'ютер Condor Galaxy 1 (CG-1) має продуктивність 4 ексафлопси та 54 млн ядер. На початку 2024 року Cerebras і G42 планують розгорнути в США ще два таких суперкомп'ютери - CG-2 та CG-3. Заявлено, що ця суперкомп'ютерна мережа з планованою продуктивністю 36 ексафлоп загалом зробить революцію у розвитку штучного інтелекту в усьому світі.

"Співпраця з компанією Cerebras, спрямована на швидке створення найшвидшого у світі суперкомп'ютера для навчання штучному інтелекту і закладку фундаменту для об'єднання сузір'я цих суперкомп'ютерів по всьому світу, було надзвичайно цікавим. Це партнерство об'єднує видатні обчислювальні можливості Cerebras і багатогалузевий досвід G42 в області ШІ. Condor Galaxy буде використовуватися для вирішення найбільш актуальних проблем суспільства в галузі охорони здоров'я, енергетики, боротьби зі зміною клімату тощо", - сказав Талал Алькаїссі, генеральний директор G42 Cloud, дочірньої компанії G42.

Розташований в Санта-Кларі (шт. Каліфорнія, США), CG-1 об'єднує 64 системи Cerebras CS-2 в єдиний, простий у використанні суперкомп'ютер для навчання ШІ з продуктивністю 4 ексафлопси. Компанії Cerebras і G42 пропонують CG-1 як хмарний сервіс, що дозволяє замовникам користуватися продуктивністю суперкомп'ютера ШІ без необхідності керування або розподілу моделей за фізичними системами.

CG-1 - це перший випадок партнерства Cerebras не тільки для створення спеціалізованого суперкомп'ютера ШІ, але і для його управління та експлуатації. CG-1 призначений для того, щоб G42 та її хмарні клієнти могли швидко та легко навчати великі, принципово нові моделі, прискорюючи тим самим інновації. Стратегічне партнерство Cerebras-G42 вже дозволило створити найсучасніші моделі ШІ в галузі двомовного спілкування арабською мовою, охорони здоров'я та вивчення клімату.

"CG-1, забезпечуючи 4 екзафлопси обчислень для ШІ при FP 16, значно скорочує терміни навчання ШІ, усуваючи при цьому проблеми розподілених обчислень", - сказав Ендрю Фельдман, генеральний директор Cerebras Systems. "Багато хмарних компаній анонсували масивні кластери GPU, створення яких коштує мільярди доларів, але які вкрай складно використовувати. Розподіл однієї моделі по тисячах крихітних GPU вимагає місяців часу від десятків людей з рідкісним досвідом. CG-1 усуває цю проблему. Налаштування генеративної моделі ШІ займає хвилини, а не місяці, і не може. 4 ексафлопи, які будуть розгорнуті по всій території США. Протягом наступного року спільно з компанією G42 ми плануємо розширити це розгортання та створити 36 ексафлопів ефективних, спеціально створених обчислень для ШІ".

Оптимізований для великих мовних моделей та генеративного ШІ, CG-1 забезпечує 4 екзафлопси 16-розрядних обчислень для ШІ, стандартну підтримку моделей з 600 млрд параметрів та конфігурації, що розширюються, та підтримують моделі з до 100 трлн параметрами. Маючи 54 мільйони оптимізованих для ШІ обчислювальних ядер, 388 Тбіт/с пропускної здатності мережі й живлячись від 72 704 процесорних ядер AMD EPYC, CG-1, на відміну від будь-якого відомого кластера GPU, забезпечує практично лінійне масштабування продуктивності від 1 до 64 систем.

"AMD прагне прискорити розвиток ШІ за допомогою передових високопродуктивних обчислювальних процесорів та адаптивних обчислювальних продуктів, а також завдяки співпраці з такими інноваційними компаніями, як Cerebras, які поділяють наше бачення повсюдного поширення ШІ", - сказав Форрест Норрод, виконавчий віцепрезидент та генеральний менеджер підрозділу рішень для MD. "Condor Galaxy 1, створений компанією Cerebras на базі більш ніж 70 000 процесорних ядер AMD EPYC, забезпечить доступ до величезних обчислювальних ресурсів для дослідників та підприємств, які просувають ШІ вперед".

У CG-1 реалізовано вбудовану підтримку навчання з великою довжиною послідовності, до 50 000 токенів, без використання спеціальних програмних бібліотек. Програмування CG-1 здійснюється повністю без використання складних мов розподіленого програмування, що дозволяє запускати навіть найбільші моделі, не витрачаючи тижні та місяці на розподіл роботи за тисячами графічних процесорів.

Доступ до CG-1 можна отримати вже зараз.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365