Чіпи Google Tensor продуктивніші ніж Nvidia A100 в АІ-завданнях

Згідно з опублікованим дослідженням  Google, розроблені компанією процесори Tensor Processing Unit (TPU) виявилися продуктивнішими, ніж платформа Nvidia A100 у завданнях на базі технології штучного інтелекту. Зараз Google використовує чіпи Tensor четвертого покоління, на базі яких побудований суперкомп'ютер, оптимізований для тренування надвеликих мовних моделей.

Повідомляється, що ця система включає 4096 TPU, які з'єднані за допомогою комутаторів оптичних каналів (OCS), які динамічно реконфігурують свою топологію міжз'єднань для покращення масштабування, доступності, використання, модульності, розгортання, безпеки, потужності та продуктивності. При цьому виконання поставленої перед нею завдання тренування було витрачено близько 50 днів.

За оцінкою Google, її фірмові TPU в 1,7 раза швидше, ніж чіпи A100 від Nvidia, вони також у 1,9 раза енергоефективніші, ніж A100. І хоча Google порівнює своє рішення не з топовою платформою Nvidia H100, але запевняє, що має у своєму розпорядженні перспективний план розвитку Tensor, який дозволить цим чіпам бути конкурентними й з нею.