Google опубликовал научную статью с подробным описанием суперкомпьютеров, созданных для обучения передовых моделей ИИ, заявив, что они быстрее и эффективнее, чем те, которые использует Microsoft, использующая графические процессоры от Nvidia. Да начнутся войны чипов ИИ!
- Гигант поисковых систем Google заявил, что суперкомпьютеры, которые он использует для разработки своих моделей искусственного интеллекта (ИИ), работают быстрее и энергоэффективнее, чем у корпорации Nvidia.
- В то время как вычислительная мощность для большинства компаний, занимающихся ИИ, исходит от чипов Nvidia, Google использует собственный чип под названием Tensor Processing Unit (TPU).
Для большинства вещей, связанных с ИИ в наши дни, итерации продуктов происходят быстро, и в настоящее время TPU находится в четвертом поколении. По мере того, как Microsoft собирала чипы для нужд исследований OpenAI, Google также собрала 4000 TPU для создания своего суперкомпьютера.
Поскольку на эти суперкомпьютеры возлагаются масштабные задачи, которые не может выполнить один чип, тысячи центров обработки данных должны взаимодействовать друг с другом. В недавней научной статье Google заявила, что у нее есть специально разработанные оптические переключатели.
Модель Google PaLM, самая большая модель, о которой она публично говорила, была обучена с использованием суперкомпьютера, состоящего из 4000 подключенных TPU и времени обработки более 50 дней. Google утверждает, что ее суперкомпьютер может перенастраивать соединения между чипами на лету, что позволяет извлекать прирост производительности из сборки.
Google также утверждает в документе, что его TPU в 1,7 раза быстрее, чем чипы A100 от Nvidia, на которых работает большинство приложений ИИ. Чипы также в 1,9 раза более энергоэффективны, чем A100, что делает обработку искусственного интеллекта Google более экологичной.
В то время как Microsoft хвастается тем, что поддерживает исследования OpenAI с помощью своих суперкомпьютерных сервисов, у Google есть Midjourney среди своих известных клиентов, которые создали передовые инструменты искусственного интеллекта, использующие вычислительную мощность.
По мере того, как гонка за улучшенным ИИ накаляется, Nvidia представила свой чип H100 с вычислительной мощью.
Google не прокомментировал, как его TPU четвертого поколения работает по сравнению с H100, но сказал, что у него есть хороший конвейер будущих чипов, чтобы конкурировать.