Илон Маск рассказал, что для обучения нового поколения генеративного искусственного интеллекта Grok компании xAI нужно очень много ускорителей Nvidia.
Обучение модели Grok 2, которая уже вскоре станет доступно, потребовало 20 000 ускорителей Nvidia H100. А вот для Grok 3 нужно будет около 100 000 таких адаптеров. Либо меньшее количество более мощных ускорителей Blackwell.
По словам Маска, развитию технологий искусственного интеллекта в настоящее время препятствуют два основных фактора: нехватка самых современных ускорителей для ИИ и доступность электроэнергии. Напомним, один H100 потребляет около 700 Вт мощности. Поэтому 100 000 таких карт, соответственно, будут потреблять 70 МВт, и это только сами карты без учёта остальных компонентов. Суммарно вся система вполне может перевалить и за 100 МВт.
Источник: https://www.ixbt.com/news/2024/04/10/grok-3-100-000-nvidia-h100.html
Еще полезное
Новая «шестёрка» Mazda с запасом хода до 1200 км. Первые Mazda EZ-6 уже отгружены дилерам
Хвалёное стекло iPhone 16 Pro Max царапается проще, чем стекло iPhone 12 Pro Max, согласно тесту Wylsacom
«Вместо того, чтобы оштрафовать Boeing за то, что они подвергли астронавтов риску, FAA штрафует SpaceX за мелочи! Довольно!». Илон Маск обратился в Конгресс США