Глава Meta Марк Цукерберг на этой неделе опубликовал обновленную информацию об искусственном интеллекте (ИИ) Meta и аппаратном обеспечении, на котором он основан. К концу года Meta будет иметь оборудование искусственного интеллекта с производительностью, эквивалентной 600 000 графическим процессорам Nvidia H100. Судя по всему, Meta, которая, как известно, является одним из крупнейших покупателей графических процессоров Nvidia H100, покупает многие виды процессоров искусственного интеллекта, включая AMD Instinct MI300.
«В настоящее время мы обучаем нашу модель следующего поколения Llama 3 и создаем массивную вычислительную инфраструктуру для поддержки нашей будущей дорожной карты, включая 350 000 H100 к концу этого года — и в целом почти 600 000 эквивалентов вычислений H100, если включить другие графические процессоры», - написал Цукерберг в своем Instagram.
По данным Omdia, Meta закупила около 150 000 графических процессоров Nvidia в 2023 году, и только Microsoft смогла бросить ей вызов. По данным Omdia, Google, Amazon, Oracle и Tencent смогли получить только около 50 000 графических процессоров H100 каждая. Как оказалось, Meta сейчас собирается купить и установить сотни тысяч графических процессоров Nvidia H100 в ближайшие кварталы. Сможет ли Nvidia удовлетворить спрос на свои графические процессоры с искусственным интеллектом и продукты Grace Hopper, ориентированные на искусственный интеллект, — это другой вопрос.
Дилан Патель, главный аналитик SemiAnalysis, прогнозирует, что Nvidia сможет увеличить выпуск своих продуктов на базе Hopper — семейства, которое сегодня включает H100, H200, GH100, GH200 и H20 — до 773 000 в первом квартале 2024 года, а затем до 811 000 во втором квартале 2024 г., что является впечатляющим ростом, учитывая тот факт, что во втором квартале 2023 г. компания отгрузила около 300 000 H100.
Что интересно, Цукерберг отмечает, что к концу 2024 года его компания будет иметь производительность искусственного интеллекта, эквивалентную 600 000 графических процессоров H100. Это, вероятно, указывает на то, что Meta собирается добавить в свой парк несколько совершенно новых графических процессоров Nvidia Blackwell AI (что логично, поскольку ее программное обеспечение разработано на базе процессоров на базе CUDA), а затем закупать оборудование AI у других поставщиков. Фактически, по данным SemiAnalysis, и Meta, и Microsoft закупают большое количество процессоров AMD Instinct MI300.
«Хотя у Nvidia есть потенциал для продолжения роста во втором полугодии, проведенное нами моделирование спроса указывает на падение спроса на Hopper, поскольку гиперскейлеры переключаются на Blackwell», — сказал Дилан Патель изданию Tom's Hardware. Meta и Microsoft также приобретают значительные объемы акций MI300.
Долгосрочная цель Meta — создать общий искусственный интеллект (AGI), который сможет не только учиться, генерировать и реагировать, но также обладать когнитивными способностями и способностью обосновывать свои решения. Чтобы добиться этого, Meta, по-видимому, сближает свои исследования в области AGI и генеративного искусственного интеллекта. Между тем, Цукерберг не раскрыл, достаточно ли существующего оборудования для создания работающих моделей AGI.
«Наша долгосрочная цель — создать общий интеллект, ответственно открыть его исходный код и сделать его широко доступным, чтобы каждый мог получить от него пользу», — сказал глава Meta. «Мы объединяем два наших основных направления исследований в области ИИ — фундаментальные исследования ИИ (FAIR) и генеративный ИИ — чтобы поддержать это».
Помимо создания крупных центров обработки данных, ориентированных на искусственный интеллект, для поддержки приложений FAIR и GenAI, Facebook также работает над устройствами с поддержкой искусственного интеллекта и планирует расширить линейку таких гаджетов.
«Также очень рад нашему прогрессу в создании новых вычислительных устройств, ориентированных на искусственный интеллект, таких как умные очки Ray Ban Meta», — сказал Цукерберг, «Скоро будет еще много чего».
Иван Ковалев
VIA