June 04, 09:12

Чтобы внедрять ИИ, нужна инфраструктура. Команда Yandex Infrastructure провела конференцию infra.conf и рассказала, как перестраивает физическую и ML-инфраструктуру компании. Это поможет быстрее внедрять ИИ в сервисы компании. Ниже — самые важные анонсы с конференции.

〰️ Dev Cluster — новый подход к распределению GPU

ML-инженеры в работе используют большое количество GPU. С Dev Cluster ML-разработчик за пару кликов получит нужные GPU-ресурсы без забот об инфраструктуре. Это внутреннее решение Яндекса помогает быстрее проводить эксперименты и разрабатывать ML-модели.

〰️ Кампус дата-центров

Новый подход, чтобы работать с растущими нагрузками из-за внедрения ИИ. Кампус — несколько независимых дата-центров в одном месте и с общей инфраструктурой. Они эффективнее используют ресурсы, снижают издержки и дают в три раза больше мощности. В России пока нет дата-центров с такими показателями.

〰️ Жидкостное охлаждение в дата-центрах

Эффективнее отводит тепло и снижает энергопотребление. В Яндексе разработали стойки, которые добавляют жидкостное охлаждение, но не требуют масштабной перестройки всего дата-центра. Решение поможет дата-центрам адаптироваться к растущим нагрузкам, связанным с развитием ИИ.

Подписывайтесь 🟣 @yandex_infrastructure