ML-дайджест: железо, деньги и тренды

GPU-гонка, Windows ML и Gen AI.͏‌͏͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  ͏‌  

Открыть письмо в браузере AMD активно разрабатывает новое поколение серверных GPU Важно отметить, что в сегменте малых кластеров NVIDIA значительно превосходит красных со своим решением NVL72 на базе GB200. С новым поколением AMD хочет составить конкуренцию зеленым, причем уже с решением NVL144. Для этого много ресурсов вкладывается в доработку интерконнекта между GPU-серверами. Подробнее Большое обновление технологического стека для ML-разработки на Windows Раньше стек назывался DirectML (DML), но после обновления изменил название на Windows ML. В качестве основного формата ML-моделей используется ONNX Runtime Engine, а аппаратной базой могут служить NPU, CPU и GPU от AMD, Intel, NVIDIA and Qualcomm. А еще заявлено, что повысилась производительность, появилось больше интеграций и полезных инструментов.  Подробнее Обработка данных с помощью обновленного NVIDIA DALI У вас возникали ситуации, когда Data loader в PyTorch не успевает подготавливать данные для передачи в GPU? Ситуация грустная, если нет возможности вынести предобработку на GPU. NVIDIA уже давно предложила свой вариант решения — NVIDIA DALI, а недавно вышло его обновление. Ключевым в нем является DALI Proxy, который просто интегрируется в логику работы с датасетами в PyTorch и позволяет решать проблемы производительности. Подробнее NVIDIA запускает 800V HVDC для «ИИ-фабрик» будущего Если вы надеялись, что потребление GPU со временем будет снижаться, то пока радоваться нечему. Вместо снижения потребления NVIDIA разработала новую схему питания, чтобы строить мегаваттные стойки. К этой инициативе уже подключились производители энергооборудования, так что в 2027 году ждем линейку готовых решений NVL уже с новыми требованиями по питанию.  Подробнее Salesforce покупает Informatica за $8 млрд Руководство Salesforce решило купить крупного игрока рынка обработки данных и ИИ. Теперь data-платформа Informatica и ее компетенции помогут Salesforce внедрить GenAI и повысить эффективность бизнеса. Подробнее Отчет CNCF о состоянии разработки в облаках Пусть выводы нельзя напрямую перекладывать на реалии российского рынка, однако анализировать точно стоит. В отчете есть целая секция про ML, из которой становится понятно, что большая часть ML-проектов все еще делается не в Kubernetes. Хотя команды все больше хотят использовать именно его. Подробнее NVIDIA «отключает» CUDA для GTX 1080 и других старых GPU Скоро прибавится проблем для тех, кто использует разные модели GPU для своей работы. Самое заметное — прекращение поддержки 1080. Теперь для нее придется собирать контейнеры с устаревшей версией CUDA. Подробнее Выбираем GPU для LLM: NVIDIA GenAI-Perf поможет с бенчмарками Один из самых популярных запросов к Selectel в рамках ML-проектов: «Как подобрать GPU для запуска LLM-модели?» Ответ на него помогает найти инструмент GenAI-Perf от NVIDIA. В нем можно указать параметры конкретного целевого запроса и получить бенчмарк с оценкой времени генерации токенов и прочих параметров. Опыт Selectel можно узнать в докладе Антона Алексеева на митапе «MLечный путь 2025». Подробнее Присоединяйтесь к нашему сообществу ML- и MLOps-инженеров — обсуждаем продакшен ML, делимся инсайтами, находим решения вместе. Присоединиться Вы можете настроить вашу подписку или отписаться. Приводите клиентов в Selectel и зарабатывайте до 15% от их затрат. Академия   Community   Карьера   Соцсети Лицензия на телематические услуги № 176267 © АО «Селектел», 2008–2025

Новости от Политнавигатор за последний час

Политнавигатор за последний час опубликовал:

06.06.2025 @ 12:51
Россия движется к Запорожью - украинский осинтер

Российская армия начала интенсивное движение в сторону Запорожья. На направлении работают опытные десантники и, когда они дойдут до реки Конка, Запорожье окажется в зоне досягаемости ствольной артиллерии. Об этом в эфире телеканала «Голос Днепра» заявил соучредитель украинского разведывательного ресурса DeepState Руслан Микула, передаёт корреспондент «ПолитНавигатора». «Враг сегодня утром начал активные наступательные действия в направлении Малиновки, в основном малыми [...]

06.06.2025 @ 12:42
Зачем Россия запустит мессенджер взамен Telegram и WhatsApp

Глава Минцифры накануне на совещании с президентом Путиным анонсировал создание российского мессенджера. В СМИ всё большее сообщений о вопросах по поводу безопасности использования WhatsApp и Telegram. В России, к сожалению, и долго раскачиваются, и долго внедряют собственные сервисы, сравнимые по удобству и популярности с западными. Учитывая предыдущий опыт, создание и внедрение мессенджера ждет нелегкий путь. Однако, [...]

06.06.2025 @ 12:27
Появились эпические кадры прилетов по украинским военным заводам

В сети появляются новые кадры результативных прилетов о тыловым объектам Украины. Так одним из самых ярких стал ролик, снятый из окна своего дома местным жителем в Луцке, передает корреспондент «ПолитНавигатора». На видео можно услышать испуганно матерящегося мужчину и одна за другой прилетающие российские ракеты. При этом украинская ПВО бездействует. По данным геолокации, ракеты поразили завод «Мотор», который специализируется [...]

06.06.2025 @ 12:02
Уехал ни с чем: грубая лесть не помогла Мерцу убедить Трампа наказать Россию и вооружить Украину

The New York Times пишет о визите немецкого канцлера Фридриха Мерца в США и констатирует, что, несмотря на, в целом, теплую атмосферу переговоров в Белом доме, немецкий гость не смог убедить Дональда Трампа продолжить оказывать давление на Россию и поддержать Киев оружием. Ранее именно эти два вопроса немецкие СМИ называли наиболее важными пунктами повестки американского [...]



Вы получили это письмо, так как просили уведомлять вас о появлении новых записей.
С уважением, Subscribe2 Sender