Meta обновила Andromeda – систему, которая выбирает рекламные объявления для дальнейшей оценки в Facebook и Instagram. Полный конвейер теперь обрабатывает более миллиарда объявлений в секунду на одном GPU-сервере. По оценке компании, это примерно в 100 раз выше показателя версии 2024 года. Результат обеспечили новая архитектура нейросети, объединение операций на GPU и сокращение передачи данных между серверами.
Для рекламодателя смысл этих изменений в том, что система может качественнее сопоставлять человека и объявление из большего числа кандидатов, сохраняя прежний лимит задержки. Meta связывает развитие Andromeda с ростом конверсий в Facebook на 2,4% с 2025 года. Это совокупный заявленный результат системы, а не обещание такого прироста каждой кампании и не эффект только обновления 2026 года.
Почему реклама начинается с отбора кандидатов
Рекламная рекомендация проходит несколько этапов. Сначала retrieval, или первичный отбор, за миллисекунды сокращает огромный набор подходящих объявлений до небольшого списка. Затем более ресурсоёмкие модели ранжирования подробно оценивают оставшихся кандидатов.
Качество первого этапа определяет, какие варианты вообще попадут на следующий. Если потенциально полезное объявление исключено слишком рано, последующее ранжирование уже не сможет его вернуть. При этом использовать одинаково сложную модель для всего исходного массива слишком дорого: нужно выдерживать ограничения по времени ответа и вычислительным ресурсам.
Meta обновила Andromeda – систему, которая выбирает рекламные объявления для дальнейшей оценки в Facebook и Instagram. Полный конвейер теперь обрабатывает более миллиарда объявлений в секунду на одном GPU-сервере. По оценке компании, это примерно в 100 раз выше показателя версии 2024 года. Результат обеспечили новая архитектура нейросети, объединение операций на GPU и сокращение передачи данных между серверами.
Для рекламодателя смысл этих изменений в том, что система может качественнее сопоставлять человека и объявление из большего числа кандидатов, сохраняя прежний лимит задержки. Meta связывает развитие Andromeda с ростом конверсий в Facebook на 2,4% с 2025 года. Это совокупный заявленный результат системы, а не обещание такого прироста каждой кампании и не эффект только обновления 2026 года.
Почему реклама начинается с отбора кандидатов
Рекламная рекомендация проходит несколько этапов. Сначала retrieval, или первичный отбор, за миллисекунды сокращает огромный набор подходящих объявлений до небольшого списка. Затем более ресурсоёмкие модели ранжирования подробно оценивают оставшихся кандидатов.
Качество первого этапа определяет, какие варианты вообще попадут на следующий. Если потенциально полезное объявление исключено слишком рано, последующее ранжирование уже не сможет его вернуть. При этом использовать одинаково сложную модель для всего исходного массива слишком дорого: нужно выдерживать ограничения по времени ответа и вычислительным ресурсам.
Meta обновила Andromeda – систему, которая выбирает рекламные объявления для дальнейшей оценки в Facebook и Instagram. Полный конвейер теперь обрабатывает более миллиарда объявлений в секунду на одном GPU-сервере. По оценке компании, это примерно в 100 раз выше показателя версии 2024 года. Результат обеспечили новая архитектура нейросети, объединение операций на GPU и сокращение передачи данных между серверами.
Для рекламодателя смысл этих изменений в том, что система может качественнее сопоставлять человека и объявление из большего числа кандидатов, сохраняя прежний лимит задержки. Meta связывает развитие Andromeda с ростом конверсий в Facebook на 2,4% с 2025 года. Это совокупный заявленный результат системы, а не обещание такого прироста каждой кампании и не эффект только обновления 2026 года.
Почему реклама начинается с отбора кандидатов
Рекламная рекомендация проходит несколько этапов. Сначала retrieval, или первичный отбор, за миллисекунды сокращает огромный набор подходящих объявлений до небольшого списка. Затем более ресурсоёмкие модели ранжирования подробно оценивают оставшихся кандидатов.
Качество первого этапа определяет, какие варианты вообще попадут на следующий. Если потенциально полезное объявление исключено слишком рано, последующее ранжирование уже не сможет его вернуть. При этом использовать одинаково сложную модель для всего исходного массива слишком дорого: нужно выдерживать ограничения по времени ответа и вычислительным ресурсам.
Meta обновила Andromeda – систему, которая выбирает рекламные объявления для дальнейшей оценки в Facebook и Instagram. Полный конвейер теперь обрабатывает более миллиарда объявлений в секунду на одном GPU-сервере. По оценке компании, это примерно в 100 раз выше показателя версии 2024 года. Результат обеспечили новая архитектура нейросети, объединение операций на GPU и сокращение передачи данных между серверами.
Для рекламодателя смысл этих изменений в том, что система может качественнее сопоставлять человека и объявление из большего числа кандидатов, сохраняя прежний лимит задержки. Meta связывает развитие Andromeda с ростом конверсий в Facebook на 2,4% с 2025 года. Это совокупный заявленный результат системы, а не обещание такого прироста каждой кампании и не эффект только обновления 2026 года.
Почему реклама начинается с отбора кандидатов
Рекламная рекомендация проходит несколько этапов. Сначала retrieval, или первичный отбор, за миллисекунды сокращает огромный набор подходящих объявлений до небольшого списка. Затем более ресурсоёмкие модели ранжирования подробно оценивают оставшихся кандидатов.
Качество первого этапа определяет, какие варианты вообще попадут на следующий. Если потенциально полезное объявление исключено слишком рано, последующее ранжирование уже не сможет его вернуть. При этом использовать одинаково сложную модель для всего исходного массива слишком дорого: нужно выдерживать ограничения по времени ответа и вычислительным ресурсам.
По мере роста числа объявлений этот компромисс становится острее. Автоматизация Advantage+ и генеративные инструменты для креативов увеличивают объём кандидатов. Поэтому задача Andromeda – расширять охват первичной оценки, сохраняя точность сопоставления и приемлемую стоимость обработки.
Как несколько экспертов учитывают интересы человека
В обновлённой модели используется Retrieval Mixture-of-Experts, или MoE. Общий принципархитектуры со смесью экспертов – выбирать для конкретного примера лишь часть специализированных подсетей. Это позволяет увеличивать возможности модели без пропорционального роста объёма вычислений при каждом обращении.
В Andromeda единый блок представления пользователя заменён ансамблем экспертов. Они учитывают меняющиеся интересы и контекст: последовательность взаимодействий с рекламой, представления групп пользователей, семантические признаки, полученные с помощью больших языковых моделей, и сигналы совместного взаимодействия в разных разделах и сервисах платформы.
Объявление тоже кодируется с учётом текущего контекста показа. Сеть маршрутизации с механизмом внимания выбирает наиболее подходящих экспертов, моделирующих пользователя, для оценки конкретного кандидата. Вместо одинаковой обработки всех пар «пользователь – объявление» система использует специализацию модели.
Meta оценивает качество такого сопоставления как близкое к уровню моделей ранжирования. При этом число операций с плавающей точкой во время инференса, или FLOPs, примерно в 300 раз меньше, чем у модели Andromeda 2024 года. Эту цифру нельзя напрямую трактовать как такое же сокращение стоимости серверов или ускорение всей рекламной системы.
Зачем переносить весь отбор на GPU
Когда система оценивает миллиарды кандидатов в секунду, ограничением становится перемещение данных. Даже небольшой промежуточный массив на каждое объявление превращается в терабайты обращений к памяти в секунду. Быстро считать недостаточно, если процессор постоянно ждёт очередную порцию данных.
Здесь важна платформаNVIDIA GH200 Grace Hopper. Она объединяет CPU Grace и GPU Hopper через NVLink-C2C с когерентным интерфейсом 900 ГБ/с. Однако потенциал оборудования раскрывается только тогда, когда программный конвейер учитывает его устройство.
В Andromeda извлечение эмбеддингов – числовых представлений признаков, – взаимодействие модели пользователя и объявления и вычисление оценки объединены в одно GPU-ядро. Промежуточные результаты остаются в регистрах и разделяемой памяти блоков потоков вместо повторной записи в высокоскоростную память HBM. Такой подход соответствует общему принципуоптимизации CUDA: сокращать перемещение данных и сохранять их рядом с вычислениями.
Вторым препятствием была сеть. Проверка соответствия таргетингу и выбор лучших кандидатов раньше выполнялись на CPU-серверах отдельно от GPU-оценки. Передача длинных списков объявлений между ними насыщала сетевые соединения. Теперь проверка индекса, оценка и выбор top-K размещены на одном GPU. Сервер получает компактный запрос с пользовательскими признаками и условиями таргетинга, а возвращает только итоговый список. Сетевой трафик сократился примерно в 100 раз.
Перенос проверки индекса потребовал сохранить сложную логику таргетинга по десяткам категорий признаков и обновление данных в реальном времени. Созданные, изменённые и завершённые объявления должны корректно учитываться и в новой архитектуре.
Что показывают тесты с NVIDIA
С начала 2026 года Meta и NVIDIA совместно оптимизируют компоненты конвейера. NVIDIA разрабатывает ускоренные GPU-ядра, а Meta интегрирует их и проверяет работу всей системы. Для отдельных компонентов заявлено ускорение примерно от двух до пяти раз; результат сети маршрутизации – в 5,3 раза, с 2,4 млрд до более 10 млрд оценок объявлений в секунду.
Оптимизированное ядро задействует около 85% пиковой пропускной способности HBM. По задержке маршрутизация приблизилась к простой оценке скалярным произведением на том же оборудовании, хотя модель учитывает более сложные связи. Переход с FP16 на INT8 в тестах дал ещё до двукратного роста производительности при сопоставимой точности.
Проверку соответствия индексу ускорили более чем вдвое – до свыше 100 млрд объявлений в секунду. Оптимизация форматов данных между этапами дополнительно сократила накладные расходы. Полный конвейер в тестах показал производительность в несколько раз выше текущей рабочей системы; дальнейший выигрыш ожидается по мере внедрения оптимизаций.
Эти показатели описывают разные уровни обработки. Более 10 млрд оценок в секунду относится к вычислительному ядру на одном GH200, более 100 млрд – к проверке индекса, а более 1 млрд – к полному рабочему конвейеру на GPU-сервере. Складывать их или выдавать скорость отдельного этапа за скорость всей системы некорректно. Речь также идёт об оценках кандидатов, а не о числе показов рекламы пользователям.
Что меняется для рекламодателей
Главный практический эффект – более сильная модель первичного отбора может рассматривать больше релевантных вариантов в пределах прежнего времени ответа. Улучшение работает внутри рекламной инфраструктуры. Само по себе оно не задаёт универсальную стратегию бюджета, структуру кампаний или гарантированный рост ROAS.
Дальнейшая работа охватывает Grace Blackwell и следующие поколения платформ. Среди направлений – подбор соотношения ресурсов CPU и GPU, более глубокие модели взаимодействия, дополнительные эксперты и новые пути отбора. Запас производительности нужен для роста сложности моделей без сопоставимого увеличения инфраструктуры. Эти направления ещё исследуются, поэтому результаты тестов Hopper нельзя автоматически переносить на будущие конфигурации.
По мере роста числа объявлений этот компромисс становится острее. Автоматизация Advantage+ и генеративные инструменты для креативов увеличивают объём кандидатов. Поэтому задача Andromeda – расширять охват первичной оценки, сохраняя точность сопоставления и приемлемую стоимость обработки.
Как несколько экспертов учитывают интересы человека
В обновлённой модели используется Retrieval Mixture-of-Experts, или MoE. Общий принципархитектуры со смесью экспертов – выбирать для конкретного примера лишь часть специализированных подсетей. Это позволяет увеличивать возможности модели без пропорционального роста объёма вычислений при каждом обращении.
В Andromeda единый блок представления пользователя заменён ансамблем экспертов. Они учитывают меняющиеся интересы и контекст: последовательность взаимодействий с рекламой, представления групп пользователей, семантические признаки, полученные с помощью больших языковых моделей, и сигналы совместного взаимодействия в разных разделах и сервисах платформы.
Объявление тоже кодируется с учётом текущего контекста показа. Сеть маршрутизации с механизмом внимания выбирает наиболее подходящих экспертов, моделирующих пользователя, для оценки конкретного кандидата. Вместо одинаковой обработки всех пар «пользователь – объявление» система использует специализацию модели.
Meta оценивает качество такого сопоставления как близкое к уровню моделей ранжирования. При этом число операций с плавающей точкой во время инференса, или FLOPs, примерно в 300 раз меньше, чем у модели Andromeda 2024 года. Эту цифру нельзя напрямую трактовать как такое же сокращение стоимости серверов или ускорение всей рекламной системы.
Зачем переносить весь отбор на GPU
Когда система оценивает миллиарды кандидатов в секунду, ограничением становится перемещение данных. Даже небольшой промежуточный массив на каждое объявление превращается в терабайты обращений к памяти в секунду. Быстро считать недостаточно, если процессор постоянно ждёт очередную порцию данных.
Здесь важна платформаNVIDIA GH200 Grace Hopper. Она объединяет CPU Grace и GPU Hopper через NVLink-C2C с когерентным интерфейсом 900 ГБ/с. Однако потенциал оборудования раскрывается только тогда, когда программный конвейер учитывает его устройство.
В Andromeda извлечение эмбеддингов – числовых представлений признаков, – взаимодействие модели пользователя и объявления и вычисление оценки объединены в одно GPU-ядро. Промежуточные результаты остаются в регистрах и разделяемой памяти блоков потоков вместо повторной записи в высокоскоростную память HBM. Такой подход соответствует общему принципуоптимизации CUDA: сокращать перемещение данных и сохранять их рядом с вычислениями.
Вторым препятствием была сеть. Проверка соответствия таргетингу и выбор лучших кандидатов раньше выполнялись на CPU-серверах отдельно от GPU-оценки. Передача длинных списков объявлений между ними насыщала сетевые соединения. Теперь проверка индекса, оценка и выбор top-K размещены на одном GPU. Сервер получает компактный запрос с пользовательскими признаками и условиями таргетинга, а возвращает только итоговый список. Сетевой трафик сократился примерно в 100 раз.
Перенос проверки индекса потребовал сохранить сложную логику таргетинга по десяткам категорий признаков и обновление данных в реальном времени. Созданные, изменённые и завершённые объявления должны корректно учитываться и в новой архитектуре.
Что показывают тесты с NVIDIA
С начала 2026 года Meta и NVIDIA совместно оптимизируют компоненты конвейера. NVIDIA разрабатывает ускоренные GPU-ядра, а Meta интегрирует их и проверяет работу всей системы. Для отдельных компонентов заявлено ускорение примерно от двух до пяти раз; результат сети маршрутизации – в 5,3 раза, с 2,4 млрд до более 10 млрд оценок объявлений в секунду.
Оптимизированное ядро задействует около 85% пиковой пропускной способности HBM. По задержке маршрутизация приблизилась к простой оценке скалярным произведением на том же оборудовании, хотя модель учитывает более сложные связи. Переход с FP16 на INT8 в тестах дал ещё до двукратного роста производительности при сопоставимой точности.
Проверку соответствия индексу ускорили более чем вдвое – до свыше 100 млрд объявлений в секунду. Оптимизация форматов данных между этапами дополнительно сократила накладные расходы. Полный конвейер в тестах показал производительность в несколько раз выше текущей рабочей системы; дальнейший выигрыш ожидается по мере внедрения оптимизаций.
Эти показатели описывают разные уровни обработки. Более 10 млрд оценок в секунду относится к вычислительному ядру на одном GH200, более 100 млрд – к проверке индекса, а более 1 млрд – к полному рабочему конвейеру на GPU-сервере. Складывать их или выдавать скорость отдельного этапа за скорость всей системы некорректно. Речь также идёт об оценках кандидатов, а не о числе показов рекламы пользователям.
Что меняется для рекламодателей
Главный практический эффект – более сильная модель первичного отбора может рассматривать больше релевантных вариантов в пределах прежнего времени ответа. Улучшение работает внутри рекламной инфраструктуры. Само по себе оно не задаёт универсальную стратегию бюджета, структуру кампаний или гарантированный рост ROAS.
Дальнейшая работа охватывает Grace Blackwell и следующие поколения платформ. Среди направлений – подбор соотношения ресурсов CPU и GPU, более глубокие модели взаимодействия, дополнительные эксперты и новые пути отбора. Запас производительности нужен для роста сложности моделей без сопоставимого увеличения инфраструктуры. Эти направления ещё исследуются, поэтому результаты тестов Hopper нельзя автоматически переносить на будущие конфигурации.
По мере роста числа объявлений этот компромисс становится острее. Автоматизация Advantage+ и генеративные инструменты для креативов увеличивают объём кандидатов. Поэтому задача Andromeda – расширять охват первичной оценки, сохраняя точность сопоставления и приемлемую стоимость обработки.
Как несколько экспертов учитывают интересы человека
В обновлённой модели используется Retrieval Mixture-of-Experts, или MoE. Общий принципархитектуры со смесью экспертов – выбирать для конкретного примера лишь часть специализированных подсетей. Это позволяет увеличивать возможности модели без пропорционального роста объёма вычислений при каждом обращении.
В Andromeda единый блок представления пользователя заменён ансамблем экспертов. Они учитывают меняющиеся интересы и контекст: последовательность взаимодействий с рекламой, представления групп пользователей, семантические признаки, полученные с помощью больших языковых моделей, и сигналы совместного взаимодействия в разных разделах и сервисах платформы.
Объявление тоже кодируется с учётом текущего контекста показа. Сеть маршрутизации с механизмом внимания выбирает наиболее подходящих экспертов, моделирующих пользователя, для оценки конкретного кандидата. Вместо одинаковой обработки всех пар «пользователь – объявление» система использует специализацию модели.
Meta оценивает качество такого сопоставления как близкое к уровню моделей ранжирования. При этом число операций с плавающей точкой во время инференса, или FLOPs, примерно в 300 раз меньше, чем у модели Andromeda 2024 года. Эту цифру нельзя напрямую трактовать как такое же сокращение стоимости серверов или ускорение всей рекламной системы.
Зачем переносить весь отбор на GPU
Когда система оценивает миллиарды кандидатов в секунду, ограничением становится перемещение данных. Даже небольшой промежуточный массив на каждое объявление превращается в терабайты обращений к памяти в секунду. Быстро считать недостаточно, если процессор постоянно ждёт очередную порцию данных.
Здесь важна платформаNVIDIA GH200 Grace Hopper. Она объединяет CPU Grace и GPU Hopper через NVLink-C2C с когерентным интерфейсом 900 ГБ/с. Однако потенциал оборудования раскрывается только тогда, когда программный конвейер учитывает его устройство.
В Andromeda извлечение эмбеддингов – числовых представлений признаков, – взаимодействие модели пользователя и объявления и вычисление оценки объединены в одно GPU-ядро. Промежуточные результаты остаются в регистрах и разделяемой памяти блоков потоков вместо повторной записи в высокоскоростную память HBM. Такой подход соответствует общему принципуоптимизации CUDA: сокращать перемещение данных и сохранять их рядом с вычислениями.
Вторым препятствием была сеть. Проверка соответствия таргетингу и выбор лучших кандидатов раньше выполнялись на CPU-серверах отдельно от GPU-оценки. Передача длинных списков объявлений между ними насыщала сетевые соединения. Теперь проверка индекса, оценка и выбор top-K размещены на одном GPU. Сервер получает компактный запрос с пользовательскими признаками и условиями таргетинга, а возвращает только итоговый список. Сетевой трафик сократился примерно в 100 раз.
Перенос проверки индекса потребовал сохранить сложную логику таргетинга по десяткам категорий признаков и обновление данных в реальном времени. Созданные, изменённые и завершённые объявления должны корректно учитываться и в новой архитектуре.
Что показывают тесты с NVIDIA
С начала 2026 года Meta и NVIDIA совместно оптимизируют компоненты конвейера. NVIDIA разрабатывает ускоренные GPU-ядра, а Meta интегрирует их и проверяет работу всей системы. Для отдельных компонентов заявлено ускорение примерно от двух до пяти раз; результат сети маршрутизации – в 5,3 раза, с 2,4 млрд до более 10 млрд оценок объявлений в секунду.
Оптимизированное ядро задействует около 85% пиковой пропускной способности HBM. По задержке маршрутизация приблизилась к простой оценке скалярным произведением на том же оборудовании, хотя модель учитывает более сложные связи. Переход с FP16 на INT8 в тестах дал ещё до двукратного роста производительности при сопоставимой точности.
Проверку соответствия индексу ускорили более чем вдвое – до свыше 100 млрд объявлений в секунду. Оптимизация форматов данных между этапами дополнительно сократила накладные расходы. Полный конвейер в тестах показал производительность в несколько раз выше текущей рабочей системы; дальнейший выигрыш ожидается по мере внедрения оптимизаций.
Эти показатели описывают разные уровни обработки. Более 10 млрд оценок в секунду относится к вычислительному ядру на одном GH200, более 100 млрд – к проверке индекса, а более 1 млрд – к полному рабочему конвейеру на GPU-сервере. Складывать их или выдавать скорость отдельного этапа за скорость всей системы некорректно. Речь также идёт об оценках кандидатов, а не о числе показов рекламы пользователям.
Что меняется для рекламодателей
Главный практический эффект – более сильная модель первичного отбора может рассматривать больше релевантных вариантов в пределах прежнего времени ответа. Улучшение работает внутри рекламной инфраструктуры. Само по себе оно не задаёт универсальную стратегию бюджета, структуру кампаний или гарантированный рост ROAS.
Дальнейшая работа охватывает Grace Blackwell и следующие поколения платформ. Среди направлений – подбор соотношения ресурсов CPU и GPU, более глубокие модели взаимодействия, дополнительные эксперты и новые пути отбора. Запас производительности нужен для роста сложности моделей без сопоставимого увеличения инфраструктуры. Эти направления ещё исследуются, поэтому результаты тестов Hopper нельзя автоматически переносить на будущие конфигурации.
По мере роста числа объявлений этот компромисс становится острее. Автоматизация Advantage+ и генеративные инструменты для креативов увеличивают объём кандидатов. Поэтому задача Andromeda – расширять охват первичной оценки, сохраняя точность сопоставления и приемлемую стоимость обработки.
Как несколько экспертов учитывают интересы человека
В обновлённой модели используется Retrieval Mixture-of-Experts, или MoE. Общий принципархитектуры со смесью экспертов – выбирать для конкретного примера лишь часть специализированных подсетей. Это позволяет увеличивать возможности модели без пропорционального роста объёма вычислений при каждом обращении.
В Andromeda единый блок представления пользователя заменён ансамблем экспертов. Они учитывают меняющиеся интересы и контекст: последовательность взаимодействий с рекламой, представления групп пользователей, семантические признаки, полученные с помощью больших языковых моделей, и сигналы совместного взаимодействия в разных разделах и сервисах платформы.
Объявление тоже кодируется с учётом текущего контекста показа. Сеть маршрутизации с механизмом внимания выбирает наиболее подходящих экспертов, моделирующих пользователя, для оценки конкретного кандидата. Вместо одинаковой обработки всех пар «пользователь – объявление» система использует специализацию модели.
Meta оценивает качество такого сопоставления как близкое к уровню моделей ранжирования. При этом число операций с плавающей точкой во время инференса, или FLOPs, примерно в 300 раз меньше, чем у модели Andromeda 2024 года. Эту цифру нельзя напрямую трактовать как такое же сокращение стоимости серверов или ускорение всей рекламной системы.
Зачем переносить весь отбор на GPU
Когда система оценивает миллиарды кандидатов в секунду, ограничением становится перемещение данных. Даже небольшой промежуточный массив на каждое объявление превращается в терабайты обращений к памяти в секунду. Быстро считать недостаточно, если процессор постоянно ждёт очередную порцию данных.
Здесь важна платформаNVIDIA GH200 Grace Hopper. Она объединяет CPU Grace и GPU Hopper через NVLink-C2C с когерентным интерфейсом 900 ГБ/с. Однако потенциал оборудования раскрывается только тогда, когда программный конвейер учитывает его устройство.
В Andromeda извлечение эмбеддингов – числовых представлений признаков, – взаимодействие модели пользователя и объявления и вычисление оценки объединены в одно GPU-ядро. Промежуточные результаты остаются в регистрах и разделяемой памяти блоков потоков вместо повторной записи в высокоскоростную память HBM. Такой подход соответствует общему принципуоптимизации CUDA: сокращать перемещение данных и сохранять их рядом с вычислениями.
Вторым препятствием была сеть. Проверка соответствия таргетингу и выбор лучших кандидатов раньше выполнялись на CPU-серверах отдельно от GPU-оценки. Передача длинных списков объявлений между ними насыщала сетевые соединения. Теперь проверка индекса, оценка и выбор top-K размещены на одном GPU. Сервер получает компактный запрос с пользовательскими признаками и условиями таргетинга, а возвращает только итоговый список. Сетевой трафик сократился примерно в 100 раз.
Перенос проверки индекса потребовал сохранить сложную логику таргетинга по десяткам категорий признаков и обновление данных в реальном времени. Созданные, изменённые и завершённые объявления должны корректно учитываться и в новой архитектуре.
Что показывают тесты с NVIDIA
С начала 2026 года Meta и NVIDIA совместно оптимизируют компоненты конвейера. NVIDIA разрабатывает ускоренные GPU-ядра, а Meta интегрирует их и проверяет работу всей системы. Для отдельных компонентов заявлено ускорение примерно от двух до пяти раз; результат сети маршрутизации – в 5,3 раза, с 2,4 млрд до более 10 млрд оценок объявлений в секунду.
Оптимизированное ядро задействует около 85% пиковой пропускной способности HBM. По задержке маршрутизация приблизилась к простой оценке скалярным произведением на том же оборудовании, хотя модель учитывает более сложные связи. Переход с FP16 на INT8 в тестах дал ещё до двукратного роста производительности при сопоставимой точности.
Проверку соответствия индексу ускорили более чем вдвое – до свыше 100 млрд объявлений в секунду. Оптимизация форматов данных между этапами дополнительно сократила накладные расходы. Полный конвейер в тестах показал производительность в несколько раз выше текущей рабочей системы; дальнейший выигрыш ожидается по мере внедрения оптимизаций.
Эти показатели описывают разные уровни обработки. Более 10 млрд оценок в секунду относится к вычислительному ядру на одном GH200, более 100 млрд – к проверке индекса, а более 1 млрд – к полному рабочему конвейеру на GPU-сервере. Складывать их или выдавать скорость отдельного этапа за скорость всей системы некорректно. Речь также идёт об оценках кандидатов, а не о числе показов рекламы пользователям.
Что меняется для рекламодателей
Главный практический эффект – более сильная модель первичного отбора может рассматривать больше релевантных вариантов в пределах прежнего времени ответа. Улучшение работает внутри рекламной инфраструктуры. Само по себе оно не задаёт универсальную стратегию бюджета, структуру кампаний или гарантированный рост ROAS.
Дальнейшая работа охватывает Grace Blackwell и следующие поколения платформ. Среди направлений – подбор соотношения ресурсов CPU и GPU, более глубокие модели взаимодействия, дополнительные эксперты и новые пути отбора. Запас производительности нужен для роста сложности моделей без сопоставимого увеличения инфраструктуры. Эти направления ещё исследуются, поэтому результаты тестов Hopper нельзя автоматически переносить на будущие конфигурации.
Комментарии