Meta оновила Andromeda – систему, яка добирає рекламні оголошення для подальшого оцінювання у Facebook та Instagram. Повний конвеєр тепер обробляє понад мільярд оголошень за секунду на одному GPU-сервері. За оцінкою компанії, це приблизно в 100 разів більше за показник версії 2024 року. Результат забезпечили нова архітектура нейромережі, об’єднання операцій на GPU та скорочення передавання даних між серверами.
Для рекламодавця ці зміни означають, що система може якісніше зіставляти людину й оголошення з більшої кількості кандидатів, зберігаючи попередній ліміт затримки. Meta пов’язує розвиток Andromeda зі зростанням конверсій у Facebook на 2,4% з 2025 року. Це сукупний заявлений результат системи, а не обіцянка такого приросту кожній кампанії й не ефект лише оновлення 2026 року.
Рекламна рекомендація проходить кілька етапів. Спочатку retrieval, або первинний відбір, за мілісекунди скорочує величезний набір відповідних оголошень до невеликого списку. Потім більш ресурсомісткі моделі ранжування докладно оцінюють кандидатів, що залишилися.
Якість першого етапу визначає, які варіанти взагалі потраплять на наступний. Якщо потенційно корисне оголошення відсіяли зарано, подальше ранжування вже не зможе його повернути. Водночас застосовувати однаково складну модель до всього початкового масиву надто дорого: потрібно дотримуватися обмежень щодо часу відповіді та обчислювальних ресурсів.
Зі зростанням кількості оголошень цей компроміс загострюється. Автоматизація Advantage+ та генеративні інструменти для креативів збільшують обсяг кандидатів. Тому завдання Andromeda – розширювати охоплення первинного оцінювання, зберігаючи точність зіставлення та прийнятну вартість обробки.
В оновленій моделі використовується Retrieval Mixture-of-Experts, або MoE. Загальний принцип архітектури із сумішшю експертів – добирати для конкретного прикладу лише частину спеціалізованих підмереж. Це дає змогу розширювати можливості моделі без пропорційного збільшення обсягу обчислень під час кожного звернення.
В Andromeda єдиний блок представлення користувача замінили ансамблем експертів. Вони враховують мінливі інтереси та контекст: послідовність взаємодій із рекламою, представлення груп користувачів, семантичні ознаки, отримані за допомогою великих мовних моделей, і сигнали спільної взаємодії у різних розділах і сервісах платформи.
Оголошення також кодується з урахуванням поточного контексту показу. Мережа маршрутизації з механізмом уваги добирає найвідповідніших експертів, які моделюють користувача, для оцінювання конкретного кандидата. Замість однакової обробки всіх пар «користувач – оголошення» система використовує спеціалізацію моделі.
Meta оцінює якість такого зіставлення як близьку до рівня моделей ранжування. Водночас кількість операцій із рухомою комою під час інференсу, або FLOPs, приблизно в 300 разів менша, ніж у моделі Andromeda 2024 року. Цю цифру не можна прямо трактувати як таке саме скорочення вартості серверів чи прискорення всієї рекламної системи.
Коли система оцінює мільярди кандидатів за секунду, обмеженням стає переміщення даних. Навіть невеликий проміжний масив для кожного оголошення перетворюється на терабайти звернень до пам’яті за секунду. Швидко рахувати недостатньо, якщо процесор постійно чекає на чергову порцію даних.
Тут важлива платформа NVIDIA GH200 Grace Hopper. Вона поєднує CPU Grace та GPU Hopper через NVLink-C2C із когерентним інтерфейсом 900 ГБ/с. Утім, потенціал обладнання розкривається лише тоді, коли програмний конвеєр враховує його будову.
В Andromeda отримання ембедингів – числових представлень ознак, – взаємодія моделі користувача й оголошення та розрахунок оцінки об’єднані в одне GPU-ядро. Проміжні результати залишаються в регістрах і спільній пам’яті блоків потоків замість повторного запису у високошвидкісну пам’ять HBM. Такий підхід відповідає загальному принципу оптимізації CUDA: скорочувати переміщення даних і зберігати їх поряд з обчисленнями.
Другою перешкодою була мережа. Перевірка відповідності таргетингу та вибір найкращих кандидатів раніше виконувалися на CPU-серверах окремо від GPU-оцінювання. Передавання довгих списків оголошень між ними вичерпувало пропускну здатність мережевих з’єднань. Тепер перевірка індексу, оцінювання та вибір top-K розміщені на одному GPU. Сервер отримує компактний запит з ознаками користувача й умовами таргетингу, а повертає лише підсумковий список. Мережевий трафік скоротився приблизно в 100 разів.
Перенесення перевірки індексу вимагало зберегти складну логіку таргетингу за десятками категорій ознак та оновлення даних у реальному часі. Створені, змінені й завершені оголошення мають коректно враховуватися і в новій архітектурі.
Із початку 2026 року Meta та NVIDIA спільно оптимізують компоненти конвеєра. NVIDIA розробляє прискорені GPU-ядра, а Meta інтегрує їх і перевіряє роботу всієї системи. Для окремих компонентів заявлено прискорення приблизно у 2–5 разів; результат мережі маршрутизації – у 5,3 раза, з 2,4 млрд до понад 10 млрд оцінок оголошень за секунду.
Оптимізоване ядро використовує близько 85% пікової пропускної здатності HBM. За затримкою маршрутизація наблизилася до простого оцінювання скалярним добутком на тому самому обладнанні, хоча модель враховує складніші зв’язки. Перехід із FP16 на INT8 у тестах дав ще до двократного зростання продуктивності за зіставної точності.
Перевірку відповідності індексу прискорили більш ніж удвічі – до понад 100 млрд оголошень за секунду. Оптимізація форматів даних між етапами додатково зменшила накладні витрати. Повний конвеєр у тестах показав продуктивність у кілька разів вищу за поточну робочу систему; подальшого виграшу очікують у міру впровадження оптимізацій.
Ці показники описують різні рівні обробки. Понад 10 млрд оцінок за секунду стосується обчислювального ядра на одному GH200, понад 100 млрд – перевірки індексу, а понад 1 млрд – повного робочого конвеєра на GPU-сервері. Додавати їх чи видавати швидкість окремого етапу за швидкість усієї системи некоректно. Йдеться також про оцінювання кандидатів, а не про кількість показів реклами користувачам.
Головний практичний ефект – потужніша модель первинного відбору може розглядати більше релевантних варіантів у межах попереднього часу відповіді. Поліпшення працює всередині рекламної інфраструктури. Саме собою воно не визначає універсальну стратегію бюджету, структуру кампаній чи гарантоване зростання ROAS.
Подальша робота охоплює Grace Blackwell та наступні покоління платформ. Серед напрямів – добір співвідношення ресурсів CPU і GPU, глибші моделі взаємодії, додаткові експерти й нові шляхи відбору. Запас продуктивності потрібен для зростання складності моделей без зіставного збільшення інфраструктури. Ці напрями ще досліджують, тому результати тестів Hopper не можна автоматично переносити на майбутні конфігурації.
Meta оновила Andromeda – систему, яка добирає рекламні оголошення для подальшого оцінювання у Facebook та Instagram. Повний конвеєр тепер обробляє понад мільярд оголошень за секунду на одному GPU-сервері. За оцінкою компанії, це приблизно в 100 разів більше за показник версії 2024 року. Результат забезпечили нова архітектура нейромережі, об’єднання операцій на GPU та скорочення передавання даних між серверами.
Для рекламодавця ці зміни означають, що система може якісніше зіставляти людину й оголошення з більшої кількості кандидатів, зберігаючи попередній ліміт затримки. Meta пов’язує розвиток Andromeda зі зростанням конверсій у Facebook на 2,4% з 2025 року. Це сукупний заявлений результат системи, а не обіцянка такого приросту кожній кампанії й не ефект лише оновлення 2026 року.
Рекламна рекомендація проходить кілька етапів. Спочатку retrieval, або первинний відбір, за мілісекунди скорочує величезний набір відповідних оголошень до невеликого списку. Потім більш ресурсомісткі моделі ранжування докладно оцінюють кандидатів, що залишилися.
Якість першого етапу визначає, які варіанти взагалі потраплять на наступний. Якщо потенційно корисне оголошення відсіяли зарано, подальше ранжування вже не зможе його повернути. Водночас застосовувати однаково складну модель до всього початкового масиву надто дорого: потрібно дотримуватися обмежень щодо часу відповіді та обчислювальних ресурсів.
Зі зростанням кількості оголошень цей компроміс загострюється. Автоматизація Advantage+ та генеративні інструменти для креативів збільшують обсяг кандидатів. Тому завдання Andromeda – розширювати охоплення первинного оцінювання, зберігаючи точність зіставлення та прийнятну вартість обробки.
В оновленій моделі використовується Retrieval Mixture-of-Experts, або MoE. Загальний принцип архітектури із сумішшю експертів – добирати для конкретного прикладу лише частину спеціалізованих підмереж. Це дає змогу розширювати можливості моделі без пропорційного збільшення обсягу обчислень під час кожного звернення.
В Andromeda єдиний блок представлення користувача замінили ансамблем експертів. Вони враховують мінливі інтереси та контекст: послідовність взаємодій із рекламою, представлення груп користувачів, семантичні ознаки, отримані за допомогою великих мовних моделей, і сигнали спільної взаємодії у різних розділах і сервісах платформи.
Оголошення також кодується з урахуванням поточного контексту показу. Мережа маршрутизації з механізмом уваги добирає найвідповідніших експертів, які моделюють користувача, для оцінювання конкретного кандидата. Замість однакової обробки всіх пар «користувач – оголошення» система використовує спеціалізацію моделі.
Meta оцінює якість такого зіставлення як близьку до рівня моделей ранжування. Водночас кількість операцій із рухомою комою під час інференсу, або FLOPs, приблизно в 300 разів менша, ніж у моделі Andromeda 2024 року. Цю цифру не можна прямо трактувати як таке саме скорочення вартості серверів чи прискорення всієї рекламної системи.
Коли система оцінює мільярди кандидатів за секунду, обмеженням стає переміщення даних. Навіть невеликий проміжний масив для кожного оголошення перетворюється на терабайти звернень до пам’яті за секунду. Швидко рахувати недостатньо, якщо процесор постійно чекає на чергову порцію даних.
Тут важлива платформа NVIDIA GH200 Grace Hopper. Вона поєднує CPU Grace та GPU Hopper через NVLink-C2C із когерентним інтерфейсом 900 ГБ/с. Утім, потенціал обладнання розкривається лише тоді, коли програмний конвеєр враховує його будову.
В Andromeda отримання ембедингів – числових представлень ознак, – взаємодія моделі користувача й оголошення та розрахунок оцінки об’єднані в одне GPU-ядро. Проміжні результати залишаються в регістрах і спільній пам’яті блоків потоків замість повторного запису у високошвидкісну пам’ять HBM. Такий підхід відповідає загальному принципу оптимізації CUDA: скорочувати переміщення даних і зберігати їх поряд з обчисленнями.
Другою перешкодою була мережа. Перевірка відповідності таргетингу та вибір найкращих кандидатів раніше виконувалися на CPU-серверах окремо від GPU-оцінювання. Передавання довгих списків оголошень між ними вичерпувало пропускну здатність мережевих з’єднань. Тепер перевірка індексу, оцінювання та вибір top-K розміщені на одному GPU. Сервер отримує компактний запит з ознаками користувача й умовами таргетингу, а повертає лише підсумковий список. Мережевий трафік скоротився приблизно в 100 разів.
Перенесення перевірки індексу вимагало зберегти складну логіку таргетингу за десятками категорій ознак та оновлення даних у реальному часі. Створені, змінені й завершені оголошення мають коректно враховуватися і в новій архітектурі.
Із початку 2026 року Meta та NVIDIA спільно оптимізують компоненти конвеєра. NVIDIA розробляє прискорені GPU-ядра, а Meta інтегрує їх і перевіряє роботу всієї системи. Для окремих компонентів заявлено прискорення приблизно у 2–5 разів; результат мережі маршрутизації – у 5,3 раза, з 2,4 млрд до понад 10 млрд оцінок оголошень за секунду.
Оптимізоване ядро використовує близько 85% пікової пропускної здатності HBM. За затримкою маршрутизація наблизилася до простого оцінювання скалярним добутком на тому самому обладнанні, хоча модель враховує складніші зв’язки. Перехід із FP16 на INT8 у тестах дав ще до двократного зростання продуктивності за зіставної точності.
Перевірку відповідності індексу прискорили більш ніж удвічі – до понад 100 млрд оголошень за секунду. Оптимізація форматів даних між етапами додатково зменшила накладні витрати. Повний конвеєр у тестах показав продуктивність у кілька разів вищу за поточну робочу систему; подальшого виграшу очікують у міру впровадження оптимізацій.
Ці показники описують різні рівні обробки. Понад 10 млрд оцінок за секунду стосується обчислювального ядра на одному GH200, понад 100 млрд – перевірки індексу, а понад 1 млрд – повного робочого конвеєра на GPU-сервері. Додавати їх чи видавати швидкість окремого етапу за швидкість усієї системи некоректно. Йдеться також про оцінювання кандидатів, а не про кількість показів реклами користувачам.
Головний практичний ефект – потужніша модель первинного відбору може розглядати більше релевантних варіантів у межах попереднього часу відповіді. Поліпшення працює всередині рекламної інфраструктури. Саме собою воно не визначає універсальну стратегію бюджету, структуру кампаній чи гарантоване зростання ROAS.
Подальша робота охоплює Grace Blackwell та наступні покоління платформ. Серед напрямів – добір співвідношення ресурсів CPU і GPU, глибші моделі взаємодії, додаткові експерти й нові шляхи відбору. Запас продуктивності потрібен для зростання складності моделей без зіставного збільшення інфраструктури. Ці напрями ще досліджують, тому результати тестів Hopper не можна автоматично переносити на майбутні конфігурації.
Meta оновила Andromeda – систему, яка добирає рекламні оголошення для подальшого оцінювання у Facebook та Instagram. Повний конвеєр тепер обробляє понад мільярд оголошень за секунду на одному GPU-сервері. За оцінкою компанії, це приблизно в 100 разів більше за показник версії 2024 року. Результат забезпечили нова архітектура нейромережі, об’єднання операцій на GPU та скорочення передавання даних між серверами.
Для рекламодавця ці зміни означають, що система може якісніше зіставляти людину й оголошення з більшої кількості кандидатів, зберігаючи попередній ліміт затримки. Meta пов’язує розвиток Andromeda зі зростанням конверсій у Facebook на 2,4% з 2025 року. Це сукупний заявлений результат системи, а не обіцянка такого приросту кожній кампанії й не ефект лише оновлення 2026 року.
Рекламна рекомендація проходить кілька етапів. Спочатку retrieval, або первинний відбір, за мілісекунди скорочує величезний набір відповідних оголошень до невеликого списку. Потім більш ресурсомісткі моделі ранжування докладно оцінюють кандидатів, що залишилися.
Якість першого етапу визначає, які варіанти взагалі потраплять на наступний. Якщо потенційно корисне оголошення відсіяли зарано, подальше ранжування вже не зможе його повернути. Водночас застосовувати однаково складну модель до всього початкового масиву надто дорого: потрібно дотримуватися обмежень щодо часу відповіді та обчислювальних ресурсів.
Зі зростанням кількості оголошень цей компроміс загострюється. Автоматизація Advantage+ та генеративні інструменти для креативів збільшують обсяг кандидатів. Тому завдання Andromeda – розширювати охоплення первинного оцінювання, зберігаючи точність зіставлення та прийнятну вартість обробки.
В оновленій моделі використовується Retrieval Mixture-of-Experts, або MoE. Загальний принцип архітектури із сумішшю експертів – добирати для конкретного прикладу лише частину спеціалізованих підмереж. Це дає змогу розширювати можливості моделі без пропорційного збільшення обсягу обчислень під час кожного звернення.
В Andromeda єдиний блок представлення користувача замінили ансамблем експертів. Вони враховують мінливі інтереси та контекст: послідовність взаємодій із рекламою, представлення груп користувачів, семантичні ознаки, отримані за допомогою великих мовних моделей, і сигнали спільної взаємодії у різних розділах і сервісах платформи.
Оголошення також кодується з урахуванням поточного контексту показу. Мережа маршрутизації з механізмом уваги добирає найвідповідніших експертів, які моделюють користувача, для оцінювання конкретного кандидата. Замість однакової обробки всіх пар «користувач – оголошення» система використовує спеціалізацію моделі.
Meta оцінює якість такого зіставлення як близьку до рівня моделей ранжування. Водночас кількість операцій із рухомою комою під час інференсу, або FLOPs, приблизно в 300 разів менша, ніж у моделі Andromeda 2024 року. Цю цифру не можна прямо трактувати як таке саме скорочення вартості серверів чи прискорення всієї рекламної системи.
Коли система оцінює мільярди кандидатів за секунду, обмеженням стає переміщення даних. Навіть невеликий проміжний масив для кожного оголошення перетворюється на терабайти звернень до пам’яті за секунду. Швидко рахувати недостатньо, якщо процесор постійно чекає на чергову порцію даних.
Тут важлива платформа NVIDIA GH200 Grace Hopper. Вона поєднує CPU Grace та GPU Hopper через NVLink-C2C із когерентним інтерфейсом 900 ГБ/с. Утім, потенціал обладнання розкривається лише тоді, коли програмний конвеєр враховує його будову.
В Andromeda отримання ембедингів – числових представлень ознак, – взаємодія моделі користувача й оголошення та розрахунок оцінки об’єднані в одне GPU-ядро. Проміжні результати залишаються в регістрах і спільній пам’яті блоків потоків замість повторного запису у високошвидкісну пам’ять HBM. Такий підхід відповідає загальному принципу оптимізації CUDA: скорочувати переміщення даних і зберігати їх поряд з обчисленнями.
Другою перешкодою була мережа. Перевірка відповідності таргетингу та вибір найкращих кандидатів раніше виконувалися на CPU-серверах окремо від GPU-оцінювання. Передавання довгих списків оголошень між ними вичерпувало пропускну здатність мережевих з’єднань. Тепер перевірка індексу, оцінювання та вибір top-K розміщені на одному GPU. Сервер отримує компактний запит з ознаками користувача й умовами таргетингу, а повертає лише підсумковий список. Мережевий трафік скоротився приблизно в 100 разів.
Перенесення перевірки індексу вимагало зберегти складну логіку таргетингу за десятками категорій ознак та оновлення даних у реальному часі. Створені, змінені й завершені оголошення мають коректно враховуватися і в новій архітектурі.
Із початку 2026 року Meta та NVIDIA спільно оптимізують компоненти конвеєра. NVIDIA розробляє прискорені GPU-ядра, а Meta інтегрує їх і перевіряє роботу всієї системи. Для окремих компонентів заявлено прискорення приблизно у 2–5 разів; результат мережі маршрутизації – у 5,3 раза, з 2,4 млрд до понад 10 млрд оцінок оголошень за секунду.
Оптимізоване ядро використовує близько 85% пікової пропускної здатності HBM. За затримкою маршрутизація наблизилася до простого оцінювання скалярним добутком на тому самому обладнанні, хоча модель враховує складніші зв’язки. Перехід із FP16 на INT8 у тестах дав ще до двократного зростання продуктивності за зіставної точності.
Перевірку відповідності індексу прискорили більш ніж удвічі – до понад 100 млрд оголошень за секунду. Оптимізація форматів даних між етапами додатково зменшила накладні витрати. Повний конвеєр у тестах показав продуктивність у кілька разів вищу за поточну робочу систему; подальшого виграшу очікують у міру впровадження оптимізацій.
Ці показники описують різні рівні обробки. Понад 10 млрд оцінок за секунду стосується обчислювального ядра на одному GH200, понад 100 млрд – перевірки індексу, а понад 1 млрд – повного робочого конвеєра на GPU-сервері. Додавати їх чи видавати швидкість окремого етапу за швидкість усієї системи некоректно. Йдеться також про оцінювання кандидатів, а не про кількість показів реклами користувачам.
Головний практичний ефект – потужніша модель первинного відбору може розглядати більше релевантних варіантів у межах попереднього часу відповіді. Поліпшення працює всередині рекламної інфраструктури. Саме собою воно не визначає універсальну стратегію бюджету, структуру кампаній чи гарантоване зростання ROAS.
Подальша робота охоплює Grace Blackwell та наступні покоління платформ. Серед напрямів – добір співвідношення ресурсів CPU і GPU, глибші моделі взаємодії, додаткові експерти й нові шляхи відбору. Запас продуктивності потрібен для зростання складності моделей без зіставного збільшення інфраструктури. Ці напрями ще досліджують, тому результати тестів Hopper не можна автоматично переносити на майбутні конфігурації.
Meta оновила Andromeda – систему, яка добирає рекламні оголошення для подальшого оцінювання у Facebook та Instagram. Повний конвеєр тепер обробляє понад мільярд оголошень за секунду на одному GPU-сервері. За оцінкою компанії, це приблизно в 100 разів більше за показник версії 2024 року. Результат забезпечили нова архітектура нейромережі, об’єднання операцій на GPU та скорочення передавання даних між серверами.
Для рекламодавця ці зміни означають, що система може якісніше зіставляти людину й оголошення з більшої кількості кандидатів, зберігаючи попередній ліміт затримки. Meta пов’язує розвиток Andromeda зі зростанням конверсій у Facebook на 2,4% з 2025 року. Це сукупний заявлений результат системи, а не обіцянка такого приросту кожній кампанії й не ефект лише оновлення 2026 року.
Рекламна рекомендація проходить кілька етапів. Спочатку retrieval, або первинний відбір, за мілісекунди скорочує величезний набір відповідних оголошень до невеликого списку. Потім більш ресурсомісткі моделі ранжування докладно оцінюють кандидатів, що залишилися.
Якість першого етапу визначає, які варіанти взагалі потраплять на наступний. Якщо потенційно корисне оголошення відсіяли зарано, подальше ранжування вже не зможе його повернути. Водночас застосовувати однаково складну модель до всього початкового масиву надто дорого: потрібно дотримуватися обмежень щодо часу відповіді та обчислювальних ресурсів.
Зі зростанням кількості оголошень цей компроміс загострюється. Автоматизація Advantage+ та генеративні інструменти для креативів збільшують обсяг кандидатів. Тому завдання Andromeda – розширювати охоплення первинного оцінювання, зберігаючи точність зіставлення та прийнятну вартість обробки.
В оновленій моделі використовується Retrieval Mixture-of-Experts, або MoE. Загальний принцип архітектури із сумішшю експертів – добирати для конкретного прикладу лише частину спеціалізованих підмереж. Це дає змогу розширювати можливості моделі без пропорційного збільшення обсягу обчислень під час кожного звернення.
В Andromeda єдиний блок представлення користувача замінили ансамблем експертів. Вони враховують мінливі інтереси та контекст: послідовність взаємодій із рекламою, представлення груп користувачів, семантичні ознаки, отримані за допомогою великих мовних моделей, і сигнали спільної взаємодії у різних розділах і сервісах платформи.
Оголошення також кодується з урахуванням поточного контексту показу. Мережа маршрутизації з механізмом уваги добирає найвідповідніших експертів, які моделюють користувача, для оцінювання конкретного кандидата. Замість однакової обробки всіх пар «користувач – оголошення» система використовує спеціалізацію моделі.
Meta оцінює якість такого зіставлення як близьку до рівня моделей ранжування. Водночас кількість операцій із рухомою комою під час інференсу, або FLOPs, приблизно в 300 разів менша, ніж у моделі Andromeda 2024 року. Цю цифру не можна прямо трактувати як таке саме скорочення вартості серверів чи прискорення всієї рекламної системи.
Коли система оцінює мільярди кандидатів за секунду, обмеженням стає переміщення даних. Навіть невеликий проміжний масив для кожного оголошення перетворюється на терабайти звернень до пам’яті за секунду. Швидко рахувати недостатньо, якщо процесор постійно чекає на чергову порцію даних.
Тут важлива платформа NVIDIA GH200 Grace Hopper. Вона поєднує CPU Grace та GPU Hopper через NVLink-C2C із когерентним інтерфейсом 900 ГБ/с. Утім, потенціал обладнання розкривається лише тоді, коли програмний конвеєр враховує його будову.
В Andromeda отримання ембедингів – числових представлень ознак, – взаємодія моделі користувача й оголошення та розрахунок оцінки об’єднані в одне GPU-ядро. Проміжні результати залишаються в регістрах і спільній пам’яті блоків потоків замість повторного запису у високошвидкісну пам’ять HBM. Такий підхід відповідає загальному принципу оптимізації CUDA: скорочувати переміщення даних і зберігати їх поряд з обчисленнями.
Другою перешкодою була мережа. Перевірка відповідності таргетингу та вибір найкращих кандидатів раніше виконувалися на CPU-серверах окремо від GPU-оцінювання. Передавання довгих списків оголошень між ними вичерпувало пропускну здатність мережевих з’єднань. Тепер перевірка індексу, оцінювання та вибір top-K розміщені на одному GPU. Сервер отримує компактний запит з ознаками користувача й умовами таргетингу, а повертає лише підсумковий список. Мережевий трафік скоротився приблизно в 100 разів.
Перенесення перевірки індексу вимагало зберегти складну логіку таргетингу за десятками категорій ознак та оновлення даних у реальному часі. Створені, змінені й завершені оголошення мають коректно враховуватися і в новій архітектурі.
Із початку 2026 року Meta та NVIDIA спільно оптимізують компоненти конвеєра. NVIDIA розробляє прискорені GPU-ядра, а Meta інтегрує їх і перевіряє роботу всієї системи. Для окремих компонентів заявлено прискорення приблизно у 2–5 разів; результат мережі маршрутизації – у 5,3 раза, з 2,4 млрд до понад 10 млрд оцінок оголошень за секунду.
Оптимізоване ядро використовує близько 85% пікової пропускної здатності HBM. За затримкою маршрутизація наблизилася до простого оцінювання скалярним добутком на тому самому обладнанні, хоча модель враховує складніші зв’язки. Перехід із FP16 на INT8 у тестах дав ще до двократного зростання продуктивності за зіставної точності.
Перевірку відповідності індексу прискорили більш ніж удвічі – до понад 100 млрд оголошень за секунду. Оптимізація форматів даних між етапами додатково зменшила накладні витрати. Повний конвеєр у тестах показав продуктивність у кілька разів вищу за поточну робочу систему; подальшого виграшу очікують у міру впровадження оптимізацій.
Ці показники описують різні рівні обробки. Понад 10 млрд оцінок за секунду стосується обчислювального ядра на одному GH200, понад 100 млрд – перевірки індексу, а понад 1 млрд – повного робочого конвеєра на GPU-сервері. Додавати їх чи видавати швидкість окремого етапу за швидкість усієї системи некоректно. Йдеться також про оцінювання кандидатів, а не про кількість показів реклами користувачам.
Головний практичний ефект – потужніша модель первинного відбору може розглядати більше релевантних варіантів у межах попереднього часу відповіді. Поліпшення працює всередині рекламної інфраструктури. Саме собою воно не визначає універсальну стратегію бюджету, структуру кампаній чи гарантоване зростання ROAS.
Подальша робота охоплює Grace Blackwell та наступні покоління платформ. Серед напрямів – добір співвідношення ресурсів CPU і GPU, глибші моделі взаємодії, додаткові експерти й нові шляхи відбору. Запас продуктивності потрібен для зростання складності моделей без зіставного збільшення інфраструктури. Ці напрями ще досліджують, тому результати тестів Hopper не можна автоматично переносити на майбутні конфігурації.
Комментарии