Puis-je faire confiance à l'algorithme Meta ? Un audit de 383K $.

Je suis Samet Durgun, fractional Head of UA. Je gère le paid UA pour des apps par abonnement et des jeux mobiles, et j'écris ici ce que je constate dans les comptes que je gère. Cet article fait partie du thème Paid UA pour apps d'abonnement ; en savoir plus sur moi.

J’ai audité 383K $ de dépenses tROAS sur Meta, pays par pays. 7 % de cette dépense échouait sur la métrique exacte que l’algorithme optimise, et c’était difficile à repérer.

Quelque part dans une campagne qui atteignait son objectif tROAS, un pays tournait à 28 % de ROAS All depuis trois mois. Découvrir un écart aussi grand, aussi longtemps, m’a choqué. L’objectif était de 70 % et aucun dashboard ne l’a signalé. Je l’ai trouvé parce que je suis allé chercher.

Cet article raconte l’audit et le framework de scoring qui en est ressorti.

Le contexte

Une app subscription sur Meta, avec cinq campagnes tROAS réparties par plateforme et par tier géographique. La période va du 1er mars au 29 mai, et la dépense s’élève à 383K $ sur plus de 200 pays et de nombreux ad sets.

Un peu de vocabulaire pour qu’on lise les mêmes chiffres de la même façon. tROAS signifie que Meta enchérit pour atteindre un objectif de ROAS total. Cet objectif, c’est la mission de l’algorithme. Le ROAS J0 est mon signal précoce. Sur cette app, l’essentiel du revenu initial arrive le jour de l’install, donc le J0 indique vite si une cohorte a du sens. Quand j’ai testé cela sur 38 autres campagnes Meta, le ROAS J0 prédisait mieux le ROAS J28 que le coût par achat.

J’ai jugé les campagnes comme le font la plupart des équipes, sur le ROAS blended comparé à l’objectif. Ce chiffre semblait atteindre l’objectif tout le trimestre.

Un seul chiffre blended cache tout

La campagne Tier 1 iOS de cette période affichait un J0 blended de 26 %. À l’intérieur :

PaysROAS J0ROAS AllCe qui se passait
France49 %66 %Solide, mais le ROAS All a glissé de 57 % à 40 % sur le trimestre
US23 %62 %Sous l'objectif, et c'est le pays qui dépense le plus dans la campagne, avec 49K $
Allemagne16 %31 %Sous l'objectif pendant trois mois d'affilée. Ça ne bouge pas

Le J0 blended dit 26 %. Les pays à l’intérieur disent autre chose.

Trois situations différentes se cachaient dans un seul chiffre blended, et le plus dur à accepter, c’est que l’algorithme n’a pas semblé s’en soucier.

Pourquoi l’algorithme n’a peut-être pas corrigé le problème

Le tROAS vise un seul objectif blended, une moyenne sur tous les pays qu’un ad set cible. Meta peut utiliser la localisation au moment d’enchérir, mais rien dans l’objectif ne lui demande de maintenir chaque pays à 70 %.

Un mauvais pays se cache donc dans une campagne qui a l’air saine en blended. Ce pays qui tournait à 28 % de ROAS All pendant que sa campagne affichait 70 % était en échec sur l’objectif même, la métrique exacte que l’algorithme optimise. Le J0 l’a signalé tôt, le ROAS All l’a confirmé, et le chiffre au niveau campagne n’a jamais bronché.

Les bons pays subventionnent les mauvais. Le blend reste médiocre, et le médiocre passe pour le cours normal des affaires.

Je ne remets pas l’algorithme en cause. Il vise un seul chiffre blended, jamais un par pays, donc c’est à vous de vérifier les pays à la main. Les autres découpages, comme l’âge ou le genre, avaient l’air normaux, et cela m’a pris par surprise.

Le framework : deux métriques, trois couleurs, trois catégories

J’ai utilisé ce système de scoring pour décider quels pays garder et lesquels couper. Il s’appuie sur un export du breakdown par pays et demande environ trente minutes par mois.

Étape 1 : noter chaque métrique indépendamment

Je donne à chaque pays deux notes, une pour le ROAS J0 et une pour le ROAS All, chacune en vert, jaune ou rouge selon des bandes construites à partir de l’objectif de la campagne. Les bandes de cette app venaient de son objectif tROAS à 70 %. Le vert du ROAS All commence à l’objectif, et les bandes J0 reprennent les niveaux qui, historiquement, allaient de pair avec l’atteinte de cet objectif. Reprenez la structure, mais calculez les chiffres vous-même, à partir de votre propre objectif et de votre propre courbe du J0 au ROAS All.

Le J0 vous donne le signal précoce que je regarde. Le ROAS All vous donne la vérité, c’est-à-dire ce que la campagne optimise. Ici, le ROAS All désigne le ROAS d’achat rapporté par Meta dans la fenêtre d’attribution de la campagne. Pour le récupérer, utilisez la fenêtre d’attribution et la définition de valeur propres à la campagne, sinon la comparaison avec l’objectif est faussée avant même de commencer. Un pays à 25 % J0 et 80 % All est un tout autre cas qu’un pays à 25 % J0 et 30 % All, et une seule métrique les confondrait.

Étape 2 : combiner en trois catégories

Vert vaut 2, jaune 1, rouge 0. Additionnez les deux métriques.

Note J0ROAS All vert (2)ROAS All jaune (1)ROAS All rouge (0)
Vert (2)4, Good3, Good2, Watch
Jaune (1)3, Good2, Watch1, Exclude
Rouge (0)2, Watch1, Exclude0, Exclude

Good (3 ou 4) : garder, ne pas toucher. Watch (2) : vérifier chaque mois. Exclude (1 ou 0) : l’algorithme ne va pas le corriger, parce que l’objectif blended a toujours l’air bon.

Étape 3 : ajouter la dimension temporelle

Les moyennes cachent la direction. Deux pays peuvent porter le même verdict trimestriel et évoluer dans des directions opposées.

PH dans la campagne worldwide a décliné de 33 % à 24 % puis à 17 % J0, avec un ROAS All à 28 % sur un mois où la campagne atteignait 70 %. GB a chuté à 17 % en avril et est remonté à 29 % en mai, avec un ROAS All resté proche de l’objectif tout du long. Le verdict est le même, mais les trajectoires sont opposées. La vue mensuelle vous dit lequel mérite de la patience.

Étape 4 : agir

Excluez les pays restés rouges sur les deux métriques pendant trois mois, avec une dépense significative derrière eux. Avec plus de 200 pays, quelques-uns auront l’air rouges par hasard, et c’est pour cela que j’attends trois mois. Fixez un plancher de dépense avant de juger quoi que ce soit, car un pays avec 80 $ derrière lui a un ROAS trop bruité pour en tirer une conclusion. Je me suis posé la même question pour les publicités, et dans un compte, le ROAS prédisait le mieux la semaine suivante dès qu’une publicité atteignait 50 achats ou plus. Je détaille dans quelles cohortes se rentabilisent réellement comment je lis les cohortes au même âge avec ce seuil, pays par pays. Mettez les jaunes en Watch et revérifiez chaque mois. Laissez Good tranquille. Après une exclusion, jugez toute la campagne le mois suivant sur son ROAS blended et son volume, parce que le budget se déplace vers d’autres pays.

Ce que ça a révélé

Rien de tout cela n’est visible au niveau campagne.

Une barre pleine correspond à 50 % de la dépense. Une app subscription, cinq campagnes tROAS, du 1er mars au 29 mai.

Les trois plus gros de ce groupe rouge : PH dans la campagne worldwide (7,1K $ à 21 % J0), MX sur Android (6,2K $ à 23 %), DE en Tier 1 (2,1K $ à 16 %).

Ces 27,6K $ restent garés là où ils sont jusqu’à ce que quelqu’un vérifie à la main. Aucune alerte ne se déclenche et rien ne passe au rouge dans Ads Manager. La vue campagne disait que tout allait bien pendant que cela se produisait. Si vous ne savez pas si votre objectif blended cache un pays de ce genre, c’est dans le growth audit que je le vérifie sur un compte. Vous pouvez le réserver seul, quel que soit le niveau de dépense.

Exclure ces pays ne permet pas non plus de récupérer les 27,6K $. La dépense se déplace vers d’autres géos, et les coûts et le volume bougent avec elle.

Ce qu’il faut retenir

L’algorithme est bon pour trouver des acheteurs. Dans ce compte, il ne savait pas abandonner les géos qui avaient cessé de convertir. J’ai vu la même chose avec les publicités, où Meta continuait de scaler cinq publicités qui n’atteignaient jamais l’objectif J0.

Tout le système tient en quatre lignes :

  • Deux métriques : le J0 pour la vitesse, le ROAS All pour la vérité.
  • Trois couleurs par métrique, notées par rapport à votre propre objectif.
  • Trois catégories : garder, vérifier chaque mois, exclure.
  • Un rappel mensuel dans votre calendrier.

Si vous préférez qu’un second regard réalise cet audit sur votre compte, ma boîte mail est ouverte.