Kann ich dem Meta-Algorithmus vertrauen? Ein Audit über 383K $.

Ich bin Samet Durgun, Fractional Head of UA. Ich verantworte Paid UA für Subscription-Apps und Mobile Games und schreibe hier auf, was ich in meinen Accounts sehe. Dieser Beitrag gehört zum Thema Paid UA für Subscription-Apps; mehr über mich.

Ich habe 383K $ Meta-tROAS-Spend Land für Land auditiert. 7% davon hatten genau die Metrik verfehlt, auf die der Algorithmus optimiert, und das war schwer zu entdecken.

Irgendwo in einer Kampagne, die ihr tROAS-Ziel erreichte, lief ein Land drei Monate lang bei 28% All ROAS. Eine so große Lücke zu finden, die so lange bestanden hatte, hat mich schockiert. Das Ziel lag bei 70%, und kein Dashboard hat die Lücke markiert. Ich habe sie gefunden, weil ich danach gesucht habe.

Das ist die Geschichte dieses Audits und des Scoring-Frameworks, das daraus entstanden ist.

Das Setup

Eine Subscription-App auf Meta mit fünf tROAS-Kampagnen, aufgeteilt nach Plattform und Geo-Tier. Der Zeitraum ging vom 1. März bis zum 29. Mai, und der Spend lag bei 383K $, verteilt auf mehr als 200 Länder und eine Menge Anzeigengruppen.

Kurz zu den Begriffen, damit wir dieselben Zahlen gleich lesen. tROAS heißt, dass Meta auf ein Gesamt-ROAS-Ziel hin bietet. Dieses Ziel ist die Jobbeschreibung des Algorithmus. D0 ROAS ist mein frühes Signal. In dieser App fällt der Großteil des ersten Umsatzes am Install-Tag an, D0 zeigt Ihnen also schnell, ob eine Kohorte Sinn ergibt. Als ich das an 38 anderen Meta-Kampagnen getestet habe, sagte D0 ROAS den D28 ROAS besser voraus als Cost per Purchase.

Ich habe die Kampagnen so beurteilt, wie die meisten Teams es tun, nach dem Blended ROAS im Vergleich zum Ziel. Diese Zahl wirkte das ganze Quartal über auf Kurs.

Eine Gesamtzahl verbirgt alles

Die Tier1-iOS-Kampagne aus diesem Zeitraum hatte ein Blended D0 von 26%. Darin steckte Folgendes:

LandD0 ROASAll ROASWas passierte
Frankreich49%66%Stark, aber All ROAS rutschte im Quartal von 57% auf 40%
USA23%62%Unter Ziel und mit 49K $ der größte Spender der Kampagne
Deutschland16%31%Drei Monate in Folge unter Ziel. Kommt nicht vom Fleck

Das Blended D0 sagt 26%. Die Länder darin sagen etwas anderes.

In einer einzigen Gesamtzahl steckten drei verschiedene Situationen, und schwer zu akzeptieren ist, dass das den Algorithmus nicht zu kümmern schien.

Warum der Algorithmus das vielleicht nicht behoben hat

tROAS richtet sich nach einem einzigen Gesamtziel, einem Durchschnitt über alle Länder, die eine Anzeigengruppe anspricht. Meta kann den Standort beim Bieten berücksichtigen, aber nichts im Ziel verlangt, dass jedes Land bei 70% gehalten wird.

Ein schlechtes Land versteckt sich also in einer Kampagne, die als Ganzes gut aussieht. Dieses Land, das bei 28% All ROAS lief, während seine Kampagne 70% auswies, verfehlte das Ziel selbst, also genau die Metrik, auf die der Algorithmus optimiert. D0 hat es früh markiert, All ROAS hat es bestätigt, und die Zahl auf Kampagnenebene hat sich nie gerührt.

Gute Länder subventionieren schlechte. Der Durchschnitt bleibt mittelmäßig, und mittelmäßig sieht nach ganz normalem Betrieb aus.

Ich stelle den Algorithmus nicht infrage. Er richtet sich nach einer einzigen Gesamtzahl, nie nach einer pro Land, also fällt es Ihnen zu, die Länder von Hand zu prüfen. Andere Aufschlüsselungen wie Alter oder Geschlecht sahen normal aus, deshalb hat mich das überrascht.

Das Framework: zwei Metriken, drei Farben, drei Kategorien

Mit diesem Scoring-System habe ich entschieden, welche Länder bleiben und welche gestrichen werden. Es braucht einen Länder-Breakdown-Export und etwa dreißig Minuten im Monat.

Schritt 1: jede Metrik einzeln bewerten

Ich gebe jedem Land zwei Noten, eine für D0 ROAS und eine für All ROAS, jeweils grün, gelb oder rot, gemessen an Bändern, die sich aus dem Kampagnenziel ableiten. Die Bänder dieser App stammen aus ihrem tROAS-Ziel von 70%. Grünes All ROAS beginnt beim Ziel, und die D0-Bänder ergeben sich aus den Werten, die historisch mit dem Erreichen des Ziels einhergingen. Klauen Sie sich die Struktur, aber leiten Sie die Zahlen selbst ab, aus Ihrem eigenen Ziel und Ihrer eigenen Kurve von D0 zu All ROAS.

D0 liefert das frühe Signal, auf das ich schaue. All ROAS liefert die Wahrheit, also das, worauf die Kampagne optimiert. Mit All ROAS ist hier der von Meta gemeldete Purchase ROAS innerhalb des Attributionsfensters der Kampagne gemeint. Ziehen Sie die Zahl mit demselben Attributionsfenster und derselben Wertdefinition, die die Kampagne verwendet, sonst stimmt der Vergleich mit dem Ziel schon vor dem Start nicht. Ein Land mit 25% D0 und 80% All ist ein anderer Fall als eines mit 25% D0 und 30% All, und eine einzelne Metrik würde beide verwischen.

Schritt 2: zu drei Kategorien kombinieren

Grün zählt 2 Punkte, Gelb 1, Rot 0. Addieren Sie beide Metriken.

D0-NoteAll ROAS grün (2)All ROAS gelb (1)All ROAS rot (0)
Grün (2)4, Good3, Good2, Watch
Gelb (1)3, Good2, Watch1, Exclude
Rot (0)2, Watch1, Exclude0, Exclude

Good (3 oder 4): behalten, nicht anfassen. Watch (2): monatlich prüfen. Exclude (1 oder 0): Der Algorithmus behebt das nicht, weil das Gesamtziel trotzdem gut aussieht.

Schritt 3: die Zeitdimension hinzufügen

Durchschnitte verbergen die Richtung. Zwei Länder können im Quartal dasselbe Urteil bekommen und sich dabei in entgegengesetzte Richtungen bewegen.

PH in der weltweiten Kampagne ging von 33% über 24% auf 17% D0 zurück, bei einem All ROAS von 28% in einem Monat, in dem die Kampagne 70% erreichte. GB sank im April auf 17% und stieg im Mai wieder auf 29%, und der All ROAS lag die ganze Zeit nahe am Ziel. Das Urteil ist dasselbe, die Verläufe sind entgegengesetzt. Die Monatsansicht zeigt Ihnen, welches Land Geduld verdient.

Schritt 4: danach handeln

Schließen Sie die Länder aus, die drei Monate lang bei beiden Metriken rot waren und nennenswerten Spend dahinter hatten. Bei über 200 Ländern sehen ein paar zufällig rot aus, deshalb warte ich drei Monate. Setzen Sie eine Spend-Untergrenze, bevor Sie irgendetwas beurteilen, denn bei einem Land mit 80 $ Spend ist der ROAS zu verrauscht, um ihn zu beurteilen. Dieselbe Frage habe ich mir bei Anzeigen gestellt, und in einem Account sagte ROAS ab 50 Käufen pro Anzeige die Folgewoche am besten voraus. Wie ich Kohorten bei gleichem Alter mit diesem Kauf-Gate Land für Land lese, steht in welche Kohorten sich tatsächlich amortisieren. Setzen Sie die Gelben auf die Watchlist und prüfen Sie sie monatlich neu. Lassen Sie Good in Ruhe. Nach einem Ausschluss beurteilen Sie die gesamte Kampagne im Folgemonat anhand ihres Blended ROAS und ihres Volumens, weil das Budget in andere Länder wandert.

Was dabei zutage kam

Nichts davon ist auf Kampagnenebene sichtbar.

Ein voller Balken entspräche 50% des Spends. Eine Subscription-App, fünf tROAS-Kampagnen, 1. März bis 29. Mai.

Die drei größten in dieser roten Gruppe: PH in der weltweiten Kampagne (7,1K $ bei 21% D0), MX auf Android (6,2K $ bei 23%), DE in Tier1 (2,1K $ bei 16%).

Diese 27,6K $ bleiben genau dort geparkt, bis jemand von Hand nachsieht. Kein Alarm schlägt an, und im Ads Manager wird nichts rot. Die Kampagnenansicht sagte währenddessen, alles sei in Ordnung. Wenn Sie nicht sicher sind, ob Ihr Gesamtziel ein solches Land versteckt, prüfe ich das für einen Account im growth audit. Den können Sie einzeln buchen, bei jedem Spend.

Diese Länder auszuschließen spart die 27,6K $ auch nicht ein. Der Spend wandert in andere Geos, und dort ändern sich dann auch Kosten und Volumen.

Das Fazit

Der Algorithmus ist gut darin, Käufer zu finden. In diesem Account war er nicht gut darin, Geos aufzugeben, die aufgehört hatten zu konvertieren. Dasselbe habe ich bei Anzeigen gesehen, wo Meta fünf Anzeigen weiter skalierte, die das D0-Ziel nie erreichten.

Das ganze System passt in vier Zeilen:

  • Zwei Metriken: D0 für Geschwindigkeit, All ROAS für Wahrheit.
  • Drei Farben pro Metrik, bewertet gegen Ihr eigenes Ziel.
  • Drei Kategorien: behalten, monatlich prüfen, ausschließen.
  • Eine monatliche Kalendererinnerung.

Wenn Sie dieses Audit lieber von einem zweiten Augenpaar auf Ihrem Account durchführen lassen, steht mein Posteingang offen.