Studiendatenbank · Feldexperiment
663 Facebook-Experimente: Beobachtungsmethoden liegen danebenClose Enough? A Large-Scale Exploration of Non-Experimental Approaches to Advertising Measurement
Selbst mit über 5.000 Nutzermerkmalen und modernem Machine Learning (DML, Propensity-Score-Matching) lassen sich Kampagneneffekte ohne Experiment nicht verlässlich schätzen; die Verfahren überschätzen den Lift systematisch, am stärksten im oberen Funnel.
8,2MFK-Score von 10 · Ergebnis: bestätigt
Die Zahlen
| 663 | Anzahl großer Werbeexperimente auf Facebook |
| 29 % / 18 % / 5 % | mediane experimentell gemessene Lifts für Upper-, Mid- und Lower-Funnel-Ziele |
| 83 % / 58 % / 24 % | mediane Lifts nach Double/Debiased Machine Learning für dieselben Funnel-Stufen |
| 173 % / 176 % / 64 % | mediane Lifts nach stratifiziertem Propensity-Score-Matching |
- Methode
- Für jedes Experiment wird der echte Lift (Randomisierung) mit dem Lift verglichen, den nicht-experimentelle Verfahren aus denselben Nutzerdaten schätzen würden.
- Datenbasis
- 663 Facebook-Kampagnen verschiedener Werbungtreibender, USA, mit über 5.000 Nutzer-Features.
- Einschränkungen und häufige Fehlzitate
- Facebook-spezifisch und nutzerbasiert; trifft aggregierte MMM nicht direkt. Die Lift-Werte sind Mediane über sehr unterschiedliche Kampagnen und keine Benchmark für einzelne Kampagnen.
- Interessenlage
- Mitautor Moakler bei Meta; Meta bietet experimentelle Lift-Tests an.
- Quelle
- https://doi.org/10.1287/mksc.2022.1413 (teilweise frei zugänglich)
Zitieren
bestätigtMessung & AttributionMethodik & MarktforschungKI im Marketing