ETL-Prozess
Definition: ETL steht für Extract (Extrahieren), Transform (Transformieren) und Load (Laden) und bezeichnet eine dreistufige Datenpipeline, die Daten aus heterogenen Quellsystemen – etwa CRM-Systemen, Werbeplattformen, E-Commerce-Backends oder externen APIs – automatisiert extrahiert, in der Transformationsphase bereinigt, vereinheitlicht, angereichert und in ein analytisches Zielformat umgewandelt sowie abschließend in ein Zielsystem wie ein Data Warehouse, Data Mart oder eine analytische Datenbank lädt, um eine konsistente, auswertungsbereite Datenbasis für Business Intelligence und Datenanalyse zu schaffen. Das ETL-Konzept wurde im Zuge des Aufstiegs von Data Warehouses in den 1970er- und 1980er-Jahren entwickelt und durch IBM-Forscher und Datenbankpioniere wie William Inmon – der 1992 in seinem Buch „Building the Data Warehouse" die erste formale Definition von Data Warehouse-Architekturen lieferte – sowie durch Ralph Kimball (1996, „The Data Warehouse Toolkit") als zentrales Architekturmuster etabliert. Kimballs dimensionales Modellierungsparadigma machte ETL-Prozesse zur unverzichtbaren Voraussetzung für analyseoptimierte Sternschema- und Schneeflockenschema-Strukturen in Data Warehouses. Im Marketingkontext ist ETL die technische Grundlage für jedes integrierte Marketing-Reporting: Ohne funktionierende ETL-Prozesse bleiben Kampagnendaten aus Google Ads, Meta Ads Manager, dem CRM-System, der E-Commerce-Plattform und dem E-Mail-Marketing-Tool in isolierten Silos und können nicht zusammengeführt oder kanalübergreifend analysiert werden.
Erläuterung
Die drei Phasen eines ETL-Prozesses unterscheiden sich fundamental in ihren Anforderungen und technischen Herausforderungen. In der Extract-Phase werden Rohdaten aus Quellsystemen abgerufen. Dabei muss der ETL-Prozess mit verschiedensten Daten-Interfaces umgehen: REST-APIs (z. B. Google Ads API, Meta Marketing API, Shopify Admin API), Datenbank-Direktverbindungen (JDBC/ODBC-Verbindungen zu MySQL, PostgreSQL oder Oracle), File-basierte Transfers (CSV-Exporte, FTP-Transfers, S3-Bucket-Abzüge) und Webhook-basierte Echtzeit-Streams. Wichtige Designentscheidungen in der Extract-Phase sind: Vollextrakt (alle Daten bei jedem Lauf) vs. inkrementeller Extrakt (nur neue oder geänderte Datensätze seit dem letzten Lauf, basierend auf Timestamps oder Change-Data-Capture-Mechanismen). In der Transform-Phase werden die extrahierten Rohdaten in das analytische Zielformat überführt. Typische Transformationsoperationen im Marketingkontext sind: Datumsnormalisierung (verschiedene Quellen verwenden unterschiedliche Datumsformate und Zeitzonen), Deduplizierung (dieselbe Conversion kann in Google Analytics und im CRM doppelt erfasst sein), Zusammenführung von Datensätzen über gemeinsame Schlüssel (z. B. Kunden-ID, E-Mail-Adresse), Berechnung abgeleiteter Kennzahlen (ROAS aus Impressionskostendata und Konversionsumsatz), Standardisierung von Kategorien (verschiedene Quellen nutzen verschiedene Bezeichnungen für denselben Kanal) sowie Qualitätsprüfungen (Ausreißer identifizieren, fehlende Werte behandeln). In der Load-Phase werden die transformierten Daten ins Zielsystem geschrieben, wahlweise als Vollersatz (Truncate & Load) oder als inkrementelle Ergänzung (Insert/Upsert). Eine wichtige neuere Entwicklung ist der ELT-Ansatz (Extract, Load, Transform): Dabei werden Rohdaten zunächst vollständig in ein Cloud-Data-Warehouse geladen (L vor T), und die Transformationen erfolgen anschließend direkt im Data Warehouse mittels SQL – möglich geworden durch die enorme Rechenleistung moderner Cloud-Data-Warehouses wie Snowflake, BigQuery oder Redshift, die SQL-Transformationen auf Petabyte-Datensätzen in Sekunden ausführen. dbt (Data Build Tool), 2016 vom Beratungsunternehmen RJMetrics entwickelt und seit 2018 als Open-Source-Projekt unter dbt Labs verbreitet, hat den ELT-Ansatz revolutioniert: Es ermöglicht Data Analysten, SQL-basierte Transformationen in versionierter, testbarer und dokumentierter Form zu entwickeln – ähnlich wie Software-Engineers ihren Code behandeln. Führende Managed-ETL/ELT-Plattformen für Marketing-Teams sind Fivetran (automatisierte Konnektoren für über 300 Datenquellen, seit 2012), Airbyte (Open-Source-Alternative mit über 300 Konnektoren, seit 2020), Stitch (einfachere Alternative, Teil von Talend) und Supermetrics (speziell für Marketing-Datenquellen in Google Sheets oder BigQuery). Workflow-Orchestrierungstools wie Apache Airflow (AirBnB, 2015), Prefect und Dagster planen und überwachen komplexe ETL-Pipelines mit Abhängigkeiten, Retry-Logik und Alerting.
ETL vs. ELT im Vergleich
- ETL (klassisch): Transformation vor dem Laden; Transformationslogik in der ETL-Engine (nicht im Zielsystem); sinnvoll bei On-Premise-Data-Warehouses mit begrenzter Rechenkapazität oder bei Datenschutzanforderungen, die eine Vorfilterung vor der Speicherung erfordern.
- ELT (modern): Rohdaten zuerst laden, dann im Cloud-Data-Warehouse transformieren; flexibler, da Rohdaten für neue Fragestellungen jederzeit re-transformiert werden können; Transformationslogik in SQL und dbt versionierbar und testbar; Standard-Ansatz in modernen Cloud-Architekturen.
Wichtige ETL/ELT-Tools im Marketing
- Fivetran: Fully Managed ELT; automatisierte Konnektoren für Google Ads, Meta, HubSpot, Shopify u. v. m.; selbstheilende Pipelines; kostenpflichtig nach datenvolumenbasiertem Modell.
- Airbyte: Open-Source-ELT-Plattform; über 300 Community-Konnektoren; selbst hostbar oder als Managed-Service; niedrigere Kosten als Fivetran bei hohem Volumen.
- dbt (Data Build Tool): SQL-basierte Transformationsschicht im ELT-Prozess; Versionierung in Git, automatisierte Tests, Dokumentation; Standard in modernen Data-Engineering-Teams; Open Source (dbt Core) und Managed Service (dbt Cloud).
- Apache Airflow: Python-basierter Workflow-Orchestrierer für komplexe Pipeline-Abhängigkeiten; Scheduling, Monitoring, Retry-Logik; Standard in Data-Engineering-Teams; Open Source.
- Supermetrics: Spezialisiert auf Marketing-Datenquellen (Google Ads, Meta, LinkedIn, TikTok Ads u. v. m.); Zieldaten in BigQuery, Sheets oder Looker Studio; ideal für Marketing-Teams ohne Data-Engineering-Ressourcen.