In den beginne was er het datawarehouse. Toen kwam het data lake, gevolgd door clouddata platforms. En nu verandert etl in elt. Wat betekenen deze ontwikkelingen voor uw data?
Van data warehouse naar data lake
Eind jaren tachtig werd het datawarehouse-concept gelanceerd. Het bouwen van zo’n datawarehouse kost veel tijd en geld en u kunt er alleen gestructureerde gegevens mee verwerken. Het antwoord kwam medio 2010 in de vorm van een data lake waarmee iedereen elk soort gegevens tot op detailniveau kan analyseren. Triggers hiervoor waren de opkomst van machine learning en AI. Maar zoekopdrachten in een data lake worden traag uitgevoerd in vergelijking met die met datawarehouses. Het data-lakehouse combineert het beste van beide en biedt geconvergeerde workloads voor data science en analytics use cases.
Clouddata platforms en verder
Rond 2016 raakten clouddata platforms in zwang door de scheiding van computing en opslag en onbeperkte schaalbaarheid voor gedistribueerde systemen. Een volgende loot aan de ‘data boom’ is de data mesh, waar data wordt georganiseerd en gecontroleerd door domeinen. Volgens recent onderzoek worden alle concepten ongeveer even vaak gebruikt: 29% data mesh, 24% data-lakehouse en 23% data lake.
Nieuwe ontwikkelingen
Tegenwoordig kunnen nieuwe tools zoals dbt of Supergrain ook gegevens transformeren binnen het datawarehouse dat in een cloudomgeving draait. Hierbij staan snelheid en de schaal van gegevens centraal en is het etl-proces veranderd in een elt-proces (extract, load, transform).
Waarschijnlijk duizelt het u inmiddels, maar één ding is duidelijk: u kunt niet vasthouden aan het dertig jaar oude datewarehouse concept maar moet tegelijkertijd het hoofd koel houden om een nieuwe oplossing te selecteren die echt bij uw informatiebehoefte past. Althans, volgens deze visie.
Lees verder
Volledig artikel – Lees hier de complete tekst
DATA box – Alles over het vinden, selecteren en implementeren van data oplossingen
Heeft u een data strategie? – Veelgelezen artikel
DATA box – Alles over het vinden, selecteren en implementeren van data oplossingen
Heeft u een data strategie? – Veelgelezen artikel
Vaker dit soort berichten lezen? Meld u aan voor de ICT nieuwsbrief