Pilvialustat tarjoavat uudenlaisen tavan toteuttaa koko tietovarastoarkkitehtuuri. Viime aikoina paljon puhuttu konsepti on ollut data lake. Mikä on data lake ja miten se toteutetaan Amazon Web Services -alustalla?
Data lake on paikka, mihin raakadata tuodaan ja tallennetaan jatkojalostusta varten. Data lake ei sisällä tietoa vakiomuotoisena, vaan voi sisältää erilaisia data lähteitä, jotka voivat olla täysin erityyppisiä, kuten peräkkäistiedostoja, rakenteellisia tiedostoja (esim. JSON, XML, erilaiset logitiedostot…) tai täysin vapaamuotoista dataa. Usein data lake toteutetaan Hadoop-teknologiaan pohjautuen. AWS lähestyy asiaa toisin. Data lake luodaan AWS:n S3-tallennuspalveluun, joka on itsessään hajautettu ja monennettu tiedon nopeaa tallennusta ja hakua sekä luotettavuutta silmällä pitäen. S3-tallennustila on edullista, eikä tiedon muokkaukseen tarvittavia palvelinklustereita tarvitse varata etukäteen, vaan vasta sitten, kun halutaan muokata. Uuden AWS Athena -palvelun avulla tietojen hyödyntäminen onnistuu data lakesta suoraan SQL-kyselyinä. Kun halutaan tehdä monimutkaisempaa tiedon yhdistelyä tai datan manipulointia, voidaan S3 data lakesta tehdä MapReduce-ajoja AWS Elastic MapReduce (EMR) -palvelua hyödyntämällä. EMR voi käyttää useita Hadoop-ekosysteemin laajennuksia kuten Pig tai Hive tai määritellä tiedon jalostus ohjelmallisesti. Kun määrittelyt on tehty, voidaan ajo laittaa suoritukseen, ja EMR varaa määritysten mukaisen palvelinkapasiteetin ajoa varten ja lopuksi vapauttaa resurssit. Maksat vain käytetystä prosessointiajasta, kätevää!
S3:een talletetut tiedot integroituvat saumattomasti muihin AWS-alustan palveluihin. Data voidaan viedä helposti AWS:n RDS-relaatiokantapalveluun, DynamoDB NoSQL-tietokantaan tai datawarehouse-palveluun Amazon Redshiftiin.
Kun data lake sijaitsee pilvessä, herää kysymys: miten tiedot saadaan sinne? AWS tarjoaa tähän useita eri vaihtoehtoja, kuten reaaliaikaisen tiedon integroinnin menetelmät, suoraan konesaliin liitettävät dedikoidut tiedonsiirtoyhteydet tai tietojen massalataus offline-siirtona Snowballin avulla. Jos kiinnostuit AWS:n mahdollisuuksista, ole yhteydessä meihin!
Päivitetty: 2016-12-12 · Lisätietoa: AWS S3