大數(shù)據(jù)培訓：ETL常見工具介紹

　　目前比較流行的ETL工具有Pentaho Kettle、Hawk、Informatica PowerCenter及DataStage，對這些工具的介紹如下。

　　1.Pentaho Kettle

　　Pentaho Kettle是一款國外免費開源的ETL工具，純Java語言編寫，可以在Windows、Linux、UNIX系統(tǒng)上運行，并且是綠色無需安裝的。

　　Kettle的中文名稱叫水壺，該工具的設計理念是希望把來自不同數(shù)據(jù)庫中的數(shù)據(jù)放到一個“壺”里，然后以一種指定的格式流出。Kettle擁有兩種腳本文件，分別是Transformation(轉(zhuǎn)換)和Job(作業(yè))，其中Transformation是用于完成數(shù)據(jù)的基礎轉(zhuǎn)換，而Job是完成整個工作流的控制。

　　2.Hawk

　　Hawk是一種數(shù)據(jù)采集和清洗工具，依據(jù)GPL(GNU通用公共許可證)協(xié)議開源，基于C#語言編寫的，并且其前端界面使用WPF開發(fā)，支持插件擴展。

　　Hawk的含義為“鷹”，能夠高效、準確地捕殺獵物。也就是說，Hawk能夠靈活、有效地采集來自網(wǎng)頁、數(shù)據(jù)庫和文件等來源的數(shù)據(jù)，并通過可視化的拖曳操作快速地進行生成、過濾及轉(zhuǎn)換等操作。Hawk主要應用于爬蟲和數(shù)據(jù)清洗等領域。

　　3.Informatica PowerCenter

　　Informatica PowerCenter是Informatica公司開發(fā)的世界級的企業(yè)數(shù)據(jù)集成平臺，也是業(yè)界領先的ETL工具。Informatica PowerCenter用于訪問和集成幾乎任何業(yè)務系統(tǒng)、任何格式的數(shù)據(jù)，它可按任意速度在企業(yè)內(nèi)交付數(shù)據(jù)，具有高性能、高可擴展性、高可用性的特點。Informatica PowerCenter提供了多個可選的組件，以擴展Informatica PowerCenter的核心數(shù)據(jù)集成功能，這些組件包括數(shù)據(jù)清洗和匹配、數(shù)據(jù)屏蔽、數(shù)據(jù)驗證、元數(shù)據(jù)交換等。

　　4.DataStage

　　IBM的InfoSphere DataStage簡稱DataStage，它是一個領先的ETL平臺，可跨多個企業(yè)系統(tǒng)集成數(shù)據(jù)。DataStage利用高性能并行框架，可根據(jù)項目需求在云中或者本地部署ETL環(huán)境，它支持HBase、Hive、Amazon以及MongoDB等數(shù)據(jù)庫的連接，可以靈活、有效地更新和管理數(shù)據(jù)繼承的基礎架構。