Skip to main content

2016 | OriginalPaper | Buchkapitel

8. Impala: Eine moderne, quellen-offene SQL Engine für Hadoop

verfasst von : Marcel Kornacker, Alexander Behm, Victor Bittorf, Taras Bobrovytsky, Casey Ching, Alan Choi, Justin Erickson, Martin Grund, Daniel Hecht, Matthew Jacobs, Ishaan Joshi, Lenni Kuff, Dileep Kumar, Alex Leblang, Nong Li, Ippokratis Pandis, Henry Robinson, David Rorke, Silvius Rus, John Russel, Dimitris Tsirogiannis, Skye Wanderman-Milne, Michael Yoder

Erschienen in: Big Data

Verlag: Springer Fachmedien Wiesbaden

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

Impala von Cloudera ist ein modernes, massiv paralleles Datenbanksystem, welches von Grund auf für die Bedürfnisse und Anforderungen einer Big Data Umgebung wie Hadoop entworfen wurde. Das Ziel von Impala ist es, klassische SQL-Abfragen mit geringer Latenz und Laufzeit auszuführen, so wie man es von typischen BI/DW Lösungen gewohnt ist. Gleichzeitig sollen dabei sehr große Quelldaten in Hadoop gelesen werden, ohne dass ein weiterer Extraktionsprozess in zusätzliche Systemlandschaften notwendig ist. Dieses Kapitel soll einen Überblick über Impala aus der Benutzerperspektive geben und detaillierter auf die Hauptkomponenten und deren Entwurfsentscheidungen eingehen. Zusätzlich werden wir einen Geschwindigkeitsvergleich mit anderen bekannten SQL-auf-Hadoop Lösungen vorstellen, der den besonderen Ansatz von Impala unterstreicht.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Fußnoten
2
Die Autorisierung ist dabei mittels einer Standard Hadoop Komponente mit dem Namen Sentry (http://​sentry.​incubator.​apache.​org) implementiert. Sentry erlaubt auch eine rollen-basierte Autorisierung für Hive und andere Komponenten.
 
3
Zur Bestimmung der unterschiedlichen Werte pro Spalte benutzen wir das probalistische Zählverfahren HyperLogLog (Flajolet et al. 2007).
 
5
Es gibt eine Menge weiterer SQL Engines für Haddop, wie zum Beispiel Pivotal HAWK und IBM BigInsights. Leider dürfen wir soweit uns bekannt ist auf Grund der DeWitt Klausel in den jeweiligen Nutzungvereinbarungen keine Vergleiche.
 
Literatur
Zurück zum Zitat Ailamaki, A., DeWitt, D.J., Hill, M.D., Skounakis, M.: Weaving relations for cache performance. In: VLDB (2001) Ailamaki, A., DeWitt, D.J., Hill, M.D., Skounakis, M.: Weaving relations for cache performance. In: VLDB (2001)
Zurück zum Zitat Flajolet, P., Fusy, E., Gandouet, O., Meunier, F.: HyperLogLog: the analysis of a near-optimal cardinality estimation algorithm. In: AOFA (2007) Flajolet, P., Fusy, E., Gandouet, O., Meunier, F.: HyperLogLog: the analysis of a near-optimal cardinality estimation algorithm. In: AOFA (2007)
Zurück zum Zitat Floratou, A., Minhas, U.F., Ozcan, F.: SQL-on- Hadoop: full circle back to shared-nothing database architectures. In: PVLDB (2014) Floratou, A., Minhas, U.F., Ozcan, F.: SQL-on- Hadoop: full circle back to shared-nothing database architectures. In: PVLDB (2014)
Zurück zum Zitat Graefe, G.: Encapsulation of parallelism in the Volcano query processing system. In: SIGMOD (1990) Graefe, G.: Encapsulation of parallelism in the Volcano query processing system. In: SIGMOD (1990)
Zurück zum Zitat Lattner, C., Adve, V.: LLVM: A compilation frame- work for lifelong program analysis & transformation. In: CGO (2004) Lattner, C., Adve, V.: LLVM: A compilation frame- work for lifelong program analysis & transformation. In: CGO (2004)
Zurück zum Zitat Melnik, S., Gubarev, A., Long, J.J., Romer, G., Shivakumar, S., Tolton, M., Vassilakis, T.: Dremel: Interactive analysis of web-scale datasets. In: PVLDB (2010) Melnik, S., Gubarev, A., Long, J.J., Romer, G., Shivakumar, S., Tolton, M., Vassilakis, T.: Dremel: Interactive analysis of web-scale datasets. In: PVLDB (2010)
Zurück zum Zitat Padmanabhan, S., Malkemus, T., Agarwal, R.C., Jhingran, A.: Block oriented processing of relational database operations in modern computer architectures. In: ICDE (2001) Padmanabhan, S., Malkemus, T., Agarwal, R.C., Jhingran, A.: Block oriented processing of relational database operations in modern computer architectures. In: ICDE (2001)
Zurück zum Zitat Raman, V., Attaluri, G., Barber, R., Chainani, N., Kalmuk, D., KulandaiSamy, V., Leenstra, J., Light-stone, S., Liu, S., Lohman, G.M., Malkemus, T., Mueller, R., Pandis, I., Schiefer, B., Sharpe, D., Sidle, R., Storm, A., Zhang, L.: DB2 with BLU acceleration: so much more than just a column store. PVLDB 6, 1080–1091 (2013) Raman, V., Attaluri, G., Barber, R., Chainani, N., Kalmuk, D., KulandaiSamy, V., Leenstra, J., Light-stone, S., Liu, S., Lohman, G.M., Malkemus, T., Mueller, R., Pandis, I., Schiefer, B., Sharpe, D., Sidle, R., Storm, A., Zhang, L.: DB2 with BLU acceleration: so much more than just a column store. PVLDB 6, 1080–1091 (2013)
Zurück zum Zitat Vavilapalli, V.K., Murthy, A.C., Douglas, C., Agarwal, S., Konar, M., Evans, R., Graves, T., Lowe, J., Shah, H., Seth, S., Saha, B., Curino, C., O’Malley, O., Radia, S., Reed, B., Baldeschwieler, E.: Apache Hadoop YARN: yet another resource negotiator. In: SOCC (2013) Vavilapalli, V.K., Murthy, A.C., Douglas, C., Agarwal, S., Konar, M., Evans, R., Graves, T., Lowe, J., Shah, H., Seth, S., Saha, B., Curino, C., O’Malley, O., Radia, S., Reed, B., Baldeschwieler, E.: Apache Hadoop YARN: yet another resource negotiator. In: SOCC (2013)
Zurück zum Zitat Willhalm, T., Popovici, N., Boshmaf, Y., Plattner, H., Zeier, A., Schaffner, J.: SIMD-scan: ultra fast in-memory table scan using on-chip vector processing units. PVLDB 2, 385–394 (2009) Willhalm, T., Popovici, N., Boshmaf, Y., Plattner, H., Zeier, A., Schaffner, J.: SIMD-scan: ultra fast in-memory table scan using on-chip vector processing units. PVLDB 2, 385–394 (2009)
Metadaten
Titel
Impala: Eine moderne, quellen-offene SQL Engine für Hadoop
verfasst von
Marcel Kornacker
Alexander Behm
Victor Bittorf
Taras Bobrovytsky
Casey Ching
Alan Choi
Justin Erickson
Martin Grund
Daniel Hecht
Matthew Jacobs
Ishaan Joshi
Lenni Kuff
Dileep Kumar
Alex Leblang
Nong Li
Ippokratis Pandis
Henry Robinson
David Rorke
Silvius Rus
John Russel
Dimitris Tsirogiannis
Skye Wanderman-Milne
Michael Yoder
Copyright-Jahr
2016
DOI
https://doi.org/10.1007/978-3-658-11589-0_8