Skip to main content
Top

2016 | OriginalPaper | Chapter

8. Impala: Eine moderne, quellen-offene SQL Engine für Hadoop

Authors : Marcel Kornacker, Alexander Behm, Victor Bittorf, Taras Bobrovytsky, Casey Ching, Alan Choi, Justin Erickson, Martin Grund, Daniel Hecht, Matthew Jacobs, Ishaan Joshi, Lenni Kuff, Dileep Kumar, Alex Leblang, Nong Li, Ippokratis Pandis, Henry Robinson, David Rorke, Silvius Rus, John Russel, Dimitris Tsirogiannis, Skye Wanderman-Milne, Michael Yoder

Published in: Big Data

Publisher: Springer Fachmedien Wiesbaden

Activate our intelligent search to find suitable subject content or patents.

search-config
loading …

Zusammenfassung

Impala von Cloudera ist ein modernes, massiv paralleles Datenbanksystem, welches von Grund auf für die Bedürfnisse und Anforderungen einer Big Data Umgebung wie Hadoop entworfen wurde. Das Ziel von Impala ist es, klassische SQL-Abfragen mit geringer Latenz und Laufzeit auszuführen, so wie man es von typischen BI/DW Lösungen gewohnt ist. Gleichzeitig sollen dabei sehr große Quelldaten in Hadoop gelesen werden, ohne dass ein weiterer Extraktionsprozess in zusätzliche Systemlandschaften notwendig ist. Dieses Kapitel soll einen Überblick über Impala aus der Benutzerperspektive geben und detaillierter auf die Hauptkomponenten und deren Entwurfsentscheidungen eingehen. Zusätzlich werden wir einen Geschwindigkeitsvergleich mit anderen bekannten SQL-auf-Hadoop Lösungen vorstellen, der den besonderen Ansatz von Impala unterstreicht.

Dont have a licence yet? Then find out more about our products and how to get one now:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Footnotes
2
Die Autorisierung ist dabei mittels einer Standard Hadoop Komponente mit dem Namen Sentry (http://​sentry.​incubator.​apache.​org) implementiert. Sentry erlaubt auch eine rollen-basierte Autorisierung für Hive und andere Komponenten.
 
3
Zur Bestimmung der unterschiedlichen Werte pro Spalte benutzen wir das probalistische Zählverfahren HyperLogLog (Flajolet et al. 2007).
 
5
Es gibt eine Menge weiterer SQL Engines für Haddop, wie zum Beispiel Pivotal HAWK und IBM BigInsights. Leider dürfen wir soweit uns bekannt ist auf Grund der DeWitt Klausel in den jeweiligen Nutzungvereinbarungen keine Vergleiche.
 
Literature
go back to reference Ailamaki, A., DeWitt, D.J., Hill, M.D., Skounakis, M.: Weaving relations for cache performance. In: VLDB (2001) Ailamaki, A., DeWitt, D.J., Hill, M.D., Skounakis, M.: Weaving relations for cache performance. In: VLDB (2001)
go back to reference Flajolet, P., Fusy, E., Gandouet, O., Meunier, F.: HyperLogLog: the analysis of a near-optimal cardinality estimation algorithm. In: AOFA (2007) Flajolet, P., Fusy, E., Gandouet, O., Meunier, F.: HyperLogLog: the analysis of a near-optimal cardinality estimation algorithm. In: AOFA (2007)
go back to reference Floratou, A., Minhas, U.F., Ozcan, F.: SQL-on- Hadoop: full circle back to shared-nothing database architectures. In: PVLDB (2014) Floratou, A., Minhas, U.F., Ozcan, F.: SQL-on- Hadoop: full circle back to shared-nothing database architectures. In: PVLDB (2014)
go back to reference Graefe, G.: Encapsulation of parallelism in the Volcano query processing system. In: SIGMOD (1990) Graefe, G.: Encapsulation of parallelism in the Volcano query processing system. In: SIGMOD (1990)
go back to reference Lattner, C., Adve, V.: LLVM: A compilation frame- work for lifelong program analysis & transformation. In: CGO (2004) Lattner, C., Adve, V.: LLVM: A compilation frame- work for lifelong program analysis & transformation. In: CGO (2004)
go back to reference Melnik, S., Gubarev, A., Long, J.J., Romer, G., Shivakumar, S., Tolton, M., Vassilakis, T.: Dremel: Interactive analysis of web-scale datasets. In: PVLDB (2010) Melnik, S., Gubarev, A., Long, J.J., Romer, G., Shivakumar, S., Tolton, M., Vassilakis, T.: Dremel: Interactive analysis of web-scale datasets. In: PVLDB (2010)
go back to reference Padmanabhan, S., Malkemus, T., Agarwal, R.C., Jhingran, A.: Block oriented processing of relational database operations in modern computer architectures. In: ICDE (2001) Padmanabhan, S., Malkemus, T., Agarwal, R.C., Jhingran, A.: Block oriented processing of relational database operations in modern computer architectures. In: ICDE (2001)
go back to reference Raman, V., Attaluri, G., Barber, R., Chainani, N., Kalmuk, D., KulandaiSamy, V., Leenstra, J., Light-stone, S., Liu, S., Lohman, G.M., Malkemus, T., Mueller, R., Pandis, I., Schiefer, B., Sharpe, D., Sidle, R., Storm, A., Zhang, L.: DB2 with BLU acceleration: so much more than just a column store. PVLDB 6, 1080–1091 (2013) Raman, V., Attaluri, G., Barber, R., Chainani, N., Kalmuk, D., KulandaiSamy, V., Leenstra, J., Light-stone, S., Liu, S., Lohman, G.M., Malkemus, T., Mueller, R., Pandis, I., Schiefer, B., Sharpe, D., Sidle, R., Storm, A., Zhang, L.: DB2 with BLU acceleration: so much more than just a column store. PVLDB 6, 1080–1091 (2013)
go back to reference Vavilapalli, V.K., Murthy, A.C., Douglas, C., Agarwal, S., Konar, M., Evans, R., Graves, T., Lowe, J., Shah, H., Seth, S., Saha, B., Curino, C., O’Malley, O., Radia, S., Reed, B., Baldeschwieler, E.: Apache Hadoop YARN: yet another resource negotiator. In: SOCC (2013) Vavilapalli, V.K., Murthy, A.C., Douglas, C., Agarwal, S., Konar, M., Evans, R., Graves, T., Lowe, J., Shah, H., Seth, S., Saha, B., Curino, C., O’Malley, O., Radia, S., Reed, B., Baldeschwieler, E.: Apache Hadoop YARN: yet another resource negotiator. In: SOCC (2013)
go back to reference Willhalm, T., Popovici, N., Boshmaf, Y., Plattner, H., Zeier, A., Schaffner, J.: SIMD-scan: ultra fast in-memory table scan using on-chip vector processing units. PVLDB 2, 385–394 (2009) Willhalm, T., Popovici, N., Boshmaf, Y., Plattner, H., Zeier, A., Schaffner, J.: SIMD-scan: ultra fast in-memory table scan using on-chip vector processing units. PVLDB 2, 385–394 (2009)
Metadata
Title
Impala: Eine moderne, quellen-offene SQL Engine für Hadoop
Authors
Marcel Kornacker
Alexander Behm
Victor Bittorf
Taras Bobrovytsky
Casey Ching
Alan Choi
Justin Erickson
Martin Grund
Daniel Hecht
Matthew Jacobs
Ishaan Joshi
Lenni Kuff
Dileep Kumar
Alex Leblang
Nong Li
Ippokratis Pandis
Henry Robinson
David Rorke
Silvius Rus
John Russel
Dimitris Tsirogiannis
Skye Wanderman-Milne
Michael Yoder
Copyright Year
2016
DOI
https://doi.org/10.1007/978-3-658-11589-0_8

Premium Partner