Skip to main content

2018 | OriginalPaper | Buchkapitel

Accelerating Data Analysis in Simulation Neuroscience with Big Data Technologies

verfasst von : Judit Planas, Fabien Delalondre, Felix Schürmann

Erschienen in: Computational Science – ICCS 2018

Verlag: Springer International Publishing

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

Important progress in computational sciences has been made possible recently thanks to the increasing computing power of high performance systems. Following this trend, larger scientific studies, like brain tissue simulations, will continue to grow in the future. In addition to the challenges of conducting these experiments, we foresee an explosion of the amount of data generated and the consequent unfeasibility of analyzing and understanding the results with the current techniques.
This paper proposes Neurolytics, a new data analysis framework, together with a new data layout. The implementation of Neurolytics is mainly focused on simulation neuroscience, although we believe that our design can be applied to other science domains. The framework relies on big data technologies, like Apache Spark, to enable fast, reliable and distributed analyses of brain simulation data in this case. Our experimental evaluation on a cluster of 100 nodes shows that Neurolytics gets up to 374x speed-up compared to a thread-parallel Python implementation and is on par with a highly optimized Spark code. This demonstrates the suitability of our proposal to help scientists structure and understand the results of their experiments in a fast and efficient way.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Literatur
1.
Zurück zum Zitat Baillargeon, B., et al.: The living heart project: a robust and integrative simulator for human heart function. Eur. J. Mech. A/Solids 48(Suppl. C), 38–47 (2014)MathSciNetCrossRef Baillargeon, B., et al.: The living heart project: a robust and integrative simulator for human heart function. Eur. J. Mech. A/Solids 48(Suppl. C), 38–47 (2014)MathSciNetCrossRef
3.
Zurück zum Zitat Charney, J.G., Fjörtoft, R., Von Neumann, J.: Numerical integration of the barotropic vorticity equation. Tellus 2(4), 237–254 (1950)MathSciNetCrossRef Charney, J.G., Fjörtoft, R., Von Neumann, J.: Numerical integration of the barotropic vorticity equation. Tellus 2(4), 237–254 (1950)MathSciNetCrossRef
4.
Zurück zum Zitat Chen, W., et al.: Parallel STEPS: large scale stochastic spatial reaction-diffusion simulation with high performance computers. Front. Neuroinform. 11, 13 (2017)CrossRef Chen, W., et al.: Parallel STEPS: large scale stochastic spatial reaction-diffusion simulation with high performance computers. Front. Neuroinform. 11, 13 (2017)CrossRef
6.
Zurück zum Zitat Diesmann, M.: Brain-scale neuronal network simulations on K. In: Proceedings of 4th Biosupercomputing Symposium: Next-Generation ISLiM Program of MEXT (2012) Diesmann, M.: Brain-scale neuronal network simulations on K. In: Proceedings of 4th Biosupercomputing Symposium: Next-Generation ISLiM Program of MEXT (2012)
7.
Zurück zum Zitat Eilemann, S., et al.: Key/value-enabled flash memory for complex scientific workflows with on-line analysis and visualization. In: 2016 IEEE IPDPS, pp. 608–617 (2016) Eilemann, S., et al.: Key/value-enabled flash memory for complex scientific workflows with on-line analysis and visualization. In: 2016 IEEE IPDPS, pp. 608–617 (2016)
9.
11.
Zurück zum Zitat Freeman, J., et al.: Mapping brain activity at scale with cluster computing. Nat. Meth. 11(9), 941–950 (2014)CrossRef Freeman, J., et al.: Mapping brain activity at scale with cluster computing. Nat. Meth. 11(9), 941–950 (2014)CrossRef
12.
Zurück zum Zitat Gewaltig, M.O., et al.: NEST (NEural Simulation Tool). Scholarpedia 2(4), 1430 (2007)CrossRef Gewaltig, M.O., et al.: NEST (NEural Simulation Tool). Scholarpedia 2(4), 1430 (2007)CrossRef
13.
Zurück zum Zitat Hereld, M., et al.: Large neural simulations on large parallel computers. Int. J. Bioelectromagn. 7(1), 44–46 (2005) Hereld, M., et al.: Large neural simulations on large parallel computers. Int. J. Bioelectromagn. 7(1), 44–46 (2005)
15.
Zurück zum Zitat Hines, M., et al.: Comparison of neuronal spike exchange methods on a Blue Gene/P supercomputer. Front. Comput. Neurosci. 5, 49 (2011)CrossRef Hines, M., et al.: Comparison of neuronal spike exchange methods on a Blue Gene/P supercomputer. Front. Comput. Neurosci. 5, 49 (2011)CrossRef
16.
Zurück zum Zitat Lapostolle, P., Bail, R.L.: Two-dimensional computer simulation of high intensity proton beams. Comput. Phys. Commun. 4(3), 333–338 (1972)CrossRef Lapostolle, P., Bail, R.L.: Two-dimensional computer simulation of high intensity proton beams. Comput. Phys. Commun. 4(3), 333–338 (1972)CrossRef
17.
Zurück zum Zitat Markram, H., et al.: Reconstruction and simulation of neocortical microcircuitry. Cell 163(2), 456–492 (2015)CrossRef Markram, H., et al.: Reconstruction and simulation of neocortical microcircuitry. Cell 163(2), 456–492 (2015)CrossRef
18.
Zurück zum Zitat Plesser, H.E., Eppler, J.M., Morrison, A., Diesmann, M., Gewaltig, M.-O.: Efficient parallel simulation of large-scale neuronal networks on clusters of multiprocessor computers. In: Kermarrec, A.-M., Bougé, L., Priol, T. (eds.) Euro-Par 2007. LNCS, vol. 4641, pp. 672–681. Springer, Heidelberg (2007). https://doi.org/10.1007/978-3-540-74466-5_71CrossRef Plesser, H.E., Eppler, J.M., Morrison, A., Diesmann, M., Gewaltig, M.-O.: Efficient parallel simulation of large-scale neuronal networks on clusters of multiprocessor computers. In: Kermarrec, A.-M., Bougé, L., Priol, T. (eds.) Euro-Par 2007. LNCS, vol. 4641, pp. 672–681. Springer, Heidelberg (2007). https://​doi.​org/​10.​1007/​978-3-540-74466-5_​71CrossRef
19.
Zurück zum Zitat Reimann, M.W., et al.: Cliques of neurons bound into cavities provide a missing link between structure and function. Front. Comput. Neurosci. 11, 48 (2017)CrossRef Reimann, M.W., et al.: Cliques of neurons bound into cavities provide a missing link between structure and function. Front. Comput. Neurosci. 11, 48 (2017)CrossRef
Metadaten
Titel
Accelerating Data Analysis in Simulation Neuroscience with Big Data Technologies
verfasst von
Judit Planas
Fabien Delalondre
Felix Schürmann
Copyright-Jahr
2018
DOI
https://doi.org/10.1007/978-3-319-93698-7_28