Skip to main content
Erschienen in: Neural Computing and Applications 1/2011

01.02.2011 | Original Article

Efficient multi-sequence memory with controllable steady-state period and high sequence storage capacity

verfasst von: Min Xia, Yang Tang, Jian’an Fang, Feng Pan

Erschienen in: Neural Computing and Applications | Ausgabe 1/2011

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Abstract

Sequential information processing, for instance the sequence memory, plays an important role on many functions of brain. In this paper, multi-sequence memory with controllable steady-state period and high sequence storage capacity is proposed. By introducing a novel exponential kernel sampling function and the sampling interval parameter, the steady-state period can be controlled, and the steady-state time steps are equal to the sampling interval parameter. Furthermore, we explained this phenomenon theoretically. Ascribing to the nonlinear function constitution for local field, the conventional Hebbian learning rule with linear outer product method can be improved. Simulation results show that neural network with nonlinear function constitution can effectively increase sequence storage capacity.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Springer Professional "Technik"

Online-Abonnement

Mit Springer Professional "Technik" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 390 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Maschinenbau + Werkstoffe




 

Jetzt Wissensvorsprung sichern!

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Literatur
1.
Zurück zum Zitat Anderson J (1995) Learning and memory. Wiley, New York Anderson J (1995) Learning and memory. Wiley, New York
2.
Zurück zum Zitat Laurent G et al (2001) Odor encoding as an active, dynamical process: experiments, computation, and theory. Annu Rev Neurosci 24:263–297CrossRef Laurent G et al (2001) Odor encoding as an active, dynamical process: experiments, computation, and theory. Annu Rev Neurosci 24:263–297CrossRef
3.
Zurück zum Zitat Hahnloser RHR et al (2002) An ultra-sparse code underlies the generation of neural sequences in a songbird. Nature 419:65–70 Hahnloser RHR et al (2002) An ultra-sparse code underlies the generation of neural sequences in a songbird. Nature 419:65–70
4.
Zurück zum Zitat Selverston A (1999) General principles of rhythmic motor pattern generation derived from invertebrate CPGs. Prog Brain Res 123:247–257 Selverston A (1999) General principles of rhythmic motor pattern generation derived from invertebrate CPGs. Prog Brain Res 123:247–257
5.
Zurück zum Zitat Melamed O et al (2004) GABAergic microcircuits in the neostriatum. Trends Neurosci 27(11):662–669CrossRef Melamed O et al (2004) GABAergic microcircuits in the neostriatum. Trends Neurosci 27(11):662–669CrossRef
6.
Zurück zum Zitat Anderson JA (1972) A simple neural network generating interactive memory. Math Biosci 14:197–220MATHCrossRef Anderson JA (1972) A simple neural network generating interactive memory. Math Biosci 14:197–220MATHCrossRef
7.
Zurück zum Zitat Hopfield JJ (1982) Neural networks and physical systems with emergent collective computation abilities. Proc Nat Acad Sci 79:2445–2558CrossRefMathSciNet Hopfield JJ (1982) Neural networks and physical systems with emergent collective computation abilities. Proc Nat Acad Sci 79:2445–2558CrossRefMathSciNet
8.
Zurück zum Zitat Amari S (1989) Characteristics of sparsely encoded associative memory. Neural Netw 2:451–457CrossRef Amari S (1989) Characteristics of sparsely encoded associative memory. Neural Netw 2:451–457CrossRef
9.
Zurück zum Zitat Kohonen T (1972) Correlation matrix memories. IEEE Trans Comput C-21:353–359CrossRef Kohonen T (1972) Correlation matrix memories. IEEE Trans Comput C-21:353–359CrossRef
10.
Zurück zum Zitat Sandberg A, Lansner A (2002) Synaptic depression as an intrinsic driver of reinstatement dynamics in an attractor network. Neurocomputing 44–46:615–622CrossRef Sandberg A, Lansner A (2002) Synaptic depression as an intrinsic driver of reinstatement dynamics in an attractor network. Neurocomputing 44–46:615–622CrossRef
11.
Zurück zum Zitat Sompolinsky H, Kanter I (1986) Temporal association in asymmetric neural networks. Phys Rev Lett 57:2861–2864CrossRef Sompolinsky H, Kanter I (1986) Temporal association in asymmetric neural networks. Phys Rev Lett 57:2861–2864CrossRef
12.
Zurück zum Zitat Seliger P, Tsimring LS, Rabinnovich MI (2003) Dynamics-based sequential memory: winnerless competition of patterns. Phys Rev E 67:011905 Seliger P, Tsimring LS, Rabinnovich MI (2003) Dynamics-based sequential memory: winnerless competition of patterns. Phys Rev E 67:011905
13.
14.
Zurück zum Zitat Tank DW, Hopfield JJ (1987) Neural computation by concentrating information in time. Proc Nat Acad Sci 84:1896–1900CrossRefMathSciNet Tank DW, Hopfield JJ (1987) Neural computation by concentrating information in time. Proc Nat Acad Sci 84:1896–1900CrossRefMathSciNet
15.
16.
17.
Zurück zum Zitat Lawrence M, Trappenberg T, Fine A (2006) Rapid learning and robust recall of long sequences in modular associator networks. Neurocomputing 69:634–641CrossRef Lawrence M, Trappenberg T, Fine A (2006) Rapid learning and robust recall of long sequences in modular associator networks. Neurocomputing 69:634–641CrossRef
18.
Zurück zum Zitat Huerta R, Rabinovich M (2004) Reproducible sequence generation in random neural ensembles. Phys Rev Lett 93:238104CrossRef Huerta R, Rabinovich M (2004) Reproducible sequence generation in random neural ensembles. Phys Rev Lett 93:238104CrossRef
19.
Zurück zum Zitat Masato O (1996) Notions of associative memory and sparse coding. Neural Netw 9(8):1429–1458MATHCrossRef Masato O (1996) Notions of associative memory and sparse coding. Neural Netw 9(8):1429–1458MATHCrossRef
Metadaten
Titel
Efficient multi-sequence memory with controllable steady-state period and high sequence storage capacity
verfasst von
Min Xia
Yang Tang
Jian’an Fang
Feng Pan
Publikationsdatum
01.02.2011
Verlag
Springer-Verlag
Erschienen in
Neural Computing and Applications / Ausgabe 1/2011
Print ISSN: 0941-0643
Elektronische ISSN: 1433-3058
DOI
https://doi.org/10.1007/s00521-010-0453-x

Weitere Artikel der Ausgabe 1/2011

Neural Computing and Applications 1/2011 Zur Ausgabe