FETCH: A Memory-Efficient Replay Approach for Continual Learning in Image Classification

Das Kapitel stellt FETCH vor, einen speichereffizienten Replay-Ansatz für kontinuierliches Lernen in der Bildklassifizierung. FETCH baut auf der Einfachheit von GDumb auf, indem es vorausgebildete Encoder und Kompressionstechniken integriert, um den Speicherverbrauch zu reduzieren und gleichzeitig die Leistung aufrechtzuerhalten. Die Methode ist darauf ausgelegt, das katastrophale Vergessen zu bekämpfen, eine häufige Herausforderung beim kontinuierlichen Lernen, bei dem Modelle früher gelernte Informationen schnell vergessen. FETCH erreicht dies, indem es komprimierte Proben in einem episodischen Speicher speichert und nur den Klassifikationskopf umschult, wodurch die Übertragungseffekte vorausgebildeter Encoder wirksam werden. Das Kapitel bietet eine detaillierte Untersuchung der Komponenten von FETCH, einschließlich des festen Encoders, des Klassifizierungskopfes, des Kompressors und des Dekompressors. Es präsentiert auch experimentelle Ergebnisse, die FETCHs überlegene Leistung im Vergleich zu GDumb und anderen komprimierten Wiedergabetechniken belegen. Die Ergebnisse deuten darauf hin, dass FETCHs Kombination aus vortrainierten Komponenten und komprimierter Wiedergabe erhebliche Vorteile für gedächtniseingeschränkte Lernaufgaben bietet.