Leveraging RNA LLMs for 3D Structure Prediction via Data Augmentation

Dieses Kapitel untersucht das transformative Potenzial von RNA Large Language Modellen (RNA-LLMs) bei der Vorhersage dreidimensionaler (3D) Strukturen von RNA-Molekülen. Es beleuchtet die entscheidende Rolle der RNA in biologischen Prozessen und die Herausforderungen, die mit traditionellen Methoden zur Strukturvorhersage verbunden sind. Der Text stellt RNAErnie vor, ein spezialisiertes RNA-Sprachmodell, und erklärt, wie es vortrainierte Einbettungen nutzt, um wesentliche sequentielle, sekundäre strukturelle und funktionale Informationen zu erfassen. Ein wesentlicher Schwerpunkt liegt auf der Lösung des Problems der Datenverknappung durch innovative Techniken zur Datenvermehrung, einschließlich globaler Noise Add, regionaler Noise Add und aufmerksamkeitsorientierter Regionsauswahl. Das Kapitel beschreibt auch den Trainingsablauf, Verlustfunktionen und Hyperparametereinstellungen, die zur Optimierung des Vorhersagemodells verwendet werden. Leistungsbewertungen zeigen die Effektivität dieser Techniken mit bemerkenswerten Verbesserungen bei der Vorhersagegenauigkeit. Der Text schließt mit einer Visualisierung vorhergesagter Strukturen, die die Fähigkeit des Modells zeigt, sowohl globale als auch lokale strukturelle Merkmale zu erfassen.