Inconsistent Reasoning Attacks to Identify Weaknesses in Automatic Scientific Claim Verification Tools

Dieses Kapitel untersucht die Schwachstellen der Werkzeuge zur Überprüfung wissenschaftlicher Behauptungen (SCV), die für die Beurteilung der Validität wissenschaftlicher Behauptungen von entscheidender Bedeutung sind. Der Text führt widersprüchliche Argumentationsattacken ein, eine umfassendere Kategorie feindlicher Manipulationen, die spezifische Angriffe auf allgemeine, allgemeine Angriffe auf spezifische, Verneinungen, Vereinigungen und Paraphrasen umfassen. Diese Angriffe decken systematisch Fehler in der SCV-Entscheidungsfindung auf, indem sie die Anspruchslogik manipulieren, anstatt nur den Text auf oberflächlicher Ebene zu ändern. Das Kapitel stellt außerdem einen evolutionären Algorithmus vor, der große Sprachmodelle nutzt, um effektive feindliche Angriffe zu erzeugen, die auf logische Inkonsistenzen in SCV-Tools abzielen. Die Evaluierung gegen MultiVerS, eines der fortschrittlichsten SCV-Modelle, offenbart anhaltende Schwachstellen, während ein Retrieval-Augmented Generation (RAG) -System mit einem Attack-Reflection-Mechanismus vielversprechend ist, diese Probleme zu entschärfen. Das Kapitel schließt mit der Betonung der Wichtigkeit, SCV-Systeme gegen derartige Angriffe zu stärken, um ihre Zuverlässigkeit zu gewährleisten, und schlägt zukünftige Forschungsrichtungen zur Integration von Selbstreflexion und gegnerischer Robustheit vor, um die Effektivität der SCV zu verbessern.