Entwurfsmuster für die interdisziplinäre Gestaltung rechtsverträglicher Systeme

Smarte persönliche Assistenten (SPA), wie beispielsweise Alexa und Siri, werden immer beliebter [1]. Dabei kommen sie nicht nur in der privaten Nutzung im Alltag zum Einsatz, sondern auch vermehrt im Lernkontext [2, 3]. Die Entwicklung smarter Lernassistenten für den universitären Einsatz stellt Entwickler vor Herausforderungen. Sowohl datenschutzrechtliche Vorgaben als auch die didaktische Umsetzung der Technologie müssen den Anforderungen der Universität genügen. Der Einsatz eines Lernassistenten im Lehr-Lern-Kontext impliziert bei den Studierenden, dass die Technologie ganzheitlich durch die Lehrperson, aber auch durch die Universität geprüft wurde. Daher sind bei der Entwicklung smarter Lernassistenten verschiedene Disziplinen beteiligt, die sich von Didaktik, über Psychologie, Rechtswissenschaft bis hin zur Informatik erstrecken [4]. Dabei entstehen mehrdimensionale Anforderungen an den Lernassistenten, die während der Entwicklung berücksichtigt werden müssen.

Eine Lehrperson hat vor dem Einsatz eines smarten Lernassistenten in der Lehre zwei Möglichkeiten, was in der Systementwicklung als „make or buy“ bezeichnet wird. Entweder wird eine Technologie verwendet, die durch einen Drittanbieter entwickelt wurde (buy), oder die Lehrperson bzw. die Universität entwickelt ein eigenes System (make). Die „make-Entscheidung“ hat den Vorteil, dass den mehrdimensionalen Anforderungen individuelle Aufmerksamkeit gewidmet werden kann und so die Technologie für den individuellen Anwendungsfall der Universität bestmöglich adaptiert werden kann. In der Praxis zeigt sich besonders, dass in der Vereinigung rechtlicher Anforderungen und Anforderungen der Dienstleistungsqualität häufig große Kompromisse eingegangen werden müssen [5]. Für die Anpassungsfähigkeit der Systeme an den Nutzer werden häufig große Datenmengen erforderlich, ohne deren Nutzung die Qualität des Systems leidet [6]. Eine Unterstützung der Entwickler, die ganzheitlich die Entwicklung von der Anforderungserhebung bis hin zur praktischen Evaluation begleitet, ist erforderlich. In der Informatik haben sich Anforderungs- und Entwurfsmuster etabliert, die Entwicklern bei wiederkehrenden Problemen mit bewährten Lösungen unterstützen [7]. In ihrer bisherigen Darstellung enthalten die Muster jedoch kein interdisziplinäres Gestaltungswissen und können Entwickler nicht bei interdisziplinären Problemstellungen unterstützen [8]. Daraus entsteht folgende Forschungsfrage:

Wie kann die Entwicklung eines rechtsverträglichen smarten Lernassistenten durch interdisziplinäre Anforderungs- und Entwurfsmuster unterstützt werden?

Um die Forschungsfrage zu beantworten und einen Beitrag zur Schließung der Forschungslücke zu leisten, haben wir einen interdisziplinären Musterkatalog bestehend aus Anforderungs- und Entwurfsmuster für die Entwicklung von smarten persönlichen Assistenten entwickelt. Dabei haben wir ein besonderes Augenmerk auf die Disziplinen Recht und Dienstleistungsqualität gelegt.

In diesem Beitrag legen wir dar, wie ein solcher Musterkatalog zur erfolgreichen Entwicklung eines rechtsverträglichen und qualitativ hochwertigen smarten Lernassistenten beitragen kann. Dabei beschränken wir uns nicht allein auf den Entwicklungsprozess, sondern stellen auch einen Ansatz für die interdisziplinäre Evaluation vor, in der der prototypisch entwickelte Lernassistent sowohl mit Nutzern als auch auf seine Rechtmäßigkeit hin evaluiert wird. Hierfür verwenden wir die Methodik der Simulationsstudie, die in der Rechtswissenschaft etabliert ist und uns frühzeitig im Entwicklungsprozess die Möglichkeit bietet, Aussagen über die Rechtmäßigkeit des Systems zu treffen und mögliche Gestaltungsverbesserungen abzuleiten.

Vor der Entwicklung des smarten Lernassistenten wird eine ausführliche Anforderungserhebung durchgeführt. Dabei werden die beiden Disziplinen zunächst größtenteils getrennt voneinander analysiert und anschließend Anforderungen konsolidiert, die für die Entwicklung als Leitfaden dienen sollen. Die Erhebung der Anforderungen wird durch interdisziplinäre Anforderungsmuster unterstützt [22].

Als Grundlage für die Gestaltung des rechtsverträglichen smarten Lernassistenten dienen zum einen die zuvor durchgeführte Anforderungserhebung, sowie Interviews mit Dozierenden und Didaktik-Experten (N = 7), zum anderen aber auch Entwurfsmuster, die bei der Lösung möglicher Konflikte in der Entwicklung unterstützen.

Das verwendete Lehrmaterial basiert auf den Inhalt der Lehrveranstaltung und wird gemeinsam mit dem Dozierenden und weiteren Lehrpersonen der Lehrveranstaltung aufbereitet und in den Lernassistenten integriert. Während der iterativen Entwicklung wurden die Dozierenden immer wieder einbezogen. Das Lehrmaterial wird in Form eines Quiz dargestellt. Der Lernassistent wird für eine universitäre Lehrveranstaltung als ergänzende Klausurvorbereitung entwickelt, um gemeinsam mit dem Nutzer den Lehrstoff der Veranstaltung spielerisch zu wiederholen. In dem Lernquiz stellt der Lernassistent dem Nutzer eine Frage und bietet vier mögliche Antworten, wovon genau eine Antwort richtig ist.

Wichtige Anforderungen aufseiten der Dienstleistungsqualität an den smarten Lernassistenten basieren auf den Grundlagen „Personalisierung“ und „Lernfähigkeit“. So wäre es aus Qualitätssicht wünschenswert, dass der Lernassistent den Nutzer nach erstmaliger Nutzung wiedererkennen kann. Wünschenswert wäre außerdem, dass der Lernassistent auf Basis der Relevanzbewertungen des Nutzers mit fortschreitender Nutzungsdauer relevantere Informationen für den Nutzer ausgeben kann (siehe Tab. 2).

Die auf den Grundlagen „Datensparsamkeit und Datenvermeidung“, „Kernbereichsschutz“ und „Keine Profilbildung“ basierenden rechtlichen Anforderungen an den Lernassistenten verlangen hingegen, dass nur solche personenbezogenen Daten verarbeitet werden, die zur Erreichung des Verarbeitungszwecks erforderlich sind, dass kein umfassendes Persönlichkeitsprofil des Nutzers angelegt wird und das auf Basis von Daten mit Diskriminierungspotential gehören, keine Entscheidungen gefällt werden (siehe Tab. 2).

Zu Beginn der Entwicklung werden die erhobenen Anforderungen betrachtet, um einen genauen Überblick über das zu entwickelnde System zu erhalten. Danach werden die Anforderungen abgeglichen und Zielkonflikte identifiziert. Um diese Zielkonflikte aufzulösen und zufriedenstellenden Lösungen zuzuführen, kommen interdisziplinäre Entwurfsmuster zum Einsatz, die die konfliktären Anforderungen des Rechts und der Dienstleistungsqualität adressieren und mögliche Lösungswege aufzeigen.

Bei der Umsetzung der erhobenen Anforderungen, zeigen sich klare Konflikte zwischen den beiden Disziplinen auf. Würde man alle Anforderungen der Dienstleistungsqualität voll verwirklichen, würde gegen rechtliche Anforderungen verstoßen werden. Würden alle rechtlichen Anforderungen vollumfänglich umgesetzt, würde hingegen die Dienstleistungsqualität des Lernassistenten leiden. Ein beispielhafter Konflikt zwischen den Anforderungen „Personalisierung“ der Dienstleistungsqualität und „Datensparsamkeit und Datenvermeidung“ der Rechtsverträglichkeit, lassen sich nicht gleichermaßen umsetzen, da sie einander widersprechen. Um die beschriebenen Konflikte bestmöglich aufzulösen und einer qualitativ hochwertigen wie rechtsverträglichen Lösung zuzuführen, kommt das Entwurfsmuster „Datenschutzfreundliches Nutzerprofil“ zum Einsatz (siehe Abb. 3).

Das Entwurfsmuster „Datenschutzfreundliches Nutzerprofil“ löst den beschriebenen grundlegenden Zielkonflikt, indem es spezifiziert, welche personenbezogenen Daten des Nutzers auf welche Art und Weise vom Lernassistenten verarbeitet und im Nutzerprofil gespeichert werden dürfen. Dabei wird in der Lösung unter anderem vorgeschlagen, dass personenbezogene Daten mit Bezug zur Privat- und Intimsphäre, sowie sensible Daten nicht zur Profilbildung genutzt werden dürfen. Eine strenge Einhaltung des Zweckbindungsgrundsatzes stellt sicher, dass nur solche personenbezogenen Daten verarbeitet werden, die zur Zweckerreichung erforderlich sind. Gleichzeitig garantiert diese Lösung auch, dass die Anforderungen aufseiten der Dienstleistungsqualität umgesetzt werden. Eine personalisierte Art der Dienstleistungserbringung wird ermöglicht, wenn es sich nicht um Daten, die zur Privat- oder Intimsphäre des Nutzers gehören oder um sensible Daten, handelt. Um dabei die informationelle Selbstbestimmung des Nutzers zu gewährleisten, erfolgt eine Personalisierung nur, wenn der Nutzer aktiv einwilligt. Sollte keine Einwilligung erfolgen, wird kein Nutzerprofil angelegt. Außerdem wird im Entwurfsmuster vorgeschlagen, eine Identifizierung des Nutzers auf dem Endgerät auf Basis eines selbstgewählten Pseudonyms zu ermöglichen. Durch die Pseudonymisierung wird kein Nutzerprofil angelegt, das Rückschlüsse auf die Person selbst zulässt. Dennoch wird erreicht, dass der Nutzer eine Möglichkeit zur Identifizierung hat und der Lernassistent dadurch immer wieder auf den aktuellen Lernfortschritt zugreifen kann, um die Lehrinhalte daran anzupassen. Dadurch werden zum einen die Anforderungen RV3 und RV5 der Rechtsverträglichkeit umgesetzt, indem kein umfassendes persönliches Nutzerprofil angelegt wird und auf deren Basis keine Diskriminierungen erfolgen können. Zum anderen wurden durch die Umsetzung des Entwurfsmusters auch die konfliktäre Anforderung DLQ4 der Dienstleistungsqualität umgesetzt, die besagt, dass das System den Nutzer nach erstmaliger Nutzung wiedererkennen soll.

Des Weiteren besagt das Entwurfsmuster, dass der Verwendungszweck der Datenverarbeitung präzise und differenziert angegeben werden muss. Außerdem wird hierfür eine granulare Einwilligungsmöglichkeit vorgeschlagen. Die Lösungsvorschläge aus dem Entwurfsmuster werden bei der Entwicklung des Lernassistenten umgesetzt und in den Voreinstellungen eine Personalisierung zunächst deaktiviert. So kann der Nutzer bei der Anmeldung genau auswählen, welcher Datenspeicherung er zustimmt. Hierfür erhält er außerdem zusätzliche Informationsmöglichkeiten, die genau darlegen, warum die jeweilige Datenspeicherung notwendig ist, und welchen Mehrwert diese für die Erreichung der Dienstleistungsqualität hat. Außerdem wird, um die Transparenz hinsichtlich aller Datenverarbeitungen, die im Muster empfohlen wird, den Lernassistenten derart gestaltet, dass die Nutzer situationsadäquat über stattfindende Datenverarbeitungsvorgänge informiert werden. Ihnen werden nicht nur bei der ersten Nutzung, sondern immer dann, wenn relevante Datenverarbeitungen stattfinden, entsprechende Informationen geboten. Um einen Ausgleich zwischen Transparenz und störungsfreier Nutzung zu gewährleisten, haben wir den Nutzern in den Einstellungen die Möglichkeit eingeräumt, auszuwählen, wie oft und wie detailliert sie über Datenverarbeitungen informiert werden möchten. Ergänzend dazu hat der Nutzer, wie im Entwurfsmuster empfohlen, zu jedem Zeitpunkt die Möglichkeit in den Einstellungen eine digitale Selbstauskunft über die Speicherung seiner Daten einzusehen. Dies unterstützt die Transparenz der Datenspeicherung.

Um den Anforderungen des Rechts zur Zweckbindung gerecht zu werden, empfiehlt das Entwurfsmuster die regelmäßige Prüfung, welche personenbezogenen Daten noch zur Zweckerreichung erforderlich sind. Hierfür können beispielsweise Löschroutinen einen Lösungsansatz darstellen. Im Lernassistenten wird nach Abschluss eines Semesters die Möglichkeit solche automatisierten Löschroutinen durchzuführen umgesetzt.

Um den entwickelten Lernassistenten zu evaluieren, wird eine zweiteilige Simulationsstudie durchgeführt, mit der die Technologie auf Dienstleistungsqualität, wie auf Rechtsverträglichkeit hin überprüft werden kann. Im ersten Teil wird die Technologie in einer praktischen Evaluation mit Nutzern auf Usability, User Experience und mögliche Anwendungsprobleme untersucht. Der zweite Teil der Simulationsstudie dient zur Evaluation der Rechtmäßigkeit des Lernassistenten. In diesem zweiten Teil der Studie wird eine simulierte Gerichtsverhandlung durchgeführt, in der das System unter Mitwirkung echter Richter und Anwälte in simulierten Gerichtsprozessen auf seine Rechtmäßigkeit hin evaluiert wird.

Um das primäre Ziel des ersten Teils der Simulationsstudie zu untersuchen, ist die Verwendung des Lernassistenten in der Praxis durch echte Nutzer unabdingbar. Für die Evaluation wird der Lernassistent in einer universitären Grundlagenveranstaltung für Wirtschaftswissenschaften als ergänzende Klausurvorbereitung eingesetzt.

Die Teilnehmer können an drei Terminen in einem Zeitraum von zwei Wochen eine Stunde lang gemeinsam mit dem Lernassistenten für die Klausur lernen und das erworbene Wissen aus der Lehrveranstaltung wiederholen. Das Angebot findet auf freiwilliger Basis statt. Anschließend werden in Fragebögen die Zufriedenheit der Studierenden mit dem Lernassistenten erfragt und insbesondere Aspekte der Rechtsverträglichkeit und Dienstleistungsqualität in den Fokus gestellt. Außerdem wird in einer qualitativen Befragung nach Verbesserungsvorschlägen gefragt.

Um den mithilfe der Anforderungs- und Entwurfsmuster entwickelten prototypischen Lernassistenten von rechtlicher Seite aus zu evaluieren, wird die Methode der Simulationsstudie angewendet. Ziel der Simulation ist es, zu evaluieren, wie der von uns mithilfe von Anforderungs- und Entwurfsmustern entwickelte Lernassistent in der Praxis in Hinblick auf seine Rechtmäßigkeit beurteilt wird und dabei schwerpunktmäßig herauszufinden, inwiefern die Anforderungs- und Entwurfsmuster dazu geeignet sind, die vollständige Umsetzung der datenschutzrechtlichen Vorgaben zu beweisen. Daneben prüfen wir auch andere Gestaltungsmerkmale, wie unsere Implementierung der Betroffenenrechte oder der Transparenzvorgaben aus der DSGVO, richterlich prüfen lassen.

Dazu werden insgesamt vier Fälle entworfen, von denen zwei verwaltungsrechtlicher Art und zwei zivilrechtlicher Art sind. Dabei wird darauf geachtet, dass die Fälle zum einen realitätsnah sind und zum anderen darauf, dass prozessrechtliche Fragen, wie etwa die der Zuständigkeit des Gerichts, und andere für uns weniger relevante Aspekte wie die exakte Schadenshöhe, nicht zu viel Raum einnehmen. Alle Fälle werden derart konstruiert, dass Studierende sich, aus verschiedensten Gründen, gegen den Einsatz des von uns entwickelten Lernassistenten in der Lehre wenden.

Auf Basis der konstruierten Fälle erstellen Anwälte realitätsnahe Klageschriften und Klageerwiderungen sowie weitere vorprozessliche Korrespondenz, die die Grundlage für den nachfolgenden Prozess bilden. Der Anwalt der Beklagtenseite, also der Universität, stützt seine Argumentationen in den Klageerwiderungen in allen Fällen maßgeblich auf die verwendeten Anforderungs- und Entwurfsmuster. In der Klageerwiderung geht er ausführlich darauf ein, welche datenschutzrechtlichen Vorgaben die Muster umsetzen und wie die Lösungsvorschläge aus den Mustern programmiert wurden. Die Muster wurden mithin dazu verwendet, zu beweisen, dass der entwickelte Lernassistent unter Einhaltung aller datenschutzrechtlichen Vorgaben entwickelt wurde.

Im Anschluss an die Vorverfahren werden die verwaltungsrechtlichen Gerichtsprozesse aufgrund der covid-19 Pandemie in einer Videokonferenz verhandelt, während die zivilrechtlichen Prozesse im schriftlichen Verfahren durchgeführt werden. Dabei wird besonders darauf geachtet, das Szenario so realitätsnah wie möglich durchzuführen, weshalb unter anderem auch Roben getragen werden und den Ablauf der Gerichtsverhandlung unter Leitung der Richterin entsprechend den einschlägigen prozessrechtlichen Vorgaben gestaltet.

Der Einsatz interdisziplinärer Anforderungs- und Entwurfsmuster hilft in der Systementwicklung fachfremdes Domänenwissen zu kodifizieren und in einem System umzusetzen. Die Unterstützung eines Katalogs, der im Entwicklungsprozess von Anfang, der Anforderungserhebung, bis zum Ende, der eigentlichen Gestaltung des Systems, unterstützt, hat sich in unserer Evaluation als geeignetes Verfahren herausgestellt, um einen rechtsverträglichen Lernassistenten zu entwickeln. In den Prozessen, die unter Leitung von Richtern aus der Praxis durchgeführt werden, stehen die Anforderungs- und Entwurfsmuster im Fokus. Die Muster werden in den mündlichen Verhandlungen vom Anwalt der Universität herangezogen, um seine Ausführungen hinsichtlich der Einhaltung der datenschutzrechtlichen Vorgaben zu untermauern. Die Verwaltungsrichterin, die den Lernassistenten in ihrem Urteil im Anschluss an die mündliche Verhandlung als rechtmäßig einstuft, hält die Muster für sehr hilfreich, die Einhaltung rechtlicher Vorgaben bei einer Technik zu beweisen. Als Ergebnis dieser Simulationsstudie lässt sich festhalten, dass die Anforderungs- und Entwurfsmuster zum einen ein geeignetes Mittel sind, Technik rechtskonform zu entwickeln. Zum anderen lassen sie sich gut dafür verwenden, vor Gericht die Rechtmäßigkeit einer Technik zu beweisen.

Gerade der Einsatz der Entwurfsmuster hat sich für die Umsetzung konfliktärer Anforderungen als hilfreich erwiesen. Dadurch, dass die Lösungsansätze auf der einen Seite abstrakt sind, aber auch konkrete Vorschläge geben, die praktisch umgesetzt werden können, schränken sie insbesondere die Kreativität nicht ein, aber helfen dennoch Lösungen für die Problemstellungen zu identifizieren [25].

Durch die Evaluation mit Nutzern wurde ein Einblick in die Praxistauglichkeit der Lösungen gewonnen und die Lösungsansätze konnten auf ihre Usability und User Experience beleuchtet werden. Dabei kam insbesondere heraus, dass die Möglichkeit eines pseudonymen Profils positiv angenommen wurde. Ergänzend zu der Evaluation des Systems mit Nutzern, hat die durchgeführte Simulationsstudie die Erkenntnis erbracht, dass ein smarter Lernassistent durch die Verwendung der interdisziplinären Anforderungs- und Entwurfsmuster dazu führte, dass das System von Rechtsexperten als rechtmäßig bewertet wurde. In der mündlichen Verhandlung wird vorwiegend auf Basis des in der Entwicklung verwendeten Musterkatalogs debattiert. Die Anforderungs- und Entwurfsmuster geben der Richterin und den beteiligten Anwälten eine Möglichkeit, den Systementwicklungsprozess nachzuvollziehen, ohne dabei Vorwissen aus der Systementwicklung zu besitzen. Diese Ergebnisse zeigen das Potenzial für die interdisziplinäre Systementwicklung und Ansätze, wie die Zusammenarbeit durch Anforderungs- und Entwurfsmuster unterstützt werden kann.

Um Entwickler bei der Gestaltung eines rechtsverträglichen Lernassistenten zu unterstützen, wird ein Musterkatalog bestehend aus Anforderungs- und Entwurfsmuster eingesetzt. Dies Muster vereinen die interdisziplinäre Systementwicklung in einem gemeinsamen Katalog und können so bei der soziotechnischen Systementwicklung unterstützen. Unsere Studie hat einige Limitierungen, die Ansätze für zukünftige Arbeiten vorgeben. In diesem Zusammenhang ist es wichtig anzumerken, dass es bei der Entwicklung des Lernassistenten kein professionelles Entwicklerteam beteiligt war, sondern Wissenschaftler mit einer technischen Ausbildung. Daher ist es wichtig, weitere Studien mit professionellen Entwicklerteams durchzuführen, um konkrete Aussagen zu der Anwendbarkeit unseres Musterkatalogs treffen zu können. Bei der Anwendung des Musterkatalogs sind wir auf einige Verbesserungsmöglichkeiten hinsichtlich der Anforderungs- wie auch Entwurfsmuster gestoßen, die in einer folgenden Überarbeitung der Anforderungs- und Entwurfsmuster berücksichtigt werden müssen. Dabei hat sich auch herausgestellt, dass an einigen Punkten der Grad der Abstraktion der Muster überdacht werden sollte, sodass diese einen höheren Mehrwert für den Entwicklungsprozess bieten können. Hier sind entsprechend auch Fragestellungen zu adressieren, die sich mit Aspekten der kognitiven Last bei der Musternutzung befassen [26, 27].

Bei den simulierten Gerichtsprozessen sind wir ebenfalls zu wertvollen Erkenntnissen hinsichtlich der Anforderungs- und Entwurfsmuster gelangt. Wir haben festgestellt, dass sich die Muster, sofern nachvollziehbar dargelegt wird, wie sie implementiert wurden, sehr gut dafür eignen, die Vereinbarkeit mit datenschutzrechtlichen Vorgaben von Technik in Gerichtsprozessen nachzuweisen. Es handelte sich zwar nicht um echte Gerichtsprozesse, jedoch haben wir durch die Konzeption der Fälle und die Teilnahme von Richtern und Anwälten aus der Praxis sichergestellt, dass die Prozesse echten Verfahren nahekommen. Ferner wurde durch Beteiligung der Praktiker auf die Möglichkeit hingewiesen, die Anforderungs- und Entwurfsmuster auch für Datenschutzfolgenabschätzungen oder Zertifizierungsprozesse einzusetzen.

Insgesamt konnte durch unsere Studie gezeigt werden, wie Anforderungs- und Entwurfsmuster in einer interdisziplinären Systementwicklung gebündelt einen Mehrwert bringen können. Sie ermöglichen dem Systementwickler, fachfremdes Gestaltungswissen zu verstehen und in einem System umzusetzen. Wir sehen großes Potenzial für die soziotechnische Systementwicklung und einen Mehrwert für den Endnutzer, dessen Anforderungen an neuartige Produkte durch die Unterstützung von Anforderungs- und Entwurfsmuster im Entwicklungsprozess noch besser umgesetzt werden können.

Die Autoren danken den Studienteilnehmern, welche maßgeblich zur Entwicklung der hier vorgestellten Anforderungs- und Entwurfsmuster beigetragen haben. Der hier vorliegende Beitrag wurde im Rahmen des von der Deutschen Forschungsgemeinschaft (DFG) geförderten Projekts AnEkA (Projektnummer: 348084924) erarbeitet.