Skip to main content
Erschienen in: Österreichische Zeitschrift für Soziologie 1/2019

01.06.2019 | Hauptbeiträge

Algorithmic Risk Assessment als Medium des Rechts

Medientechnische Entwicklung und institutionelle Verschiebungen aus Sicht einer Techniksoziologie des Rechts

verfasst von: Peter Müller, Nikolaus Pöchhacker

Erschienen in: Österreichische Zeitschrift für Soziologie | Sonderheft 1/2019

Einloggen

Aktivieren Sie unsere intelligente Suche, um passende Fachinhalte oder Patente zu finden.

search-config
loading …

Zusammenfassung

In diesem Beitrag stellen wir die Frage nach den praktischen und institutionellen Konsequenzen rechtsintrinsischer Digitalisierung am Beispiel von Risk Assessment Software an US-amerikanischen Gerichtshöfen aus theoretisch konzeptioneller und programmatischer Perspektive. Dazu werden Debatten um Recidivism Risk Assessment Sentencing Decision Support Systems (SDSS), wie etwa COMPAS, betrachtet sowie ihre Kerninhalte und diskursive Lücken identifiziert. Diese Softwaresysteme finden in den USA an County Courts Einsatz, um Strafmaß und Bewährungsoptionen in Strafrechtsverhandlungen zu eruieren. Durch die Auseinandersetzung mit den technischen Funktionsprinzipien solcher Software soll deren Bedeutung für die bestehenden Strukturen und Praxen judikativer Institutionen von einem technik- wie rechtssoziologischen, sozialtheoretischen Standpunkt aus beleuchtet werden. Dieser Art lassen sich drei wesentliche Verschiebungen in der US-amerikanischen Judikative identifizieren: (1) wie statistische Populationen, Modelle und Verfahren die Wissensproduktion und Problemwahrnehmung beeinflussen; (2) wie Risk Assessment Softwares als proprietäres Produkt die inter-institutionellen Grenzen zwischen Recht und Ökonomie, Strafrecht und Strafvollzug verwischen; (3) wie der Einsatz der Software intrainstitutionell auf die gerichtliche und außergerichtliche Expertise und performative Herstellung des bürgerlichen (Recht‑)Subjekts einwirkt. Diese Verschiebungen erscheinen perspektivisch aus einer Techniksoziologie des Rechts, die die Produktion von Wissen, Technologie, Rechtspraxen und -institutionen gleichermaßen und symmetrisch in den Blick nimmt. Nur unter diesen Voraussetzungen lassen sich rechtsintrinsische Technologien in ihren Bedingungen und Konsequenzen angemessen erfassen.

Sie haben noch keine Lizenz? Dann Informieren Sie sich jetzt über unsere Produkte:

Springer Professional "Wirtschaft+Technik"

Online-Abonnement

Mit Springer Professional "Wirtschaft+Technik" erhalten Sie Zugriff auf:

  • über 102.000 Bücher
  • über 537 Zeitschriften

aus folgenden Fachgebieten:

  • Automobil + Motoren
  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Elektrotechnik + Elektronik
  • Energie + Nachhaltigkeit
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Maschinenbau + Werkstoffe
  • Versicherung + Risiko

Jetzt Wissensvorsprung sichern!

Österreichische Zeitschrift für Soziologie

Die Österreichische Zeitschrift für Soziologie (ÖZS) ist das Fachorgan der Österreichischen Gesellschaft für Soziologie.

Springer Professional "Wirtschaft"

Online-Abonnement

Mit Springer Professional "Wirtschaft" erhalten Sie Zugriff auf:

  • über 67.000 Bücher
  • über 340 Zeitschriften

aus folgenden Fachgebieten:

  • Bauwesen + Immobilien
  • Business IT + Informatik
  • Finance + Banking
  • Management + Führung
  • Marketing + Vertrieb
  • Versicherung + Risiko




Jetzt Wissensvorsprung sichern!

Fußnoten
1
Die Firma wurde unter dem Namen Equivant neu gegründet. Da sich allerdings der hier diktierte Diskurs auf die Zeit bezieht, als Northpointe noch diesen Namen trug, wird dieser in diesem Beitrag genutzt.
 
2
Das Programm, welches Jasanoff hierbei verfolgt, kann theoretisch als auch programmatisch im Bereich des Kommunitarismus (vgl. Taylor 2004) verortet werden. Somit, und durch die starke Betonung der Strukturgenese durch die Realisierung objektivierter Werte und Normen, kann man diese Richtung der STS durchaus als eine Weiterführung des Parsons’schen Programms verstehen.
 
Literatur
Zurück zum Zitat Alarid, Leanne F., und Carlos D. Montemayor. 2010. Attorney perspectives and decisions on the presentence investigation report. A research note. Criminal Justice Policy Review 21(1):119–133.CrossRef Alarid, Leanne F., und Carlos D. Montemayor. 2010. Attorney perspectives and decisions on the presentence investigation report. A research note. Criminal Justice Policy Review 21(1):119–133.CrossRef
Zurück zum Zitat Amoore, Louise. 2008. Risk before justice. When the law contests its own suspension. Leiden Journal of International Law 21(4):847–861.CrossRef Amoore, Louise. 2008. Risk before justice. When the law contests its own suspension. Leiden Journal of International Law 21(4):847–861.CrossRef
Zurück zum Zitat Beer, David. 2017. The social power of algorithms. Information, Communication & Society 20(1):1–13.CrossRef Beer, David. 2017. The social power of algorithms. Information, Communication & Society 20(1):1–13.CrossRef
Zurück zum Zitat Blumer, Herbert. 1954. What is wrong with social theory? American Sociological Review 19(1):3–10.CrossRef Blumer, Herbert. 1954. What is wrong with social theory? American Sociological Review 19(1):3–10.CrossRef
Zurück zum Zitat Bonta, James, und Don A. Andrews. 2007. Risk-need-responsivity model for offender assessment and rehabilitation. Rehabilitation 6(1):1–22. Bonta, James, und Don A. Andrews. 2007. Risk-need-responsivity model for offender assessment and rehabilitation. Rehabilitation 6(1):1–22.
Zurück zum Zitat Bonta, James, und Stephen J. Wormith. 2007. Risk and need assessment. In Developments in social work with offenders, Hrsg. G. McIvor, P. Raynor, 131–152. London, Philadelphia: Jessica Kingsley. Bonta, James, und Stephen J. Wormith. 2007. Risk and need assessment. In Developments in social work with offenders, Hrsg. G. McIvor, P. Raynor, 131–152. London, Philadelphia: Jessica Kingsley.
Zurück zum Zitat Brickell, Julia L., und Peter J. Pizzi. 2015. Towards a synthesis of judicial perspectives on technology-assisted review. Defense Counsel Journal 82(3):309–320.CrossRef Brickell, Julia L., und Peter J. Pizzi. 2015. Towards a synthesis of judicial perspectives on technology-assisted review. Defense Counsel Journal 82(3):309–320.CrossRef
Zurück zum Zitat Cole, Simon. 2001. Suspect identities. A history of fingerprinting and criminal identification. Cambridge, London: Harvard University Press. Cole, Simon. 2001. Suspect identities. A history of fingerprinting and criminal identification. Cambridge, London: Harvard University Press.
Zurück zum Zitat Deleuze, Gilles, und Felix Guattari. 1992. Tausend Plateaus. Kapitalismus und Schizophrenie. Berlin: Merve. Deleuze, Gilles, und Felix Guattari. 1992. Tausend Plateaus. Kapitalismus und Schizophrenie. Berlin: Merve.
Zurück zum Zitat Durkheim, Émile. 1986. Über die Teilung der sozialen Arbeit. Frankfurt am Main: Suhrkamp. Durkheim, Émile. 1986. Über die Teilung der sozialen Arbeit. Frankfurt am Main: Suhrkamp.
Zurück zum Zitat Ehrlich, Eugen. 1936. Fundamental Principles of the Sociology of Law. Cambridge, MA: Harvard University Press. Ehrlich, Eugen. 1936. Fundamental Principles of the Sociology of Law. Cambridge, MA: Harvard University Press.
Zurück zum Zitat Eidenmüller, Horst. 1998. Effizienz als Rechtsprinzip. Tübingen: Mohr Siebeck. Eidenmüller, Horst. 1998. Effizienz als Rechtsprinzip. Tübingen: Mohr Siebeck.
Zurück zum Zitat Ewald, Francois. 1990. Norms, Discipline, and the Law. Representations 30:138–161.CrossRef Ewald, Francois. 1990. Norms, Discipline, and the Law. Representations 30:138–161.CrossRef
Zurück zum Zitat Flores, Antony W., Kristin Bechtel, und Christopher T. Lowenkamp. 2016. False positives, false negatives, and false analyses. A rejoinder to machine bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. Federal Probation 80(2):38–46. Flores, Antony W., Kristin Bechtel, und Christopher T. Lowenkamp. 2016. False positives, false negatives, and false analyses. A rejoinder to machine bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. Federal Probation 80(2):38–46.
Zurück zum Zitat Foucault, Michel. 1981. Archäologie des Wissens. Frankfurt am Main: Suhrkamp. Foucault, Michel. 1981. Archäologie des Wissens. Frankfurt am Main: Suhrkamp.
Zurück zum Zitat Foucault, Michel. 2015. Sicherheit, Territorium, Bevölkerung. Geschichte der Gouvernementalität I. Vorlesungen am Collège de France 1977/1978. Frankfurt am Main: Suhrkamp. Foucault, Michel. 2015. Sicherheit, Territorium, Bevölkerung. Geschichte der Gouvernementalität I. Vorlesungen am Collège de France 1977/1978. Frankfurt am Main: Suhrkamp.
Zurück zum Zitat Garfinkel, Harold. 1984. Studies in Ethnomethodology. Englewood Cliffs, New Jersey: Prentice-Hall. Garfinkel, Harold. 1984. Studies in Ethnomethodology. Englewood Cliffs, New Jersey: Prentice-Hall.
Zurück zum Zitat Gieryn, Thomas F. 1999. Cultural boundaries of science. Credibility on the line. Chicago, London: University of Chicago Press. Gieryn, Thomas F. 1999. Cultural boundaries of science. Credibility on the line. Chicago, London: University of Chicago Press.
Zurück zum Zitat Habermas, Jürgen. 1992. Faktizität und Geltung. Frankfurt am Main: Suhrkamp. Habermas, Jürgen. 1992. Faktizität und Geltung. Frankfurt am Main: Suhrkamp.
Zurück zum Zitat Harcourt, Bernard E. 2015. Risk as a proxy for race. The dangers of risk assessment. Federal Sentencing Reporter 27(4):237–243.CrossRef Harcourt, Bernard E. 2015. Risk as a proxy for race. The dangers of risk assessment. Federal Sentencing Reporter 27(4):237–243.CrossRef
Zurück zum Zitat Henderson, Howard, und Holly A. Miller. 2013. The (twice) failure of the wisconsin risk need assessment in a sample of probationers. Criminal Justice Policy Review 24(2):199–221.CrossRef Henderson, Howard, und Holly A. Miller. 2013. The (twice) failure of the wisconsin risk need assessment in a sample of probationers. Criminal Justice Policy Review 24(2):199–221.CrossRef
Zurück zum Zitat Hilgartner, Steven. 2000. Science on stage: expert advice as public drama. Stanford, California: Stanford University Press. Hilgartner, Steven. 2000. Science on stage: expert advice as public drama. Stanford, California: Stanford University Press.
Zurück zum Zitat Hoc, Jean-Michel. 2010. From human-machine-interaction to human-machine-cooperation. Ergonomics 43(7):833–843.CrossRef Hoc, Jean-Michel. 2010. From human-machine-interaction to human-machine-cooperation. Ergonomics 43(7):833–843.CrossRef
Zurück zum Zitat Irwin, Alan, und Mike Michael. 2003. Ethno-epistemic assemblages. heterogeneity and relationality in scientific citizenship. In Science, social theory and public knowledge, Hrsg. Alan Irwin, Mike Michael, 111–136. Berkshire, Philadelphia: Open University Press. Irwin, Alan, und Mike Michael. 2003. Ethno-epistemic assemblages. heterogeneity and relationality in scientific citizenship. In Science, social theory and public knowledge, Hrsg. Alan Irwin, Mike Michael, 111–136. Berkshire, Philadelphia: Open University Press.
Zurück zum Zitat Jasanoff, Sheila. 1997. Science at the bar: law, science, and technology in america. Cambridge, MA: Harvard University Press. Reprint edition. Jasanoff, Sheila. 1997. Science at the bar: law, science, and technology in america. Cambridge, MA: Harvard University Press. Reprint edition.
Zurück zum Zitat Jasanoff, Sheila. 2001. Ordering life: law and the normalization of biotechnology. Politeia 17(2):34–50. Jasanoff, Sheila. 2001. Ordering life: law and the normalization of biotechnology. Politeia 17(2):34–50.
Zurück zum Zitat Jasanoff, Sheila. 2004. States of knowledge. The co-production of science and the social order. London: Routledge.CrossRef Jasanoff, Sheila. 2004. States of knowledge. The co-production of science and the social order. London: Routledge.CrossRef
Zurück zum Zitat Jasanoff, Sheila. 2005. Law’s knowledge: science for justice in legal settings. American Journal of Public Health 95(S 1):49–58.CrossRef Jasanoff, Sheila. 2005. Law’s knowledge: science for justice in legal settings. American Journal of Public Health 95(S 1):49–58.CrossRef
Zurück zum Zitat Jasanoff, Sheila. 2008. Making order. Law and science in action. In The handbook of science and technology studies, 3. Aufl., Hrsg. Edward J. Hackett, Olga Amsterdamska, Michael Lynch, und Judy Wajcman, 761–786. Cambridge, London: MIT Press. Jasanoff, Sheila. 2008. Making order. Law and science in action. In The handbook of science and technology studies, 3. Aufl., Hrsg. Edward J. Hackett, Olga Amsterdamska, Michael Lynch, und Judy Wajcman, 761–786. Cambridge, London: MIT Press.
Zurück zum Zitat Kelsen, Hans. 1960. Reine Rechtslehre. Mit einem Anhang. Das Problem der Gerechtigkeit, 2. Aufl., Wien: Franz Deuticke. Kelsen, Hans. 1960. Reine Rechtslehre. Mit einem Anhang. Das Problem der Gerechtigkeit, 2. Aufl., Wien: Franz Deuticke.
Zurück zum Zitat Kleinberg, Jon, Sendhil Mullainathan, und Manish Raghavan. 2016. Inherent Trade-Offs in the Fair Determination of Risk Scores. ArXiv: 1609.05807. Kleinberg, Jon, Sendhil Mullainathan, und Manish Raghavan. 2016. Inherent Trade-Offs in the Fair Determination of Risk Scores. ArXiv: 1609.05807.
Zurück zum Zitat Latour, Bruno. 1990. Technology is society made durable. The Sociological Review 38(S 1):103–131.CrossRef Latour, Bruno. 1990. Technology is society made durable. The Sociological Review 38(S 1):103–131.CrossRef
Zurück zum Zitat Latour, Bruno. 2002. La Fabrique du droit. Une ethnographie du Conseil d’État. Paris: La Découverte. Latour, Bruno. 2002. La Fabrique du droit. Une ethnographie du Conseil d’État. Paris: La Découverte.
Zurück zum Zitat Latour, Bruno. 2005. Reassembling the Social. An Introduction to Actor-Network-Theory. Oxford: Oxford University Press. Latour, Bruno. 2005. Reassembling the Social. An Introduction to Actor-Network-Theory. Oxford: Oxford University Press.
Zurück zum Zitat Latour, Bruno. 2014. Existenzweisen: Eine Anthropologie der Modernen. Berlin: Suhrkamp. Latour, Bruno. 2014. Existenzweisen: Eine Anthropologie der Modernen. Berlin: Suhrkamp.
Zurück zum Zitat Lessig, Lawrence. 1999. Code: and other laws of cyberspace. New York: Basic Books. Lessig, Lawrence. 1999. Code: and other laws of cyberspace. New York: Basic Books.
Zurück zum Zitat Lessig, Lawrence. 2006. Code: Version 2.0. New York: Basic Books. Lessig, Lawrence. 2006. Code: Version 2.0. New York: Basic Books.
Zurück zum Zitat Llewellyn, Karl. 1931. Some realism about realism. Responding to dean pound. Harvard Law Review 44:1222–1256.CrossRef Llewellyn, Karl. 1931. Some realism about realism. Responding to dean pound. Harvard Law Review 44:1222–1256.CrossRef
Zurück zum Zitat Luhmann, Niklas. 1983. Legitimation durch Verfahren, 10. Aufl., Frankfurt am Main: Suhrkamp. Luhmann, Niklas. 1983. Legitimation durch Verfahren, 10. Aufl., Frankfurt am Main: Suhrkamp.
Zurück zum Zitat Luhmann, Niklas. 1987. Soziale Systeme: Grundriß einer allgemeinen Theorie. Frankfurt am Main: Suhrkamp. Luhmann, Niklas. 1987. Soziale Systeme: Grundriß einer allgemeinen Theorie. Frankfurt am Main: Suhrkamp.
Zurück zum Zitat Luhmann, Niklas. 1995. Das Recht der Gesellschaft. Frankfurt am Main: Suhrkamp. Luhmann, Niklas. 1995. Das Recht der Gesellschaft. Frankfurt am Main: Suhrkamp.
Zurück zum Zitat Lynch, Michael. 2013. Science, truth, and forensic cultures: the exceptional legal status of DNA evidence. Studies in History and Philosophy of Biological and Biomedical Sciences 44(1):60–70.CrossRef Lynch, Michael. 2013. Science, truth, and forensic cultures: the exceptional legal status of DNA evidence. Studies in History and Philosophy of Biological and Biomedical Sciences 44(1):60–70.CrossRef
Zurück zum Zitat Marcus, George E. 1995. Technoscientific Imaginaries. Conversations, profiles, and memoirs. Chicago: University of Chicago Press. Marcus, George E. 1995. Technoscientific Imaginaries. Conversations, profiles, and memoirs. Chicago: University of Chicago Press.
Zurück zum Zitat Mnookin, Jennifer L. 2001. Fingerprinting evidence in an age of DNA profiling. Brooklyn Law Review 67(1):13–70. Mnookin, Jennifer L. 2001. Fingerprinting evidence in an age of DNA profiling. Brooklyn Law Review 67(1):13–70.
Zurück zum Zitat Musik, Christoph. 2011. The thinking eye is only half the story. High-level semantic video surveillance. Information Polity 16(4):339–353.CrossRef Musik, Christoph. 2011. The thinking eye is only half the story. High-level semantic video surveillance. Information Polity 16(4):339–353.CrossRef
Zurück zum Zitat Nissan, Ephraim. 2017. Digital technologies and artificial intelligence’s present and foreseeable impact on lawyering, judging, policing and law enforcement. AI & Society 32(3):441–464.CrossRef Nissan, Ephraim. 2017. Digital technologies and artificial intelligence’s present and foreseeable impact on lawyering, judging, policing and law enforcement. AI & Society 32(3):441–464.CrossRef
Zurück zum Zitat Pasquale, Frank. 2015. The black box society: the secret algorithms that control money and information. Cambridge, MA: Harvard University Press.CrossRef Pasquale, Frank. 2015. The black box society: the secret algorithms that control money and information. Cambridge, MA: Harvard University Press.CrossRef
Zurück zum Zitat Perry, Walter L., Brian McInnis, Carter C. Price, Susan C. Smith, und John S. Hollywood. 2013. Predictive policing. The role of crime forecasting in law enforcement operations. Santa Monica: RAND Corporation.CrossRef Perry, Walter L., Brian McInnis, Carter C. Price, Susan C. Smith, und John S. Hollywood. 2013. Predictive policing. The role of crime forecasting in law enforcement operations. Santa Monica: RAND Corporation.CrossRef
Zurück zum Zitat Ruhl, J.B., und Daniel M. Katz. 2015. Measuring, monitoring, and managing legal complexity. Iowa Law Review 101:191. Ruhl, J.B., und Daniel M. Katz. 2015. Measuring, monitoring, and managing legal complexity. Iowa Law Review 101:191.
Zurück zum Zitat Schild, Uri J., und John Zeleznikow. 2008. Comparing sentencing decision support systems for judges and lawyers. Journal of Decision Systems 17(4):523–552.CrossRef Schild, Uri J., und John Zeleznikow. 2008. Comparing sentencing decision support systems for judges and lawyers. Journal of Decision Systems 17(4):523–552.CrossRef
Zurück zum Zitat Shapiro, Aaron. 2017. Reform predictive policing. Nature News 541(7638):458.CrossRef Shapiro, Aaron. 2017. Reform predictive policing. Nature News 541(7638):458.CrossRef
Zurück zum Zitat Steffensmeier, Darrell, Jeffrey Ulmer, und John Kramer. 1998. The interaction of race, gender, and age in criminal sentencing: The punishment cost of being young, Black, and male. Criminology 36(4):763–797.CrossRef Steffensmeier, Darrell, Jeffrey Ulmer, und John Kramer. 1998. The interaction of race, gender, and age in criminal sentencing: The punishment cost of being young, Black, and male. Criminology 36(4):763–797.CrossRef
Zurück zum Zitat Taylor, Charles. 2004. Modern social imaginaries. Duke University Press: Durham, London.CrossRef Taylor, Charles. 2004. Modern social imaginaries. Duke University Press: Durham, London.CrossRef
Zurück zum Zitat Vismann, Cornelia. 2011. Medien der Rechtsprechung. Frankfurt am Main: Fischer. Vismann, Cornelia. 2011. Medien der Rechtsprechung. Frankfurt am Main: Fischer.
Zurück zum Zitat Wulf, Christoph. 2003. Ritual und Recht. Performatives Handeln und mimetisches Wissen. In Körper und Recht. Anthropologische Dimensionen der Rechtsphilosophie, Hrsg. Ludger Schwarte, Christoph Wulf, 29–45. München: Wilhelm Fink. Wulf, Christoph. 2003. Ritual und Recht. Performatives Handeln und mimetisches Wissen. In Körper und Recht. Anthropologische Dimensionen der Rechtsphilosophie, Hrsg. Ludger Schwarte, Christoph Wulf, 29–45. München: Wilhelm Fink.
Zurück zum Zitat Yates, Christopher P., und Louise E. Herrick. 2001. Going on record: the perils of discussing criminal history during the presentence interview. Federal Sentencing Reporter 13:330–332.CrossRef Yates, Christopher P., und Louise E. Herrick. 2001. Going on record: the perils of discussing criminal history during the presentence interview. Federal Sentencing Reporter 13:330–332.CrossRef
Metadaten
Titel
Algorithmic Risk Assessment als Medium des Rechts
Medientechnische Entwicklung und institutionelle Verschiebungen aus Sicht einer Techniksoziologie des Rechts
verfasst von
Peter Müller
Nikolaus Pöchhacker
Publikationsdatum
01.06.2019
Verlag
Springer Fachmedien Wiesbaden
Erschienen in
Österreichische Zeitschrift für Soziologie / Ausgabe Sonderheft 1/2019
Print ISSN: 1011-0070
Elektronische ISSN: 1862-2585
DOI
https://doi.org/10.1007/s11614-019-00352-5

Weitere Artikel der Sonderheft 1/2019

Österreichische Zeitschrift für Soziologie 1/2019 Zur Ausgabe

Premium Partner