Skip to main content
main-content
Top

Hint

Swipe to navigate through the articles of this issue

Published in: Österreichische Zeitschrift für Soziologie 1/2019

01-06-2019 | Hauptbeiträge

Algorithmic Risk Assessment als Medium des Rechts

Medientechnische Entwicklung und institutionelle Verschiebungen aus Sicht einer Techniksoziologie des Rechts

Authors: Peter Müller, Nikolaus Pöchhacker

Published in: Österreichische Zeitschrift für Soziologie | Special Issue 1/2019

Login to get access
share
SHARE

Zusammenfassung

In diesem Beitrag stellen wir die Frage nach den praktischen und institutionellen Konsequenzen rechtsintrinsischer Digitalisierung am Beispiel von Risk Assessment Software an US-amerikanischen Gerichtshöfen aus theoretisch konzeptioneller und programmatischer Perspektive. Dazu werden Debatten um Recidivism Risk Assessment Sentencing Decision Support Systems (SDSS), wie etwa COMPAS, betrachtet sowie ihre Kerninhalte und diskursive Lücken identifiziert. Diese Softwaresysteme finden in den USA an County Courts Einsatz, um Strafmaß und Bewährungsoptionen in Strafrechtsverhandlungen zu eruieren. Durch die Auseinandersetzung mit den technischen Funktionsprinzipien solcher Software soll deren Bedeutung für die bestehenden Strukturen und Praxen judikativer Institutionen von einem technik- wie rechtssoziologischen, sozialtheoretischen Standpunkt aus beleuchtet werden. Dieser Art lassen sich drei wesentliche Verschiebungen in der US-amerikanischen Judikative identifizieren: (1) wie statistische Populationen, Modelle und Verfahren die Wissensproduktion und Problemwahrnehmung beeinflussen; (2) wie Risk Assessment Softwares als proprietäres Produkt die inter-institutionellen Grenzen zwischen Recht und Ökonomie, Strafrecht und Strafvollzug verwischen; (3) wie der Einsatz der Software intrainstitutionell auf die gerichtliche und außergerichtliche Expertise und performative Herstellung des bürgerlichen (Recht‑)Subjekts einwirkt. Diese Verschiebungen erscheinen perspektivisch aus einer Techniksoziologie des Rechts, die die Produktion von Wissen, Technologie, Rechtspraxen und -institutionen gleichermaßen und symmetrisch in den Blick nimmt. Nur unter diesen Voraussetzungen lassen sich rechtsintrinsische Technologien in ihren Bedingungen und Konsequenzen angemessen erfassen.
Footnotes
1
Die Firma wurde unter dem Namen Equivant neu gegründet. Da sich allerdings der hier diktierte Diskurs auf die Zeit bezieht, als Northpointe noch diesen Namen trug, wird dieser in diesem Beitrag genutzt.
 
2
Das Programm, welches Jasanoff hierbei verfolgt, kann theoretisch als auch programmatisch im Bereich des Kommunitarismus (vgl. Taylor 2004) verortet werden. Somit, und durch die starke Betonung der Strukturgenese durch die Realisierung objektivierter Werte und Normen, kann man diese Richtung der STS durchaus als eine Weiterführung des Parsons’schen Programms verstehen.
 
Literature
go back to reference Alarid, Leanne F., und Carlos D. Montemayor. 2010. Attorney perspectives and decisions on the presentence investigation report. A research note. Criminal Justice Policy Review 21(1):119–133. CrossRef Alarid, Leanne F., und Carlos D. Montemayor. 2010. Attorney perspectives and decisions on the presentence investigation report. A research note. Criminal Justice Policy Review 21(1):119–133. CrossRef
go back to reference Amoore, Louise. 2008. Risk before justice. When the law contests its own suspension. Leiden Journal of International Law 21(4):847–861. CrossRef Amoore, Louise. 2008. Risk before justice. When the law contests its own suspension. Leiden Journal of International Law 21(4):847–861. CrossRef
go back to reference Beer, David. 2017. The social power of algorithms. Information, Communication & Society 20(1):1–13. CrossRef Beer, David. 2017. The social power of algorithms. Information, Communication & Society 20(1):1–13. CrossRef
go back to reference Blumer, Herbert. 1954. What is wrong with social theory? American Sociological Review 19(1):3–10. CrossRef Blumer, Herbert. 1954. What is wrong with social theory? American Sociological Review 19(1):3–10. CrossRef
go back to reference Bonta, James, und Don A. Andrews. 2007. Risk-need-responsivity model for offender assessment and rehabilitation. Rehabilitation 6(1):1–22. Bonta, James, und Don A. Andrews. 2007. Risk-need-responsivity model for offender assessment and rehabilitation. Rehabilitation 6(1):1–22.
go back to reference Bonta, James, und Stephen J. Wormith. 2007. Risk and need assessment. In Developments in social work with offenders, Hrsg. G. McIvor, P. Raynor, 131–152. London, Philadelphia: Jessica Kingsley. Bonta, James, und Stephen J. Wormith. 2007. Risk and need assessment. In Developments in social work with offenders, Hrsg. G. McIvor, P. Raynor, 131–152. London, Philadelphia: Jessica Kingsley.
go back to reference Brickell, Julia L., und Peter J. Pizzi. 2015. Towards a synthesis of judicial perspectives on technology-assisted review. Defense Counsel Journal 82(3):309–320. CrossRef Brickell, Julia L., und Peter J. Pizzi. 2015. Towards a synthesis of judicial perspectives on technology-assisted review. Defense Counsel Journal 82(3):309–320. CrossRef
go back to reference Cole, Simon. 2001. Suspect identities. A history of fingerprinting and criminal identification. Cambridge, London: Harvard University Press. Cole, Simon. 2001. Suspect identities. A history of fingerprinting and criminal identification. Cambridge, London: Harvard University Press.
go back to reference Deleuze, Gilles, und Felix Guattari. 1992. Tausend Plateaus. Kapitalismus und Schizophrenie. Berlin: Merve. Deleuze, Gilles, und Felix Guattari. 1992. Tausend Plateaus. Kapitalismus und Schizophrenie. Berlin: Merve.
go back to reference Durkheim, Émile. 1986. Über die Teilung der sozialen Arbeit. Frankfurt am Main: Suhrkamp. Durkheim, Émile. 1986. Über die Teilung der sozialen Arbeit. Frankfurt am Main: Suhrkamp.
go back to reference Ehrlich, Eugen. 1936. Fundamental Principles of the Sociology of Law. Cambridge, MA: Harvard University Press. Ehrlich, Eugen. 1936. Fundamental Principles of the Sociology of Law. Cambridge, MA: Harvard University Press.
go back to reference Eidenmüller, Horst. 1998. Effizienz als Rechtsprinzip. Tübingen: Mohr Siebeck. Eidenmüller, Horst. 1998. Effizienz als Rechtsprinzip. Tübingen: Mohr Siebeck.
go back to reference Ewald, Francois. 1990. Norms, Discipline, and the Law. Representations 30:138–161. CrossRef Ewald, Francois. 1990. Norms, Discipline, and the Law. Representations 30:138–161. CrossRef
go back to reference Flores, Antony W., Kristin Bechtel, und Christopher T. Lowenkamp. 2016. False positives, false negatives, and false analyses. A rejoinder to machine bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. Federal Probation 80(2):38–46. Flores, Antony W., Kristin Bechtel, und Christopher T. Lowenkamp. 2016. False positives, false negatives, and false analyses. A rejoinder to machine bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. Federal Probation 80(2):38–46.
go back to reference Foucault, Michel. 1981. Archäologie des Wissens. Frankfurt am Main: Suhrkamp. Foucault, Michel. 1981. Archäologie des Wissens. Frankfurt am Main: Suhrkamp.
go back to reference Foucault, Michel. 2015. Sicherheit, Territorium, Bevölkerung. Geschichte der Gouvernementalität I. Vorlesungen am Collège de France 1977/1978. Frankfurt am Main: Suhrkamp. Foucault, Michel. 2015. Sicherheit, Territorium, Bevölkerung. Geschichte der Gouvernementalität I. Vorlesungen am Collège de France 1977/1978. Frankfurt am Main: Suhrkamp.
go back to reference Garfinkel, Harold. 1984. Studies in Ethnomethodology. Englewood Cliffs, New Jersey: Prentice-Hall. Garfinkel, Harold. 1984. Studies in Ethnomethodology. Englewood Cliffs, New Jersey: Prentice-Hall.
go back to reference Gieryn, Thomas F. 1999. Cultural boundaries of science. Credibility on the line. Chicago, London: University of Chicago Press. Gieryn, Thomas F. 1999. Cultural boundaries of science. Credibility on the line. Chicago, London: University of Chicago Press.
go back to reference Habermas, Jürgen. 1992. Faktizität und Geltung. Frankfurt am Main: Suhrkamp. Habermas, Jürgen. 1992. Faktizität und Geltung. Frankfurt am Main: Suhrkamp.
go back to reference Harcourt, Bernard E. 2015. Risk as a proxy for race. The dangers of risk assessment. Federal Sentencing Reporter 27(4):237–243. CrossRef Harcourt, Bernard E. 2015. Risk as a proxy for race. The dangers of risk assessment. Federal Sentencing Reporter 27(4):237–243. CrossRef
go back to reference Henderson, Howard, und Holly A. Miller. 2013. The (twice) failure of the wisconsin risk need assessment in a sample of probationers. Criminal Justice Policy Review 24(2):199–221. CrossRef Henderson, Howard, und Holly A. Miller. 2013. The (twice) failure of the wisconsin risk need assessment in a sample of probationers. Criminal Justice Policy Review 24(2):199–221. CrossRef
go back to reference Hilgartner, Steven. 2000. Science on stage: expert advice as public drama. Stanford, California: Stanford University Press. Hilgartner, Steven. 2000. Science on stage: expert advice as public drama. Stanford, California: Stanford University Press.
go back to reference Hoc, Jean-Michel. 2010. From human-machine-interaction to human-machine-cooperation. Ergonomics 43(7):833–843. CrossRef Hoc, Jean-Michel. 2010. From human-machine-interaction to human-machine-cooperation. Ergonomics 43(7):833–843. CrossRef
go back to reference Irwin, Alan, und Mike Michael. 2003. Ethno-epistemic assemblages. heterogeneity and relationality in scientific citizenship. In Science, social theory and public knowledge, Hrsg. Alan Irwin, Mike Michael, 111–136. Berkshire, Philadelphia: Open University Press. Irwin, Alan, und Mike Michael. 2003. Ethno-epistemic assemblages. heterogeneity and relationality in scientific citizenship. In Science, social theory and public knowledge, Hrsg. Alan Irwin, Mike Michael, 111–136. Berkshire, Philadelphia: Open University Press.
go back to reference Jasanoff, Sheila. 1997. Science at the bar: law, science, and technology in america. Cambridge, MA: Harvard University Press. Reprint edition. Jasanoff, Sheila. 1997. Science at the bar: law, science, and technology in america. Cambridge, MA: Harvard University Press. Reprint edition.
go back to reference Jasanoff, Sheila. 2001. Ordering life: law and the normalization of biotechnology. Politeia 17(2):34–50. Jasanoff, Sheila. 2001. Ordering life: law and the normalization of biotechnology. Politeia 17(2):34–50.
go back to reference Jasanoff, Sheila. 2004. States of knowledge. The co-production of science and the social order. London: Routledge. CrossRef Jasanoff, Sheila. 2004. States of knowledge. The co-production of science and the social order. London: Routledge. CrossRef
go back to reference Jasanoff, Sheila. 2005. Law’s knowledge: science for justice in legal settings. American Journal of Public Health 95(S 1):49–58. CrossRef Jasanoff, Sheila. 2005. Law’s knowledge: science for justice in legal settings. American Journal of Public Health 95(S 1):49–58. CrossRef
go back to reference Jasanoff, Sheila. 2008. Making order. Law and science in action. In The handbook of science and technology studies, 3. Aufl., Hrsg. Edward J. Hackett, Olga Amsterdamska, Michael Lynch, und Judy Wajcman, 761–786. Cambridge, London: MIT Press. Jasanoff, Sheila. 2008. Making order. Law and science in action. In The handbook of science and technology studies, 3. Aufl., Hrsg. Edward J. Hackett, Olga Amsterdamska, Michael Lynch, und Judy Wajcman, 761–786. Cambridge, London: MIT Press.
go back to reference Kelsen, Hans. 1960. Reine Rechtslehre. Mit einem Anhang. Das Problem der Gerechtigkeit, 2. Aufl., Wien: Franz Deuticke. Kelsen, Hans. 1960. Reine Rechtslehre. Mit einem Anhang. Das Problem der Gerechtigkeit, 2. Aufl., Wien: Franz Deuticke.
go back to reference Kleinberg, Jon, Sendhil Mullainathan, und Manish Raghavan. 2016. Inherent Trade-Offs in the Fair Determination of Risk Scores. ArXiv: 1609.05807. Kleinberg, Jon, Sendhil Mullainathan, und Manish Raghavan. 2016. Inherent Trade-Offs in the Fair Determination of Risk Scores. ArXiv: 1609.05807.
go back to reference Latour, Bruno. 1990. Technology is society made durable. The Sociological Review 38(S 1):103–131. CrossRef Latour, Bruno. 1990. Technology is society made durable. The Sociological Review 38(S 1):103–131. CrossRef
go back to reference Latour, Bruno. 2002. La Fabrique du droit. Une ethnographie du Conseil d’État. Paris: La Découverte. Latour, Bruno. 2002. La Fabrique du droit. Une ethnographie du Conseil d’État. Paris: La Découverte.
go back to reference Latour, Bruno. 2005. Reassembling the Social. An Introduction to Actor-Network-Theory. Oxford: Oxford University Press. Latour, Bruno. 2005. Reassembling the Social. An Introduction to Actor-Network-Theory. Oxford: Oxford University Press.
go back to reference Latour, Bruno. 2014. Existenzweisen: Eine Anthropologie der Modernen. Berlin: Suhrkamp. Latour, Bruno. 2014. Existenzweisen: Eine Anthropologie der Modernen. Berlin: Suhrkamp.
go back to reference Lessig, Lawrence. 1999. Code: and other laws of cyberspace. New York: Basic Books. Lessig, Lawrence. 1999. Code: and other laws of cyberspace. New York: Basic Books.
go back to reference Lessig, Lawrence. 2006. Code: Version 2.0. New York: Basic Books. Lessig, Lawrence. 2006. Code: Version 2.0. New York: Basic Books.
go back to reference Llewellyn, Karl. 1931. Some realism about realism. Responding to dean pound. Harvard Law Review 44:1222–1256. CrossRef Llewellyn, Karl. 1931. Some realism about realism. Responding to dean pound. Harvard Law Review 44:1222–1256. CrossRef
go back to reference Luhmann, Niklas. 1983. Legitimation durch Verfahren, 10. Aufl., Frankfurt am Main: Suhrkamp. Luhmann, Niklas. 1983. Legitimation durch Verfahren, 10. Aufl., Frankfurt am Main: Suhrkamp.
go back to reference Luhmann, Niklas. 1987. Soziale Systeme: Grundriß einer allgemeinen Theorie. Frankfurt am Main: Suhrkamp. Luhmann, Niklas. 1987. Soziale Systeme: Grundriß einer allgemeinen Theorie. Frankfurt am Main: Suhrkamp.
go back to reference Luhmann, Niklas. 1995. Das Recht der Gesellschaft. Frankfurt am Main: Suhrkamp. Luhmann, Niklas. 1995. Das Recht der Gesellschaft. Frankfurt am Main: Suhrkamp.
go back to reference Lynch, Michael. 2013. Science, truth, and forensic cultures: the exceptional legal status of DNA evidence. Studies in History and Philosophy of Biological and Biomedical Sciences 44(1):60–70. CrossRef Lynch, Michael. 2013. Science, truth, and forensic cultures: the exceptional legal status of DNA evidence. Studies in History and Philosophy of Biological and Biomedical Sciences 44(1):60–70. CrossRef
go back to reference Marcus, George E. 1995. Technoscientific Imaginaries. Conversations, profiles, and memoirs. Chicago: University of Chicago Press. Marcus, George E. 1995. Technoscientific Imaginaries. Conversations, profiles, and memoirs. Chicago: University of Chicago Press.
go back to reference Mnookin, Jennifer L. 2001. Fingerprinting evidence in an age of DNA profiling. Brooklyn Law Review 67(1):13–70. Mnookin, Jennifer L. 2001. Fingerprinting evidence in an age of DNA profiling. Brooklyn Law Review 67(1):13–70.
go back to reference Musik, Christoph. 2011. The thinking eye is only half the story. High-level semantic video surveillance. Information Polity 16(4):339–353. CrossRef Musik, Christoph. 2011. The thinking eye is only half the story. High-level semantic video surveillance. Information Polity 16(4):339–353. CrossRef
go back to reference Nissan, Ephraim. 2017. Digital technologies and artificial intelligence’s present and foreseeable impact on lawyering, judging, policing and law enforcement. AI & Society 32(3):441–464. CrossRef Nissan, Ephraim. 2017. Digital technologies and artificial intelligence’s present and foreseeable impact on lawyering, judging, policing and law enforcement. AI & Society 32(3):441–464. CrossRef
go back to reference Pasquale, Frank. 2015. The black box society: the secret algorithms that control money and information. Cambridge, MA: Harvard University Press. CrossRef Pasquale, Frank. 2015. The black box society: the secret algorithms that control money and information. Cambridge, MA: Harvard University Press. CrossRef
go back to reference Perry, Walter L., Brian McInnis, Carter C. Price, Susan C. Smith, und John S. Hollywood. 2013. Predictive policing. The role of crime forecasting in law enforcement operations. Santa Monica: RAND Corporation. CrossRef Perry, Walter L., Brian McInnis, Carter C. Price, Susan C. Smith, und John S. Hollywood. 2013. Predictive policing. The role of crime forecasting in law enforcement operations. Santa Monica: RAND Corporation. CrossRef
go back to reference Ruhl, J.B., und Daniel M. Katz. 2015. Measuring, monitoring, and managing legal complexity. Iowa Law Review 101:191. Ruhl, J.B., und Daniel M. Katz. 2015. Measuring, monitoring, and managing legal complexity. Iowa Law Review 101:191.
go back to reference Schild, Uri J., und John Zeleznikow. 2008. Comparing sentencing decision support systems for judges and lawyers. Journal of Decision Systems 17(4):523–552. CrossRef Schild, Uri J., und John Zeleznikow. 2008. Comparing sentencing decision support systems for judges and lawyers. Journal of Decision Systems 17(4):523–552. CrossRef
go back to reference Shapiro, Aaron. 2017. Reform predictive policing. Nature News 541(7638):458. CrossRef Shapiro, Aaron. 2017. Reform predictive policing. Nature News 541(7638):458. CrossRef
go back to reference Steffensmeier, Darrell, Jeffrey Ulmer, und John Kramer. 1998. The interaction of race, gender, and age in criminal sentencing: The punishment cost of being young, Black, and male. Criminology 36(4):763–797. CrossRef Steffensmeier, Darrell, Jeffrey Ulmer, und John Kramer. 1998. The interaction of race, gender, and age in criminal sentencing: The punishment cost of being young, Black, and male. Criminology 36(4):763–797. CrossRef
go back to reference Taylor, Charles. 2004. Modern social imaginaries. Duke University Press: Durham, London. CrossRef Taylor, Charles. 2004. Modern social imaginaries. Duke University Press: Durham, London. CrossRef
go back to reference Vismann, Cornelia. 2011. Medien der Rechtsprechung. Frankfurt am Main: Fischer. Vismann, Cornelia. 2011. Medien der Rechtsprechung. Frankfurt am Main: Fischer.
go back to reference Wulf, Christoph. 2003. Ritual und Recht. Performatives Handeln und mimetisches Wissen. In Körper und Recht. Anthropologische Dimensionen der Rechtsphilosophie, Hrsg. Ludger Schwarte, Christoph Wulf, 29–45. München: Wilhelm Fink. Wulf, Christoph. 2003. Ritual und Recht. Performatives Handeln und mimetisches Wissen. In Körper und Recht. Anthropologische Dimensionen der Rechtsphilosophie, Hrsg. Ludger Schwarte, Christoph Wulf, 29–45. München: Wilhelm Fink.
go back to reference Yates, Christopher P., und Louise E. Herrick. 2001. Going on record: the perils of discussing criminal history during the presentence interview. Federal Sentencing Reporter 13:330–332. CrossRef Yates, Christopher P., und Louise E. Herrick. 2001. Going on record: the perils of discussing criminal history during the presentence interview. Federal Sentencing Reporter 13:330–332. CrossRef
Metadata
Title
Algorithmic Risk Assessment als Medium des Rechts
Medientechnische Entwicklung und institutionelle Verschiebungen aus Sicht einer Techniksoziologie des Rechts
Authors
Peter Müller
Nikolaus Pöchhacker
Publication date
01-06-2019
Publisher
Springer Fachmedien Wiesbaden
Published in
Österreichische Zeitschrift für Soziologie / Issue Special Issue 1/2019
Print ISSN: 1011-0070
Electronic ISSN: 1862-2585
DOI
https://doi.org/10.1007/s11614-019-00352-5

Other articles of this Special Issue 1/2019

Österreichische Zeitschrift für Soziologie 1/2019 Go to the issue

Premium Partner