Much discussion of the ethics of algorithms has focused on harms to autonomy—especially harms stemming from manipulation. Nonetheless, although manipulation can often be harmful, we suggest that in certain contexts it may not impair autonomy. To fully assess the impact of algorithm design on autonomy, we argue for a need to move beyond a focus on manipulation towards a multidimensional account of autonomy itself. Drawing on the autonomy literature and recent data ethics, we propose a novel account which takes autonomy (...) to supervene on three distinct but related elements: agency, authenticity and individual control over decision-making. By distinguishing autonomy from control, the account can explain the variable effects of manipulation on user autonomy within algorithm-driven systems. In particular, it can explain why improving user control may improve autonomy in some contexts, while in other contexts—such as in some kinds of newsfeeds—certain algorithm designs that instead _reduce_ user control may nevertheless improve autonomy. As a result, the account can accommodate the sometimes convoluted interplay between control, autonomy, manipulation, and commercial versus prosocial design goals. (shrink)

Der libertäre Paternalismus genießt in Politik, Wissenschaft und Öffentlichkeit eine große Popularität, die er insbesondere zwei Merkmalen verdankt: Erstens stützt sich der LP auf verhaltensökonomische Ergebnisse, die zeigen, dass individuelle Entscheidungen oft nicht der neoklassischen Rationalitätskonzeption entsprechen, sodass Individuen durch sogenanntes Nudging zu besseren, ihren wahren Präferenzen entsprechenden Entscheidungen verholfen werden könne. Zweites ist damit der Anspruch verbunden, das Wohlergehen der Individuen, wie sie selbst es verstehen, zu erhöhen. Dieser Beitrag zeigt anhand einer dogmengeschichtlichen Analyse der zentralen, dem LP zugrunde (...) liegenden Begriffe Präferenz, Nutzen, Rationalität und Wohlergehen, dass der LP diesen Anspruch nicht einlösen kann. Eine detaillierte begriffliche Analyse ist deshalb geboten, weil diese Konzepte in der Ökonomik immer wieder für Missverständnisse sorgen. Eine theoriegeschichtlich informierte Untersuchung wiederum ist notwendig, da diese Konfusion insbesondere auf der Tatsache beruht, dass der Gehalt dieser Begriffe sich im Laufe der Zeit gravierend verändert hat und sich die verschiedenen Bedeutungen heute z. T. wechselseitig überlagern. (shrink)