Musizierende Maschinen mit poetischem Gemüt

Was lässt sich von E. T. A. Hoffmanns Kritik an Automaten über Künstliche Intelligenz lernen?

Abstract

Musizierende Maschinen mit poetischem Gemüt. Was lässt sich von E. T. A. Hoffmanns Kritik an Automaten über Künstliche Intelligenz lernen?
E. T. A. Hoffmann war ein ausgezeichneter Analytiker der Beziehungen des Menschen zu den Maschinen, insbesondere der Projektion von Subjekteigenschaften auf Maschinen, die zugleich auf das Selbstverständnis zurückwirkt, das der Mensch von sich selbst entwickelt. Anders als häufig angenommen kommt die romantische Ästhetik der Frage nach möglicherweise schöpferischen Leistungen technologischer Apparate entgegen, da zu ihren wichtigsten Merkmalen kombinatorische Verfahren und Zufallsproduktion gehören. Beide führt Hoffmann in seinen Kompositionen und Texten vor. Überdies sind mechanische Automaten zentraler Gegenstand einiger der Erzählungen Hoffmanns, vor allem in Der Sandmann und Die Automate. Diese Sachverhalte legen nahe, seine Überlegungen als Ausgangspunkt für eine Untersuchung des heutigen Verständnisses von Künstlicher Intelligenz (KI) zu nutzen, gerade auch, was ihre Rolle in künstlerischen oder kreativen Prozessen angeht.
Der Beitrag fragt, ob die Zuschreibung subjektähnlicher Eigenschaften an KI-Technologie angemessen ist, und weitergehend, inwieweit der einer solchen Auffassung zugrundeliegende Subjektbegriff konsistent und tragfähig ist. Komplementär dazu wird untersucht, welchen Veränderungen der Diskurs um die KI den Begriff des menschlichen Subjekts unterzieht, damit dessen Merkmale als auf Technologie übertragbar erscheinen. Diese Begriffsübertragungen erweisen sich für den Selbst- und Weltbezug des Menschen als problematisch. So nimmt es nicht Wunder, dass, um KI als Subjekt oder Akteur begreifen zu können, auch manipulative Verfahren und solche der Täuschung erforderlich sind.
Im künstlerischen und musikalischen Feld zeigen sich einige Aspekte der subjektähnlichen Auffassung von KI mit besonderer Schärfe. Dies betrifft zunächst den Außenweltbezug von Kunst. Kunst geht nicht auf in der Anwendung von Mustern nach bestimmten Verfahren; das Einbrechen von ihnen nicht immanenten Ereignissen und Dingen in sie ist von entscheidender Bedeutung für den künstlerischen Prozess. Solche integrativen Leistungen können KI-Systeme vermutlich nicht erbringen, denen ein spontaner Außenweltbezug fehlt. Eine weitere Schwierigkeit ergibt sich aus dem schwierigen Verhältnis der ästhetischen Gegenstände und ihrer materiellen Träger. Allein aus einer erzeugten Klangfolge oder aus einer erzeugten Farbverteilung auf Leinwand, Papier oder Bildschirm lässt sich nicht erschließen, um welches Kunstwerk es sich bei den jeweiligen Klangfolgen oder Farbverteilungen jeweils handelt. Weder sind Musik und Kunst in ihrer Herstellung ohne Intentionalität und Interpretation denkbar noch sind sie es als Gegenstand. Aus diesem Sachverhalt resultieren schwerwiegende Probleme für das Verständnis der Resultate von KI als Kunst und generell für ihre Interpretierbarkeit.

Music-making Machines with a Poetic Mind. What Can We Learn about Artificial Intelligence from E. T. A. Hoffmann’s Criticism of Automata?
E. T. A. Hoffmann was an astute analyst of the relationships between humans and machines – particularly of the projection of subject-like qualities onto machines, a process that in turn affects the self-understanding humans develop about themselves. Contrary to common assumptions, Romantic aesthetics is in fact quite compatible with the question of potentially creative achievements by technological apparatuses, since two of its defining features are combinatorial methods and the production of chance. Hoffmann demonstrates both in his compositions and writings. Moreover, mechanical automata play a central role in several of Hoffmann’s stories, especially The Sandman and The Automata. These aspects suggest that his reflections can serve as a starting point for investigating today’s concept of Artificial Intelligence (AI), especially in relation to its role in artistic or creative processes.
This paper asks whether the attribution of subject-like qualities to AI technology is appropriate, and more fundamentally, whether the notion of the subject underlying such an attribution is coherent and viable. Complementarily, it explores how the discourse surrounding AI alters the concept of the human subject to make its features appear transferable to technology. These conceptual shifts are shown to be problematic for human self-conception and world-relation. It is therefore not surprising that, in order for AI to be perceived as a subject or agent, manipulative and deceptive strategies are often necessary.
In the artistic and musical fields, certain aspects of the subject-like understanding of AI become particularly pronounced. First, this concerns art’s relation to the external world. Art is not merely the application of patterns or procedures; the intrusion of events and elements that are not immanent to those patterns is crucial to the artistic process. Such integrative capacities likely lie beyond the reach of AI systems, which lack spontaneous engagement with the external world. Another difficulty stems from the complex relationship between aesthetic objects and their material carriers. One cannot determine what artwork is represented merely by analysing a sequence of generated sounds or a pattern of colours on canvas, paper, or screen. Neither music nor visual art can be conceived – either in their creation or in their reception – without intentionality and interpretation. This poses major challenges for understanding AI-generated results as artworks and for their interpretability more broadly.