Avatare brauchen eine verantwortungsvolle Konzeption
Die Falle ist 55 Jahre alt. Wer Avatare entwickelt, sollte den Uncanny Valley Effekt kennen. Denn leider reagieren wir Menschen nicht immer positiv auf unserer digitalen Zwillinge.
Im Studio diskutieren wir gerade viele Avatar-Projekte – für Customer Care, für Schulungen, für Marketing-Videos. Die Begeisterung ist groß, die Kostenrisiken sind gering. Ein Selfie und ein Skript, und der digitale Twin spricht. Was vor zwei Jahren noch nicht realisierbar war, geht heute in einer Stunde live. Das verleitet dazu, Avatare wie eine technische Anschaffung zu behandeln. KI-Tool auswählen, Inhalte liefern, Output abnehmen.
In den meisten Fällen unbedenklich. Diese Ki-Avatare wirken nicht menschlich. Aber natürlich sind diese Avatare vom Typ "AI-Gaby" auch nicht besonders attraktiv.
Leider ist die Welt dann doch nicht so einfach. Avatare sind kein Tool-Thema. Sie sind ein Risiko-Management-Thema für die Marke. Die Frage ist nicht, ob ein Avatar gut aussieht, sondern was er auslöst, wenn das menschliche Gegenüber merkt, dass er nicht echt ist – und das passiert schnell und die ungewollte Wirkung kann verheerend sein. Die strukturelle Falle ist 55 Jahre bekannt. Masahiro Mori hat sie 1970 in einem Aufsatz für das japanische Magazin Energy beschrieben: das Uncanny Valley. Je näher eine künstliche Figur dem Menschen kommt, desto stärker wirken die verbleibenden Abweichungen – Latenz, Mikromimik, Sprachrhythmus. Was bei einer Comicfigur charmant ist, wird beim fast-realistischen Servicemitarbeiter unheimlich. Mathur und Reichling haben 2016 in Cognition gezeigt, dass dieses Tal nicht nur subjektive Sympathie kostet, sondern messbar Vertrauen: In einem Investitionsspiel waren Probanden weniger bereit, stark menschenähnlichen Robotergesichtern Geld anzuvertrauen. Daniel Kahnemans System 1 erklärt, warum. Unser Autopilot ist auf das Lesen von Menschen trainiert. Er entscheidet in Millisekunden, ob ein Gegenüber natürlich wirkt – und übergibt im Zweifel an System 2, das die Person dann argwöhnisch betrachtet. Genau hier passiert der Schaden. Manche Menschen fühlen sich betrogen. Anderen ist es plötzlich peinlich, ein Selbstgespräch mit einer Maschine zu führen. Wieder andere fürchten Übervorteilung durch ein System, das sie nicht durchschauen. Wir haben das selbst unterschätzt. In den ersten Tests waren wir stolz auf die Qualität unserer Avatare – bis wir die Reaktionen der Tester gesehen haben.
Nicht mehr künstlich! Wenn diese Person in Echtzeit kommuniziert, kommt es zur Irritation. Nicht wegen der Maske, sondern durch kleinste Unstimmigkeiten die derzeit durch die Latenz der Systeme nicht zu vermeiden ist.
Unproblematisch: Lena und Mia erklären die Welt der Stammzellen und Exosomen. Realistisch im Ausdruck präzise im Charakter aber immer klar als virtuelle Assistenten in den Schulungsvideos für den Kunden Celonique positioniert.
Dazu kommt das inhaltliche Problem. Wer ein menschliches Gegenüber sieht, erwartet menschliche Lösungskompetenz: Empathie, Kontextverständnis, Antwort auf Folgefragen. Zwei „warum"-Fragen reichen oft, um einen Avatar an die Grenze seiner Wissensbasis zu bringen – und wenn er dann floskelhaft wird, ist der Vertrauensschaden größer, als wenn er nie als Mensch aufgetreten wäre. Wir lösen das im Studio nicht theoretisch, sondern mit Tests, die das Risiko datenbasiert sichtbar machen. Die Frage, mit der ein Avatar-Projekt beginnen sollte, ist nicht „Welcher Typ?" oder „Welches Tool?". Sie lautet: Welches Vertrauen wollen wir aufbauen – und welches Risiko gehen wir ein, wenn das wenn wir uns im Uncanny Valley verirren?
Quellen - Mori, M. (1970). Bukimi no tani [The uncanny valley]. Energy, 7(4), 33–35. (Englische Übersetzung 2012 in IEEE Spectrum, Mori/MacDorman/Kageki)
Mathur, M. B., & Reichling, D. B. (2016). Navigating a social world with robot partners: A quantitative cartography of the Uncanny Valley. Cognition, 146, 22–32.
Kahneman, D. (2011). Thinking, Fast and Slow.