Veranstaltungen

Vertrauen und Misstrauen in „autonome Systeme“

https://www.eih.uni-luebeck.de/

Innerhalb kürzester Zeit haben generative Sprachmodelle wie das allgegenwärtige "ChatGPT" ihren Siegeszug angetreten und sind mittlerweile aus dem Alltagsleben vieler Menschen kaum noch wegzudenken. Demgegenüber werden andere, aber ähnlich strukturierte Systeme maschinellen Lernens in der Allgemeinheit deutlich argwöhnischer betrachtet. So zeigt sich in Befragungen im deutschsprachigen Raum eine weitverbreitete Skepsis gegenüber vollautomatisierten Fahrsystemen im Pkw. Auch automatisierte Waffentechnik, wie unbemannte Flugsysteme, die Ziele eigenständig identifizieren und potenziell angreifen können, erfahren in medialen Debatten zumeist breite Ablehnung. Woher kommt diese unterschiedliche Beurteilung vermeintlich autonom handelnder Systeme? Welche Faktoren beeinflussen die Wahrnehmung und Nutzung KI-basierter Anwendungen und Geräte? Wann erregt die Autonomie der "Blackbox" Misstrauen? Und umgekehrt: wodurch entsteht Vertrauen in Systeme, deren Funktionsweise von den meisten Nutzenden nicht zu durchdringen ist?

Um diese Fragen zu beantworten, möchte ich zunächst einen Überblick über den Forschungsstand dazu geben, wann und wie Vertrauen in automatisierte und autonome Systeme entsteht (z.B. durch niedrigschwellige, spielerisch gestaltete Schnittstellen) und welche Aspekte umgekehrt Misstrauen erwecken (z.B. wenig Vorerfahrung mit autonomen Systemen im jeweiligen Handlungsbereich). In einem zweiten Schritt möchte ich diese Ergebnisse mit aktuellen Befragungsdaten zur Wahrnehmung und Nutzung KI-basierter autonomer Systeme in der breiten Bevölkerung gegenüberstellen und herausarbeiten, inwiefern sich die Selbsteinschätzung der Allgemeinheit mit den Ergebnissen der Forschung decken. Daraus sollen schließlich erste Schlussfolgerungen zu Vertrauen und Misstrauen gegenüber autonomen Systemen abgeleitet und offene Aspekte und Forschungsfragen herausgearbeitet und diskutiert werden.

• Secure your spot by registering at the following link:
  https://www.eih.uni-luebeck.de/veilseries
  Participation is free