Veranstaltungsprogramm

Die Entwicklung auf dem Gebiet der Künstlichen Intelligenz (KI) schreitet in atemberaubendem Tempo voran. Insbesondere auf die Arbeitswelt hat sie vielfältige Auswirkungen. Befürworter:innen versprechen sich von automatisierten Prozessen eine Steigerung der Effizienz und Lebensqualität in digitalisierten Industriegesellschaften. Kritiker:innen sehen in der wachsenden Bedeutung und Kompetenz von Maschinen sowie in den ausbeuterischen, extraktiven Praktiken der KI-Industrie eine Bedrohung für die Menschheit.

KI verändert die Arbeitswelt nicht nur, sie schafft auch neue Abhängigkeiten und hat Einfluss auf Bestehende. Das Spektrum der Felder, in denen sich Transformationen von Abhängigkeiten in der Arbeitswelt beobachten lassen, ist breit und von Ambivalenzen gekennzeichnet: Zu nennen sind sich wandelnde Abhängigkeiten in Produktion und Entwicklung, wo Unternehmen im Sinne des Wettbewerbs zur (Teil-)Automatisierung von Abläufen gezwungen sind, während die Existenz der Beschäftigten vom Erhalt ihrer Arbeitsplätze – und damit von einer Begrenzung der Automatisierung – abhängt. Im Kontext KI-gestützter Bewerbungsverfahren verschärft sich die Problematik menschlicher Abhängigkeit, wenn die Erfolgsaussichten von Arbeitssuchenden von der teils intransparenten und diskriminierenden Auswahllogik intelligenter Systeme bzw. von der Qualität ihrer Trainingsdaten abhängen. Auch in der Kreativwirtschaft und im professionellen Journalismus zeichnet sich ein Wandel von Abhängigkeiten ab: So hängen die Konkurrenzfähigkeit von Animator:innen, Designer:innen und Texter:innen zunehmend von deren Kenntnis der sich ständig weiterentwickelnden KI-Tools ab, während sie zugleich darum ringen müssen, sich durch ChatGPT, Dall-E und Co nicht überflüssig zu machen.

Ziel des Panels ist es, die sich wandelnden Abhängigkeiten in einer zunehmend von KI dominierten Arbeitswelt in ihrer Komplexität und Ambivalenz sowie aus interdisziplinären, anwendungsbezogenen Perspektiven zu beleuchten.

Der Einzug KI-basierter Technologien in unseren Alltag stellt historisch gewachsene und hoch komplexe Beziehungen zwischen Wissenschaft, Technologie und Gesellschaft auf den Prüfstand. Die vielfältigen und neuartigen Szenarien der Interaktion von Mensch und Maschine (etwa im Bereich der Social Bots wie z. B. Service- und Pflegeroboter) verlangen daher nach einer Neudefinition und -aushandlung von emotionalen und sozialen Beziehungsgeflechten und Abhängigkeitsverhältnissen in der Mensch-Maschine-Interaktion: Wer hängt von wem ab? Wie wirken sich KI-Technologien auf unsere Emotionen, unsere Kognition und unsere Wahrnehmung aus? Und welche Auswirkungen hat dies auf unsere zwischenmenschlichen und -technischen Beziehungen? Um die technologische Zukunft im Sinne des Menschen gestalten zu können, ist es von Nöten, unsere Beziehung zu intelligenten Systemen rechtzeitig zu klären. Der Vortrag betrachtet und diskutiert unsere Abhängigkeiten von KI-Systemen aus der affektiven Perspektive anhand konkreter Beispiele und Ansätze (z. B. dem Informationskokon von Cass Sunstein).

Jun Zhang ist wissenschaftlicher Mitarbeiter am Institut für Medienwissenschaft der Universität Tübingen. Er ist seit November 2022 im KI-Projekt „The Answering Machine“ tätig und forscht dort zu Mensch-KI-Interaktion, insbesondere aus der Perspektive der künstlichen Stimmen.

Automatisierte Bewerbungsgespräche präsentieren sich als neue Mainstreamlösung im Personalwesen. Angesichts des Zeit- und Kostenaufwands klassischer Job-Interviews hat die Automatisierung dieses Prozesses disruptives Potenzial: Firmen wie HireVue versprechen, dass ihre KI-basierten Systeme effizienter und objektiver sind als menschliche Personaler:innen. Ethische Bedenken hinsichtlich der Technologie werden zunehmend diskutiert (Hunkenschroer & Luetge 2022). Wir argumentieren, dass diese Diskussionen ein zentrales Element ethischer KI-Entwicklung vernachlässigen: die Frage der (Trainings-)Datenqualität.

KI-basierte Anwendungen sind hochgradig abhängig von der Verfügbarkeit großer Mengen qualitativ hochwertiger Trainingsdaten. Datenqualität (DQ) ist daher eng mit ethischen Bedenken in Bezug auf KI-Technologie verknüpft. Werden Modelle mit ungeeigneten, verzerrten oder fehlerhaften Daten trainiert, kann dies zu unfairen, ungenauen Systemen und damit zu unerwünschten Effekten wie Diskriminierung führen (Barocas, Hardt & Narayanan 2019).

Anhand des Falls automatisierter Bewerbungsgespräche analysieren wir die Wechselbeziehung zwischen DQ und ethischen Dimensionen wie Fairness entlang des technologischen Lifecycles. Wir veranschaulichen, dass DQ in Diskussionen über ethische KI-Anwendungen eine zentrale Rolle einnehmen muss, damit die zunehmende Datenabhängigkeit des Personalwesens nicht zu gesellschaftlichen Schäden führt.

Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. https://fairmlbook.org/

Hunkenschroer, A. L., & Luetge, C. (2022). Ethics of AI-enabled recruiting and selection: A review and research agenda, Journal of Business Ethics 178.

Dr. Lou Brandner ist Soziologin und forscht als wissenschaftliche Mitarbeiterin am IZEW zu KI-Ethik, algorithmischer Überwachung und digitalem Kapitalismus.

Dr. Simon Hirsbrunner ist Sozial- und Medienwissenschaftler und leitet am IZEW Projekte zu KI-Ethik, Datenethik und algorithmischer Polizeiarbeit. Er ist einer der Mitbegründer:innen der AG Open Media Studies und war von 2018–2021 deren Co-Sprecher.

Aktuelle Entwicklungen von Machine-Learning-Algorithmen in der Animationsproduktion, die unter anderem auch zu „animation without animators“ (McKim 2022) führen, betreffen alle Bereiche der Pipeline: von Ideenentwicklung, Drehbuch und Storyboard über Character Design bis hin zur eigentlichen Animation und Postproduktion. Im Zuge dieser Entwicklung findet sich eine Vielzahl an werbenden Videos auf TikTok und Instagram, die der Community der Animator:innen verkünden, dass diese Geld (oder auch Zeit oder Produktivität) liegen lassen, wenn sie nicht sofort dieses und jenes neue KI-Tool verwenden. Demgegenüber stehen Aussagen von Animator:innen, die nicht nur befürchten, von automatisierten Programmen ersetzt zu werden, sondern auch ein Gefühl der Überforderung beschreiben, das sich aus der Fülle der ständig neu gehypten Tools ergibt. Der Vortrag untersucht diese Diskurse zu den empfundenen und tatsächlichen Abhängigkeiten der Animatori:nnen von KI-basierten Anwendungen.

McKim, J. (2022). Animation without animators: From motion capture to MetaHumans. Animationstudies 2.0. https://blog.animationstudies.org/?p=4426

Eckel, J. (2022). Intelligence in between: Documenting AI in animation. Animationstudies 2.0. https://blog.animationstudies.org/?p=4434

Dr. Erwin Feyersinger ist akademischer Rat a. Z. am Institut für Medienwissenschaft der Universität Tübingen. Er ist einer der Unit Heads des Center for Rhetorical Science Communication Research on Artificial Intelligence (RHET AI) und leitet das Forschungsprojekt AniVision. Seit 2010 ist er einer der Sprecher:innen der AG Animation.