Conference Agenda

KI-Generatoren wie Lovable, v0 oder SAP Joule for Developers reifen schnell. Was die Generierung nicht mitlöst, ist die Nachweis- und Governance-Frage: Wie bleibt nachvollziehbar, was generiert, gegen welche Kriterien geprüft, von wem freigegeben und mit welcher Begründung eine Abweichung akzeptiert wurde? Diese Schicht ist eine eigene Architekturaufgabe und greift Anforderungen aus BFSG, EU AI Act Art. 14 und ISO/IEC 42001 auf.

Vorgestellt wird eine Methoden-Architektur mit zwei Aufgaben: Automatische Prüfungen gegen Barrierefreiheitsanforderungen, Designsystem-Regeln und Human-Oversight-Kriterien erzeugen Findings; ArtifactVersions, ReviewDecisions, Override-Begründungen und EvidenceExports unterstützen Auditierbarkeit. Demo: BFSG- und Designsystem-Findings werden gemeinsam in einer dokumentierten ReviewDecision entschieden.

Relevant für UX-Professionals in regulierten Kontexten mit Verantwortung für Designsysteme, Barrierefreiheit oder Governance KI-gestützter Workflows.

1983 hat angerufen: Was die Ironies of Automation uns heute sagen und warum menschzentrierte Gestaltung im Zeitalter agentischer KI wichtiger ist denn je

Lisanne Bainbridge formulierte 1983 fünf Thesen, die heute auf KI-Copiloten, Level-3-Fahrzeuge und agentische Systeme zutreffen: Designerfehler manifestieren sich im System; wer Menschen einfache Aufgaben abnimmt, lässt ihnen die schweren; Fähigkeiten verkümmern ohne Übung; Automatisierung erhöht Komplexität; Kompetenz verschiebt sich. Devitt (2018) ergänzt: Vertrauen zerfällt an Integrität; Wissen ist situiert und geht mit dem Loop verloren; Entscheidungen sind sozial, KI verdrängt Beratung.

Der Vortrag übersetzt diese 5+3 Konzepte auf KI-Workflows, autonome Systeme und Copiloten. Menschzentrierte Gestaltung wird wegen Automatisierung relevanter, braucht neue Methoden für Trust-Kalibrierung und situiertes Wissen. Brauchen wir Reibung im Interface? Ist Human-in-the-Loop Alibi oder Prinzip?