Welche Werte entstehen beim Gespräch mit KI? Und warum?

Wir haben ein Benchmarking Tool entwickelt, um den Wertbeitrag von KI-Dialogen zu messen

Basierend auf der Wertterminologie des Value-based Engineering und ISO/IEC/IEEE 24748-7000 untersuchen wir  an Institut für WI & Gesellschaft den Wert von KI auf Basis von Dialogen. KI-Dialoge sind Wertträger, die bei den Nutzern viele emotionale Wertreaktionen auslösen. Benutzern entsteht Nutzen, wenn Dialoge wahr sind, wenn sie klar sind und die KI aufmerksam ist sowie nützliche Informationen liefert. Aber die KI wird auch nach sozialen Aspekten beurteilt. So spielen Werte wie Kohärenz, Sensibilität und Höflichkeit eine Rolle; was auch in das weit diskutiere Thema ‚Bias‘ mit hineinspielt

Über 16.000 Dialogen wurden von einer der größten GPT-basierten KIs des öffentlichen Sektors analysiert. Der Mensch-Maschine Austausch wurde empirisch untersucht und ein „Werte-Monitor“ entwickelt (siehe Abbildung 1). Der Monitor ermöglicht es KI-Anbietern, genau zu sehen, wo ihre Technologie steht, z.B. in Bezug auf die Servicequalität und Sozialverträglichkeit. Sie können ihre KI-Lösung mit Hilfe des Monitors verbessern und Fortschrittspotenziale in der von ihnen angebotenen Technologie identifizieren und nachverfolgen.

Projektteilnehmer:innen

Lenart Motnikar

Alexander Kagan

Franziska Mayrhofer

Sarah Spiekermann

Aschauer IT