Eine Bewertung der Projektplanung vor dem Hintergrund der Stellungnahme des Deutschen Ethikrates
In der Stellungnahme des Deutschen Ethikrates „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“[1] von März 2023 werden Chancen und Gefahren durch den Einsatz von KI für die Gesellschaft beschrieben.
Die Richtlinie für die Stellungnahme ist darin folgendermaßen umschrieben: „Grundfrage und Maßstab der hier vorgelegten ethischen Bewertung technologischer Entwicklungen und ihres Einsatzes in verschiedenen Kontexten ist, ob durch die Delegation von Tätigkeiten an Maschinen – bis hin zu einer möglichen Ersetzung – die Bedingungen für verantwortliches Handeln und menschliche Autorschaft erweitert oder vermindert werden.“
Ein Problem wird in der Stellungnahme mit dem Begriff „Automation Bias“ beschrieben. Der Rat beschreibt dieses wie folgt: „Menschen vertrauen algorithmisch erzeugten Ergebnissen und automatisierten Entscheidungsprozeduren häufig mehr als menschlichen Entscheidern. Damit wird Verantwortung – zumindest unbewusst – an diese „Quasi-Akteure“ delegiert.“
Im Projekt TOP.KI (Textoptimierung mittels Künstlicher Intelligenz) geht es um ein Übersetzungswerkzeug für Prüfungsaufgaben in Einfache Sprache. Diese Anwendung gehört sicher nicht zu den sogenannten kritischen Einsatzgebieten von KI. Dennoch werden auch im Zusammenhang mit Übersetzungen mit empfehlendem Charakter Fragen aufgeworfen.
- Deskilling:
Findet ein Deskilling der einbezogenen Fachleute statt, weil sie in einem schleichenden Prozess ihre Fähigkeiten/Kompetenzen in Bezug auf die Textoptimierung immer weniger anwenden?[2] - Autorenschaft:
Wird die menschliche Autorenschaft und Verantwortung ausgehöhlt, weil die KI die Übersetzung liefert? - Transparenz:
Sind die Übersetzungsentscheidungen des Systems für die Aufgabenersteller*innen nachvollziehbar und transparent?
Welche Antworten wollen wir auf diese Fragen im Projekt entwickeln:
Zu a) Deskilling:
Zunächst muss deutlich gemacht werden, dass Aufgabenersteller*innen keine Expert*innen in Sachen Textoptimierung sind. Sie haben sich Kompetenzen auf diesem Gebiet durch Weiterbildung erarbeitet, sind aber derzeit für eine qualitativ hochwertige Übersetzung auf Sprachwissenschaftler*innen angewiesen. Dies ist einer der wesentlichen Gründe für die Zielsetzung des Projekts TOP.KI. Und umgekehrt gilt natürlich dieselbe Abhängigkeit. Ohne die Fachkompetenz der Aufgabenersteller*innen kann keine Textoptimierung gelingen, weil sie die Qualitätssicherung der Übersetzung gewährleisten.
Bisheriger Prozess der Textoptimierung:
Wir gehen als Projektteam derzeit davon aus, dass die Kompetenzen der Aufgabenersteller*innen auf dem Gebiet der Textoptimierung durch den KI-Einsatz nicht geschwächt sondern gestärkt werden, weil sie in dem neuen Prozess nicht weniger sondern mehr Verantwortung für die Übersetzung bekommen. Sie müssen letztlich in der Lage sein, das Ergebnis der Übersetzung zu bewerten. Daher wird es nötig sein, die Kolleginnen und Kollegen für die Textoptimierung mit KI-Unterstützung weiter zu qualifizieren. Daher wird es gegen Projektende auch darum gehen, eine entsprechende Unterstützungsinfrastruktur nachhaltig aufzubauen.
Zu b) Autorenschaft:
In den Qualifizierungen wird es auch darum gehen, bei den Aufgabenersteller*innen eine kritische Distanz zu den automatisch generierten Übersetzungsergebnissen aufzubauen. Dies ist schon deshalb notwendig, weil die Prüfungsexpert*innen in jedem Fall gewährleisten müssen, dass sich der Inhalt der Prüfungsaufgabe durch die Übersetzung nicht ändert sondern nur die Sprachbarrieren abgebaut werden. Hierdurch wird nochmals deutlich, dass wir im Prüfungsumfeld keine Leichte Sprache sondern Einfache Sprache einsetzen müssen. Es geht darum, sich im Rahmen der Schulungen ein realistisches Bild von der Leistungsfähigkeit der KI zu erarbeiten, Schwachstellen zu kennen und so den optimalen individuell geprägten Arbeitsstil im Umgang mit dem System zu entwickeln. Hierzu sollten regelmäßig Supervisionstermine stattfinden, um sich im Kreis der Kolleg*innen abzustimmen und auch um Weiterentwicklungsbedarfe herauszuarbeiten.
Zu c) Transparenz:
Um eine hochwertige Textoptimierung zu gewährleisten, ist es unabdingbar, dass die Aufgabenersteller*innen die Regeln der Anpassungen in Einfache Sprache kennen und auch selbst anwenden können. Die KI-Unterstützung wird im Projekt modular entwickelt. Nach dem Trennen von berufsspezifischer, nicht zu übersetzender Fachsprache und zu übersetzender Standardsprache im Modul 1, wird im Modul 2 ein Sprachbarrieren-Sensor entwickelt.
Module des Projekts TOP.KI
Durch die Markierung von Sprachbarrieren mittels KI entsteht quasi ein Dialog zwischen System und Mensch. Die Autor*in kann durch eine Erklärungskomponente jederzeit erkennen, warum die KI diese Textpassage oder dieses Wort als Barriere identifiziert hat. Hierdurch bekommen die aufgabenerstellenden Kolleg*innen nicht nur eine fertige Übersetzung (im Modul 3 und 4) sondern auch eine transparente Begründung für die Anpassung und können sich so mit den maschinell erzeugten Ergebnissen inhaltlich auseinandersetzen.
Die Stellungnahme des Ethikrates ist ein wertvoller Ratgeber für das Design von KI-Projekten. Er benennt nicht nur die Risiken sondern gibt wichtige Impulse für den sinnvollen und gesellschaftlich wertvollen Einsatz dieser Technologie. Im Projekt bestärkt uns insbesondere folgende Stelle: „Besondere Chancen ergeben sich im Bereich der Inklusion und Teilhabe, wo das Potenzial dieser Systeme genutzt werden sollte, um etwa sprachliche oder räumliche Barrieren abzubauen.“
Thomas Hagenhofer, Zentral-Fachausschuss Berufsbildung Druck und Medien, April 2023
[1] Siehe https://www.ethikrat.org/fileadmin/Publikationen/Stellungnahmen/deutsch/stellungnahme-mensch-und-maschine.pdf
[2] „Selbst wenn ein KI-System normativ strikt auf die Rolle der Entscheidungsunterstützung begrenzt wird, kann Automation Bias dazu führen, dass ein KI-System allmählich in die Rolle des eigentlichen „Entscheiders“ gerät und menschliche Autorschaft und Verantwortung ausgehöhlt werden.“ Stellungnahme, S. 22