KI prüfen, Regeln aushandeln, Verantwortung klären

Klasse 8/9 – Hamburger RUfa – Einstieg in KI-Verantwortung

Fall zum Lesen und Bearbeiten
Eine Jugendgruppe in eurem Stadtteil möchte einen Infotext über ein geplantes Straßenfest veröffentlichen. Sie haben den Text mit einer KI generiert. Der Text klingt gut, ist flüssig geschrieben und wirkt professionell. Allerdings enthält er zwei sachliche Fehler (falsches Datum und falscher Veranstaltungsort) und eine problematische Formulierung, die eine bestimmte Gruppe negativ darstellt. Die Gruppe will den Text schnell online stellen, weil das Fest schon bald ist.

Auftrag (zu zweit, ca. 8 Minuten)
Erstellt eine Tabelle mit zwei Spalten und notiert:

Beispielzeile (zum Start):
| Was müsste geprüft werden? | Wer trägt Verantwortung? |
|-----------------------------------------------------|---------------------------------------------------------|
| Ob die Fakten (Datum, Ort) stimmen | Die Jugendgruppe selbst, nicht die KI |

Notiert mindestens drei Prüffragen.
Bringt eure Notizen ins Plenum mit.

Methode: Partnerarbeit (Prüffragen & Verantwortung klären)

Klasse 8/9 – Hamburger RUfa – Vergleichsauftrag

Arbeitet mit den folgenden Kernaussagen aus den beiden Interviews.

Cornelia Diethelm (Ethikexpertin):
KI liefert keine Wahrheit, sondern Ergebnisse aus Wahrscheinlichkeitsrechnungen. Sie versteht die Welt nicht. Deshalb ersetzt KI menschliches Prüfen nicht. Gefährlich ist vor allem das Bild, KI sei neutral. Menschen müssen kritisch prüfen und dürfen Ergebnisse nicht unreflektiert übernehmen.

Monika Ilves (Digitalexpertin):
KI-Nutzung in Vereinen und NGOs nimmt zu, aber fast keine Organisation hat Leitlinien. Das führt zu „Schatten-KI“. Deshalb braucht es einen gemeinsamen Code of Conduct mit Grundprinzipien. Wichtig sind Transparenz (offenlegen, welche Tools genutzt werden), Abwägung bei der Tool-Auswahl und gemeinsame Verantwortung. Organisationen sollen Regeln aushandeln, damit Risiken wie Diskriminierung oder Intransparenz verringert werden.

Auftrag (Partnerarbeit)
Notiert zu beiden Stimmen stichwortartig in einer Tabelle:

Formuliert danach in höchstens vier Sätzen einen Unterschied zwischen beiden Stimmen.
Satzanfänge zur Hilfe:
- Diethelm konzentriert sich stärker auf …
- Ilves betont dagegen …
- Der größte Unterschied ist …
- Beide sehen jedoch …

Weiterverwendung für Schritt 4
Hebe die beiden wichtigsten Notizen aus der Spalte „Monika Ilves“ und deinen formulierten Unterschied gut auf. Du brauchst sie später für dein Regelstatement.

Methode: Regelprofil / Rekonstruktion eines Code of Conduct

Klasse 8/9 – Hamburger RUfa – Binnensicht und Rekonstruktion

Längerer Auszug (Zusammenfassung der zentralen Gedanken von Monika Ilves):
„Wir haben beobachtet, dass die Nutzung von KI in der Zivilgesellschaft steigt. Gleichzeitig hatte keine der Nonprofit-Organisationen irgendeine Art von Richtlinie. Dadurch entsteht eine Art Schatten-KI. Der Code of Conduct besteht aus acht Grundprinzipien. Organisationen können sich diese herunterladen und bekommen konkrete Anleitungen.
Der Code of Conduct ist eine Selbstverpflichtung, die sich eine Organisation in einem Aushandlungsprozess gibt. Jede Organisation entscheidet, welche Themen sie angehen will.
Das erste Prinzip ist Abwägung und Nutzung: Man kann überlegen, ob man eher Standardlösungen oder Open-Source-Lösungen nutzt.
Ein weiteres wichtiges Thema ist die Transparenz darüber, wie man künstliche Intelligenz nutzt. Man sollte offenlegen: Das sind die Tools, die wir nutzen. Im besten Fall ist man offen für Diskussion.“

Auftrag (Einzelarbeit)
Rekonstruiert aus diesen Aussagen ein Regelprofil für verantwortlichen KI-Umgang in einer Gemeinschaft (Schule, Verein, Jugendgruppe).
Schreibt zu jedem der vier Bereiche einen klaren Satz, was eine Gemeinschaft mindestens festlegen müsste.

1. Transparenz
Eine Gemeinschaft muss festlegen: …

2. Prüfprozess
Eine Gemeinschaft muss festlegen: …

3. Verantwortungszuweisung
Eine Gemeinschaft muss festlegen: …

4. Revisionsmöglichkeit
Eine Gemeinschaft muss festlegen: …

Nutzt die Ideen von Monika Ilves (z. B. Offenlegung der Tools, Aushandlungsprozess, gemeinsame Verantwortung).

Unterstützung (ausführlicher als Standard)
Wenn du nicht weiterkommst, nutze diese Starthilfen (du darfst sie abändern):
- Transparenz: Eine Gemeinschaft muss festlegen, dass immer sichtbar sein muss, welche KI-Tools für welche Texte verwendet wurden.
- Prüfprozess: Eine Gemeinschaft muss festlegen, dass jeder KI-Text von mindestens zwei Personen auf Fakten und Formulierungen geprüft werden muss.
- Verantwortungszuweisung: Eine Gemeinschaft muss festlegen, dass nicht die KI, sondern eine benannte Person oder ein kleines Team die endgültige Verantwortung trägt.
- Revisionsmöglichkeit: Eine Gemeinschaft muss festlegen, dass es eine einfache Möglichkeit gibt, fehlerhafte KI-Texte nachträglich zu korrigieren und zu kennzeichnen.

Methode: Vergleichsmatrix

Klasse 8/9 – Hamburger RUfa – Abschlussaufgabe

Auftrag (Einzelarbeit)
Schreibe auf Grundlage deiner Arbeit aus M2 und M3 ein kurzes Regelstatement für eine Gemeinschaft (Schule, Verein oder Jugendgruppe).

Das Statement soll enthalten:
- zwei konkrete Regeln für den Umgang mit KI-Texten
- eine Begründung (insgesamt maximal zehn Sätze)

Satzanfänge zur Hilfe
- Diese Regeln sind verantwortbar, weil …
- Diese Regel schützt besonders …
- Diese Regel bleibt schwierig, wenn …
- Aus den Stimmen von Diethelm und Ilves habe ich gelernt, dass …

Pflicht zur Weiterverwendung
Verwende mindestens eine Erkenntnis aus deiner Vergleichstabelle in M2 (besonders aus der Spalte Monika Ilves) und mindestens einen Satz deines Regelprofils aus M3.
Markiere diese übernommenen Teile mit (aus M2) bzw. (aus M3).

Unterstützung (ausführlicher als Standard)
Wenn du den Einstieg schwer findest, beginne so:
„Für unsere Jugendgruppe schlage ich zwei Regeln vor: 1. … 2. … Diese Regeln sind verantwortbar, weil …“
Achte darauf, dass deine Begründung zeigt, warum die Regeln Verlässlichkeit und gemeinsame Verantwortung stärken.