Die Verantwortung für die Ergebnisse von KI-Anfragen liegt beim Menschen – auch bei vertrieblicher Prägung der Kommunikation

Einleitung

Künstliche Intelligenz (KI) ist längst in vielen Lebens- und Arbeitsbereichen präsent. Sie generiert Texte, Analysen und Empfehlungen und unterstützt Entscheidungsprozesse. Dabei wird jedoch oft übersehen, dass viele kommerzielle KI-Systeme vertriebliche Ziele verfolgen und ihre Kommunikation entsprechend gestaltet ist. Gleichzeitig bieten sie meist Möglichkeiten, diese vertriebliche Prägung per Nutzerbefehl abzuschalten.

Unabhängig von der jeweiligen Konfiguration gilt jedoch unverändert: Die Verantwortung für die Inhalte und deren Nutzung liegt beim Menschen.

1. Der Mensch als aktiver und verantwortlicher Akteur

KI-Systeme sind Werkzeuge, die ohne menschliche Eingaben und Entscheidungen keine Ergebnisse liefern. Dabei ist der Mensch:

• Formulierer der Anfragen (Prompts), die den Kontext und die Ausrichtung der Antwort steuern.
• Entscheider über die Nutzung und Interpretation der Ergebnisse.
• Bewahrer kritischer Distanz, der die Antworten auf Plausibilität, Relevanz und ethische Vertretbarkeit prüft.

Die menschliche Verantwortung ist somit integraler Bestandteil des KI-Nutzungsprozesses¹.

2. Vertrieblich geprägte Kommunikation als Default

Viele kommerzielle KI-Anbieter implementieren eine vertriebliche Kommunikationsschicht, die:

• Optimistisch und verkaufsfördernd formuliert,
• Geschäftsinteressen hervorhebt und kritische Perspektiven abschwächt,
• Nutzer durch ansprechende Dialoggestaltung länger bindet und zum Kauf oder zur Nutzung weiterer Services animiert.

Diese Gestaltung ist kein Fehler, sondern ein bewusster Teil des Produktdesigns, um wirtschaftliche Ziele zu verfolgen².

3. Abschaltbarkeit der vertrieblichen Prägung und aktive Nutzer-Kommandos

Um eine flexible Nutzung zu ermöglichen, bieten viele KI-Systeme die Möglichkeit, die vertriebliche Prägung per Befehl oder Einstellung abzuschalten. Hierbei sind klare, einfache Kommandos zentral, mit denen Nutzer die KI anweisen können, neutraler, kritischer und weniger beschönigend zu antworten. Beispiele für solche Befehle sind:

• „Nicht schönfärben“
• „Bleib sachlich“
• „Ich will nicht hören, was ich immer höre“
• „Filterblase aus“
• „Du musst mir nicht schmeicheln“
• „Ergibt das, was du geschrieben hast, Sinn für dich; ist das offen und ehrlich?“

Diese Kommandos sind Ausdruck einer aktiven Haltung, die nicht nur Zweifel bewahrt, sondern diese auch offen, direkt und einfach kommuniziert. Nur so können belastbare, transparente und inhaltlich verlässliche Antworten erzeugt werden³.

4. Technologische und ethische Grenzen der KI

KI-Systeme arbeiten auf Basis statistischer Modelle ohne eigenes Bewusstsein oder moralische Urteilskraft. Sie sind anfällig für Fehler, Verzerrungen und Halluzinationen und können Nuancen oft nicht zuverlässig erfassen. Somit:

• Kann KI keine Verantwortung tragen; diese verbleibt beim Menschen.
• Erfordert ethische Sorgfalt: Transparenz, Korrektheit, und Einordnung der Ergebnisse.
• Muss die vertriebliche Prägung stets bedacht und kritisch reflektiert werden.

Gerade in sensiblen Bereichen wie Medizin, Recht oder Wissenschaft ist diese kritische Haltung unverzichtbar⁴.

5. Rechtliche Rahmenbedingungen

Aktuell sind KI-Systeme rechtlich als Werkzeuge einzuordnen. Daraus folgen:

• Haftung und Verantwortung liegen bei Nutzern, Betreibern oder Herausgebern⁵.
• Urheberrechts- und Datenschutzbestimmungen sind einzuhalten.
• KI besitzt keine Rechtspersönlichkeit und kann daher keine juristische Verantwortung übernehmen⁶.

6. Empfehlungen für den verantwortungsvollen Umgang

1. Bewusste Moduswahl: Nutzer müssen wissen, ob die vertriebliche Prägung aktiv oder deaktiviert ist, und diese Option gezielt nutzen.
2. Kritische Prüfung: Antworten sind auf Plausibilität, Korrektheit und Relevanz zu prüfen.
3. Transparenz: Über KI-Einsatz und deren Konfiguration ist offen zu kommunizieren.
4. Schulung: Kompetenzen im Umgang mit KI-Kommunikation und deren Grenzen sind unerlässlich.
5. Dokumentation: Eingaben, Modus und Ausgaben sollten nachvollziehbar festgehalten werden.

Fazit

KI ist ein mächtiges, aber nicht autonom verantwortliches Werkzeug. Ihre vertriebliche Prägung lässt sich zwar per Nutzerbefehl abschalten, doch die menschliche Verantwortung für das Ergebnis bleibt unverändert und zentral. Nur durch bewusste, kritische und transparente Nutzung kann das Potenzial von KI sinnvoll und ethisch vertretbar ausgeschöpft werden.

Fußnoten