Das Angebot, das niemand geprüft hat
Ein Sanitärbetrieb im Rheinland hat einen neuen Mitarbeiter im Büro, der KI-Werkzeuge geschickt einsetzt. Für eine Badsanierung lässt er den Angebotstext von einem KI-Assistenten entwerfen – Positionen, Beschreibungen, Konditionen. Der Text liest sich hervorragend, der Mitarbeiter schickt ihn raus. Erst als der Kunde das Angebot annimmt, fällt auf, was drinsteht: eine Gewährleistungszusage von fünf Jahren auf alle Materialien, die der Betrieb so nie gibt und die seine Lieferanten nicht abdecken. Die KI hatte den Passus aus dem Zusammenhang üblicher Vertragstexte erzeugt – plausibel formuliert, aber für diesen Betrieb schlicht falsch. Der Kunde beruft sich nun auf den Text, den der Betrieb selbst verschickt hat.
Wer trägt die Verantwortung? Die Antwort ist unbequem, aber eindeutig: der Betrieb. Nicht der KI-Anbieter, nicht das Modell, nicht „die Technik". Dieser Grundsatz – der Mensch verantwortet, was er weiterverwendet – ist die wichtigste Regel im Umgang mit KI überhaupt, und aus ihr leiten sich fast alle anderen Regeln ab, von der Kennzeichnungspflicht in der Hochschule bis zur Firmenrichtlinie im Job.
Wer haftet? Immer der Mensch, der den Text verwendet
Rechtlich ist ein KI-Assistent ein Werkzeug, vergleichbar mit einer Textverarbeitung oder einem Taschenrechner. Wer ein Dokument unterschreibt, eine E-Mail verschickt oder ein Angebot abgibt, steht für den Inhalt ein – unabhängig davon, ob er ihn selbst getippt, diktiert oder von einer KI hat entwerfen lassen. „Das hat die KI geschrieben" ist keine Ausrede, die vor Gericht, beim Finanzamt oder gegenüber dem Kunden trägt. Der Absender ist der Urheber der Erklärung, und er haftet für Fehler, irreführende Aussagen und falsche Zusagen darin.
Das gilt in alle Richtungen. Wer einen KI-generierten Text veröffentlicht, der Urheberrechte verletzt oder eine Person falsch darstellt, kann dafür belangt werden. Wer eine KI-erstellte Kalkulation ungeprüft in ein Angebot übernimmt, trägt den Verlust, wenn sie nicht aufgeht. Wer eine steuerliche Aussage der KI übernimmt, die nicht dem geltenden Recht entspricht, hat dasselbe Problem wie bei jedem anderen ungeprüften Ratschlag. Die Nutzungsbedingungen der KI-Anbieter sagen das übrigens ausdrücklich: Die Verantwortung für die Verwendung der Ausgaben liegt beim Nutzer.
Diese Klarheit hat auch eine gute Seite: Sie macht den Umgang planbar. Man muss keine diffuse Angst vor der Technik haben, sondern schlicht dieselbe Sorgfalt anwenden, die für jedes andere Arbeitsergebnis gilt, das den eigenen Namen trägt. Ein Text aus der KI ist wie ein Entwurf von einem neuen Praktikanten: oft erstaunlich gut, manchmal überraschend daneben – und in jedem Fall etwas, das man liest, bevor man es unterschreibt.
Schule und Hochschule: Kennzeichnen statt verstecken
Im Bildungsbereich hat sich die Lage in den letzten Jahren sortiert. Die meisten Hochschulen und zunehmend auch Schulen haben Regeln für den Umgang mit KI-Werkzeugen – und die laufen selten auf ein Totalverbot hinaus, sondern auf ein Transparenzgebot. Der Kern: Wer KI bei einer Prüfungsleistung oder Hausarbeit einsetzt, muss das offenlegen, und zwar so, wie es die jeweilige Einrichtung vorschreibt. Manche verlangen eine allgemeine Erklärung, welche Werkzeuge wofür genutzt wurden; andere fordern eine detaillierte Dokumentation einzelner Arbeitsschritte; wieder andere erlauben KI nur für bestimmte Phasen wie Recherche oder Sprachglättung.
Für Eltern schulpflichtiger Kinder lohnt der Blick auf die schulischen Vorgaben ebenfalls: Viele Schulen unterscheiden inzwischen zwischen Hausaufgaben, bei denen KI als Hilfsmittel ausdrücklich erlaubt oder sogar erwünscht ist, und Leistungsnachweisen, bei denen sie tabu bleibt. Wer als Schüler oder Elternteil unsicher ist, fragt die Lehrkraft – die Frage selbst ist nie das Problem, die stillschweigende Nutzung schon.
Entscheidend ist: Es gibt nicht die eine bundesweite Regel. Maßgeblich ist immer die Ordnung der eigenen Schule, Hochschule oder sogar der einzelnen Lehrveranstaltung – und die kann sich ändern. Wer eine Abschlussarbeit beginnt, sollte die geltenden Vorgaben schriftlich kennen, im Zweifel bei der prüfenden Person nachfragen und die eigene KI-Nutzung von Anfang an dokumentieren, statt am Ende zu rekonstruieren. Die eidesstattliche Erklärung, die Arbeit selbstständig verfasst zu haben, ist kein Formalismus: Wer wesentliche Teile unausgewiesen von einer KI erzeugen lässt, riskiert je nach Ordnung die Bewertung mit „nicht bestanden", die Aberkennung der Leistung oder Schlimmeres – dieselbe Kategorie wie ein Plagiat.
Dahinter steht ein Gedanke, der über Formalien hinausgeht: Eine Prüfung soll die eigene Leistung zeigen. KI als Lernwerkzeug – sich Sachverhalte erklären lassen, Übungsaufgaben generieren, eigene Texte kritisieren lassen – ist fast überall willkommen und didaktisch sinnvoll. KI als verdeckter Ghostwriter untergräbt dagegen genau das, was das Zeugnis bescheinigen soll. Die Grenze verläuft nicht am Werkzeug, sondern an der Ehrlichkeit über seinen Einsatz.
KI im Job: Firmenrichtlinien und offener Umgang
Im Berufsalltag stellt sich die Regelfrage doppelt: Was erlaubt der Arbeitgeber, und wie geht man im Team damit um? Immer mehr Unternehmen haben KI-Richtlinien, die typischerweise drei Dinge regeln: welche Werkzeuge genutzt werden dürfen (oft nur freigegebene Geschäftskonten, keine privaten Accounts), welche Daten eingegeben werden dürfen (in aller Regel keine Kundendaten, Personaldaten oder Geschäftsgeheimnisse in nicht freigegebene Dienste) und wofür die Ergebnisse verwendet werden dürfen. Wer in einem Unternehmen mit solcher Richtlinie arbeitet, sollte sie kennen – Verstöße können arbeitsrechtliche Folgen haben, besonders wenn vertrauliche Daten in externe Dienste gelangen.
Hinter diesen Regeln stehen handfeste Interessen. Der Datenschutz ist der offensichtlichste Punkt: Sobald personenbezogene Daten von Kunden oder Kollegen in einen KI-Dienst eingegeben werden, liegt eine Datenverarbeitung vor, für die das Unternehmen geradestehen muss – bei nicht freigegebenen Diensten in aller Regel ohne die dafür nötigen Verträge. Ebenso gewichtig ist der Schutz von Geschäftsgeheimnissen: Kalkulationen, Kundenlisten oder Konstruktionsdaten, die in einen privaten KI-Account wandern, haben das Haus faktisch verlassen. Und schließlich geht es um Einheitlichkeit – wenn jeder Mitarbeiter mit anderen Werkzeugen und ohne gemeinsame Prüfstandards arbeitet, wird Qualitätssicherung zum Glücksspiel.
Gibt es noch keine Richtlinie, ist das kein Freibrief, sondern eine Lücke. Die pragmatische Haltung lautet dann: offen fragen statt heimlich nutzen. Die sogenannte Schatten-KI – Mitarbeiter nutzen private KI-Konten für Firmenaufgaben, ohne dass jemand davon weiß – ist in vielen Betrieben längst Realität und für das Unternehmen die schlechteste aller Varianten: Die Risiken bestehen, aber niemand steuert sie. Wer seinem Arbeitgeber vorschlägt, den KI-Einsatz zu regeln statt zu ignorieren, handelt im Interesse beider Seiten. Für Führungskräfte gilt spiegelbildlich: Ein realistisches Regelwerk mit freigegebenen Werkzeugen wird befolgt; ein Totalverbot treibt die Nutzung nur in den Untergrund.
Zum offenen Umgang gehört auch die Transparenz im Kleinen. Wenn ein Kollege einen Berichtsentwurf zuliefert, der im Wesentlichen von einer KI stammt, sollte das Team das wissen – nicht um die Arbeit abzuwerten, sondern damit die Prüfung entsprechend gründlich ausfällt. Ein kurzes „Erstentwurf mit KI erstellt, Zahlen noch ungeprüft" kostet nichts und verhindert, dass ungeprüfte Inhalte für geprüfte gehalten werden. Ob und wie KI-Einsatz gegenüber Kunden kenntlich gemacht wird, regeln Branchen unterschiedlich; als Faustregel bewährt sich, dort transparent zu sein, wo der Kunde erkennbar Wert auf persönliche Erstellung legt.
Sinnvolle Arbeitsteilung: KI entwirft, der Mensch prüft und verantwortet
Aus alldem ergibt sich ein einfaches Betriebsmodell, das sich in der Praxis bewährt: Die KI ist zuständig für Entwürfe, Vorschläge, Zusammenfassungen und Varianten – der Mensch für Auswahl, Prüfung, Korrektur und Freigabe. Diese Arbeitsteilung nutzt die Stärken beider Seiten: Die KI ist schnell, unermüdlich und sprachlich versiert; der Mensch kennt den Kontext, die Kunden, die eigenen Zusagen und trägt die Konsequenzen.
Wie gründlich die Prüfung ausfallen muss, hängt vom Risiko ab. Ein interner Ideenzettel braucht kaum Kontrolle. Eine Kunden-E-Mail braucht einen prüfenden Blick auf Ton und Fakten. Richtig gefährlich wird ungeprüfte Übernahme in bestimmten Bereichen, die man kennen sollte: überall dort, wo Zahlen bindend werden – Angebote, Rechnungen, Kalkulationen, Fristen –, wo rechtliche Wirkung entsteht – Verträge, Kündigungen, AGB, Zusicherungen wie im Eingangsbeispiel –, wo Gesundheit und Sicherheit berührt sind – medizinische Auskünfte, Sicherheitshinweise, Anweisungen an Maschinen – und wo Aussagen über reale Personen und Firmen getroffen werden, die falsch sein könnten. In diesen Feldern gilt das Vier-Augen-Prinzip, wobei ein Augenpaar zwingend ein menschliches Fachkundiges ist; bei Rechts- und Steuerfragen bleibt der Weg zur Fachberatung unverzichtbar.
Hilfreich ist, die Prüfung nicht dem Zufall zu überlassen, sondern zur Routine zu machen. Bewährt hat sich eine kurze Freigabefrage vor jedem Versand: Stimmen alle Zahlen, Namen und Daten? Enthält der Text Zusagen, die wir tatsächlich einhalten wollen und können? Würde ich jeden Satz auch unterschreiben, wenn ich ihn selbst geschrieben hätte? Wer diese drei Fragen konsequent stellt, fängt die allermeisten KI-typischen Fehler ab – auch den Gewährleistungspassus aus dem Sanitärbetrieb, der bei der zweiten Frage sofort aufgefallen wäre.
Fazit: Klare Regeln machen KI-Einsatz entspannt
Verantwortungsvoller KI-Einsatz ist keine Frage komplizierter Paragrafen, sondern dreier klarer Grundsätze: Der Mensch verantwortet, was er weiterverwendet. Transparenz schlägt Verstecken – in der Ausbildung wie im Beruf. Und die Prüftiefe folgt dem Risiko. Wer diese Grundsätze verinnerlicht, kann die Werkzeuge mit gutem Gewissen intensiv nutzen, statt zwischen Leichtsinn und Verweigerung zu pendeln.
Drei nächste Schritte: Prüfen Sie, ob es in Ihrem Unternehmen, Ihrer Schule oder Hochschule bereits verbindliche KI-Regeln gibt, und lesen Sie sie einmal vollständig – nicht die Zusammenfassung vom Flur. Führen Sie für sich selbst die Freigabefrage ein, bevor KI-gestützte Texte das Haus verlassen. Und wenn Sie Verantwortung für ein Team tragen: Setzen Sie eine einfache, realistische Richtlinie auf, die erlaubte Werkzeuge, verbotene Dateneingaben und Prüfpflichten benennt. Bei der Entwicklung solcher Richtlinien und der Schulung von Teams unterstützt FJ Design mit praxisnahen KI-Workshops.