Claude und ChatGPT: KI im Unternehmen, Fluch oder Segen?

Es gibt diesen einen Moment, den inzwischen vermutlich jede Fachkraft in diesem Land kennt. Du erklärst geduldig, warum eine bestimmte Lösung technisch nicht funktioniert. Du hast dafür jahrelang geschraubt, dir nächtelang die Finger wund konfiguriert, drei Produktionsausfälle überlebt, aus denen du gelernt hast, was in keinem Handbuch steht. Und dann steht die Chefin oder der Chef vor dir, hält ein Handy hoch, zeigt dir einen ChatGPT-Chatverlauf und sagt: „Aber die KI sagt, das geht doch…”.

Willkommen in der Arbeitswelt 2026. Der alte Steve-Jobs-Spruch, man stelle kluge Leute ein, damit sie einem sagen, was zu tun ist, und nicht umgekehrt, war schon immer eine schöne Idee, an die sich die wenigsten Chef*innen gehalten haben. Jetzt haben sie ein neues Spielzeug, mit dem sie sich diese Idee endgültig sparen können. Warum auf teure Expert*innen hören, wenn ein Chatbot dir für lau genau das sagt, was du sowieso schon hören wolltest?

Das Problem ist nicht die KI

Machen wir eins gleich klar, damit hier niemand die falsche Schlagzeile mitnimmt. Das Problem ist nicht die künstliche Intelligenz. ChatGPT ist ein beeindruckendes Werkzeug, Claude ebenso, und ich benutze diese Modelle selbst ab und an. Das Problem ist, dass eine KI einem Laien das Gefühl von Kompetenz gibt, ohne ihm die Kompetenz zu geben.

Ein KI-Output klingt souverän. Er ist strukturiert, selbstsicher, in ordentlichen Absätzen formuliert, mit einer Nummerierung garniert und einem freundlichen Fazit abgeschlossen. Das sind genau die Oberflächenmerkmale, die wir Menschen instinktiv mit Sachverstand verwechseln. Nur steckt darunter nichts von dem, was echten Sachverstand ausmacht. Kein Wissen über das konkrete System, das seit acht Jahren gewachsen ist. Keine Ahnung von der Altlast im Code, die alles sprengt, wenn man sie falsch anfasst. Kein Bauchgefühl für das eine Detail, das harmlos aussieht und dir in drei Wochen die Produktion lahmlegt. Die Fachkraft hat den Kontext. Die Maschine hat Wahrscheinlichkeiten.

Die Maschine sagt dir, was du hören willst

Und dann kommt der wirklich fiese Teil. Chef*innen fragen die KI nicht neutral. Niemand tut das. Sie tippen ihre Frage so, wie sie die Antwort schon im Kopf haben, und schieben so lange nach, bis das Modell endlich zustimmt. Die Fachkraft sagt „so geht das nicht”. ChatGPT sagt „klar geht das, hier sind fünf einfache Schritte”. Rate mal, wem geglaubt wird. Die KI wird zum Werkzeug, mit dem man die eigene Meinung legitimiert, nicht zu einem, mit dem man sie überprüft.

Dazu kommt der Effekt, der jede Personalabteilung nachts wach halten sollte. Vorher wussten sie wenigstens, dass sie es nicht wissen. Genau deshalb hatten sie ja Fachleute eingestellt. Jetzt haben sie einen Chatverlauf auf dem Handy und fühlen sich auf Augenhöhe. Der schmale Grat zwischen „ich habe mich informiert” und „ich verstehe das jetzt” ist verschwunden. Man zahlt gutes Geld für Urteilsvermögen und wirft es dann für einen Gratis-Chatbot weg, der einem nach dem Mund redet. Ehrlicher kann man die eigene Betriebsführung kaum karikieren.

Wo KI im Unternehmen wirklich zum Fluch wird

Die übermütigen Chef*innen mit dem Screenshot sind dabei noch der harmlose Fall, weil man ihnen wenigstens ins Gesicht widersprechen kann. Gefährlicher ist, was gerade in tausenden Büros unsichtbar passiert. Mitarbeiter*innen kippen Firmeninterna in die kostenlose Web-Version von ChatGPT, weil es eben praktisch ist. Kundendatenbanken, um schnell eine Auswertung zu bekommen. Verträge, die zusammengefasst werden sollen. Quellcode, der einen Bug hat. Bewerbungsunterlagen, Krankmeldungen, das komplette interne Wiki.

All diese Daten landen auf Servern eines US-Konzerns, unterliegen dem Cloud Act und im Zweifel dem Training des nächsten Modells. Wer glaubt, das sei ein theoretisches Risiko, hat die Datenschutzgrundverordnung nie von der Seite gelesen, aus der die Bußgelder kommen. Es braucht keine Hackergruppe mehr, um sensible Unternehmensdaten aus dem Haus zu tragen. Es reicht ein*e Praktikant*in mit Zeitdruck und ein offenes Browsertab.

Und selbst wenn der Datenschutz nicht wäre, bleibt die Sache mit den Halluzinationen. Ein Sprachmodell erfindet Fakten mit derselben Überzeugung, mit der es korrekte nennt. Es zitiert Gesetze, die es nicht gibt, empfiehlt Konfigurationen, die dein System öffnen, behauptet Kompatibilitäten, die nie existiert haben. Wenn eine solche Antwort ungeprüft in eine Geschäftsentscheidung fließt, weil niemand im Raum mehr das Fachwissen hat, den Unsinn zu erkennen, dann ist die KI nicht dein Werkzeug. Dann ist sie deine Falle.

Und wo sie zum Segen wird

Das Bittere an der ganzen Geschichte ist, dass dieselbe Technologie, richtig eingesetzt, ein geniales Werkzeug wäre. Eine KI in der Hand einer kompetenten Person beschleunigt Recherche, deckt blinde Flecken auf, spielt den Advocatus Diaboli und rechnet in Sekunden durch, wofür man früher einen Nachmittag gebraucht hätte. „KI als Sparringspartnerin der Fachkraft” und „KI als Knüppel gegen die Fachkraft” sind zwei vollkommen verschiedene Dinge. Das eine hebt das Niveau im Betrieb. Das andere senkt es und feuert nebenbei die Leute, die es hätten halten können.

Der Unterschied liegt nicht im Modell, sondern in zwei Fragen. Wer hält das Werkzeug, und wo liegen deine Daten. Beides lässt sich lösen, und zwar ohne die KI aus dem Unternehmen zu verbannen. Für das erste braucht es Menschen, die verstehen, was sie da lesen, statt Screenshots weiterzureichen. Für das zweite braucht es Infrastruktur, die dir gehört.

Genau das ist der Grund, warum ich Unternehmen zu lokaler KI berate. Modelle wie Mistral, Llama oder Phi laufen mit Ollama und einer sauberen Weboberfläche auf deiner eigenen Hardware, komplett offline, ohne dass ein einziges Byte an OpenAI, Microsoft oder Google abfließt. Deine Kundendaten bleiben im Haus. Deine Verträge bleiben im Haus. Kein Cloud Act, kein Training auf deinem Betriebsgeheimnis, kein Tracking. Die Fachkräfte bekommen ihr Sparringswerkzeug, und die Datenschutzbeauftragte bekommt endlich wieder ruhigen Schlaf. Digitale Souveränität heißt nicht, auf gute Werkzeuge zu verzichten. Es heißt, sie zu besitzen, statt sie zu mieten.

Wem dient das Werkzeug

Fluch oder Segen ist am Ende die falsche Frage, weil die Antwort nicht in der Technik steckt, sondern in dir. Eine KI im Unternehmen ist so klug oder so gefährlich wie die Hand, die sie führt, und so sicher wie die Infrastruktur, auf der sie läuft. Die Chef*innen mit dem ChatGPT-Chatverlauf haben kein KI-Problem. Sie haben ein Kompetenzproblem, das ihnen die KI nur bequemer zu verstecken hilft.

Also die unbequeme Frage an alle, die gerade ihre Fachleute gegen einen Chatverlauf eintauschen: Wenn ihr der Maschine mehr vertraut als den Menschen, die ihr für ihr Wissen bezahlt, warum bezahlt ihr sie dann eigentlich noch? Und wenn die Antwort lautet „damit sie den Karren aus dem Dreck ziehen, in den die KI ihn gefahren hat”, dann habt ihr die Rechnung schon verstanden. Ihr wollt sie nur noch nicht bezahlen.