KI: Die neue Kaffeemaschine der Chefetage

Ingo Nöhr zum 1. Dezember 2025

Wir Deutschen sind für die übrigen Erdbewohner bemitleidenswerte Wesen. Das Waldsterben, das Ozonloch und die Corona-Pandemie haben wir mittlerweile verdrängt, aber nun werden wir von allen Seiten mit Ängsten umzingelt: das Stadtbild, unsere Autoindustrie, die Koalitionsstreitereien, die Hilflosigkeit der EU, die Zölle von Trump, der drohende Krieg mit Russland, die riesige Verschuldung und über allem die Klimakrise. Und diesmal kein starker Retter in Sicht – nicht mal als Super-Roboter.    

Fast jeder Dritte in Deutschland hat neuerdings auch Angst, dass die Künstliche Intelligenz die Gesellschaft gefährdet.
Auf die Stammtischler Ingo und Jupp warten wiederum viele Eindrücke und offene Fragen.

# # #

 Jupp: Mein lieber Ingo, die Deutsche Angst hat noch ein weiteres Thema bekommen: die Digitalisierung. Ein Viertel der befragten Deutschen befürchten, dass ihre Daten im Internet missbraucht werden. Und du wirst es nicht glauben: Die Optimisten sind auch schuld daran. Ist dir überhaupt klar, dass man auch dich meint – du unverbesserlicher Träumer?

• Ingo: Wie bitte? Was habe ich denn mit der Digitalisierung zu tun? Ich habe sie doch immer wieder veräppelt.

Jupp: Ich zitiere mal aus der Kolumne von Sascha Lobo, einem auch von dir akzeptierten IT-Experten: „Fürchten Sie sich, aber richtig“ (das ist seine Überschrift, wohlgemerkt passend.) „Digitalisierung! Zugleich Fluch, Verheißung und alternativlos, das Großthema der Stunde. Der Mittelstand, die Bildung, die Industrie, die Medien, die Politik, die Gesellschaft, alle digitalisieren. Irgendwie.“

• Ingo: Ich darf dich mal unterbrechen. Das ist doch nichts Neues. Es fehlen in der Aufzählung leider die Behörden, die Ärzte, die Krankenhäuser, die meisten Senioren und nicht zu vergessen, unsere Politiker, die jämmerlich hinter der digitalen Welt zurückgeblieben sind.

Jupp: Und warum? Frag den Sascha: „Aber die dazugehörige Debatte um Digitalisierung in Deutschland ist verbogen. Das hängt nicht nur mit der tatsächlichen oder vermeintlichen Irrationalität der Skeptiker zusammen, sondern auch mit der oft ebenso irrationalen Reaktion der Optimisten.“

• Ingo: Soso – die Optimisten. Ja, da hast du mich jetzt aber erwischt, Jupp. Ich bin also schuld. Aber erkläre mir bitte, was ich denn Schlimmes getan habe?

Jupp: Angst, Ingo. Du hast die Angst geschürt - auch mit deinem Vogel Phönix, der aus der Asche auftaucht, wenn alles zusammengebrochen ist. Aber Sascha Lobo hat dich durchschaut: „Wesentliche Teile der Digitalisierungskritik sind angstgetrieben. Angst um den Job, Angst um die eigene gesellschaftliche Position, Angst um liebgewordene Gewohnheiten und auch: Angst um die Kinder, die oft der Angst entspricht, seinen Nachkommen eine Welt zu hinterlassen, die man nicht versteht und vor deren Bedrohungen man deshalb glaubt, sie nicht schützen zu können.“

• Ingo: Also Jupp, mal langsam: Kinder, die die Welt nicht verstehen? Ich glaube seine drei Kinder sind wohl noch nicht im digitalen Nerd-Alter angekommen, sonst würde er anders reden. Und ich vermisse bei ihm die Angst vor der KI. Er müsste doch auch Nick Bostrom kennen, den Philosophen und Autor von Superintelligence, der mal gesagt hat: „Maschinelle Intelligenz ist die letzte Erfindung, die die Menschheit jemals machen muss.“ Danach hat der Mensch nichts mehr zu erfinden.

Jupp: Nun, Ingo, das könnte daran liegen, dass Sascha Lobo bei diesen Worten noch keine Kinder besaß. Meine Zitate stammen aus seiner SPIEGEL-Kolumne vom 2. November 2016 – verstehst du: sie sind fast zehn Jahre alt – ZEHN JAHRE!

• Ingo: Das ist tatsächlich überraschend. Wie sah denn seine Zukunftsprognose damals aus? 

Jupp: Aus der radikalen Überwachung durch die permanente Messung aller Aktivitäten der Gesellschaft erwartet er „den radikalen Effizienz-Radikalismus“, denn „die Geschichte des Kapitalismus ist eine Geschichte der aggressiven Effizienz, und Effizienz beginnt zwangsläufig mit der Messung“. Der Managerpapst Peter Drucker hat es ganz simpel so ausgedrückt: „Was gemessen werden kann, wird ökonomisiert.“  

• Ingo: Da ist was dran. Aus den Messungen entsteht ein digitales Modell, welches auf uns angewendet wird. Der Technikphilosoph Jaron Lanier hat es deutlich prophezeit: „Die Gefahr besteht nicht darin, dass Maschinen menschlicher werden — sondern dass Menschen maschinenähnlicher werden.“

Jupp: Schau dich mal um: Alle Firmen sind im KI-Rausch. In der Dezember-Ausgabe 2025 von „Der Facility Manager“ schwärmt der KPMG-Berater Robert Betz von den unglaublichen Fähigkeiten der KI: „KI ist daher zunehmend in der Automatisierung kaufmännischer Prozesse präsent, neben der Buchhaltung auch in Vertrags- und Dokumentenverwaltung, dem Reporting und der Bearbeitung von Störmeldungen.“

• Ingo: Das beeindruckt mich nicht sonderlich – die sinnvolle Optimierung anhand von Daten. Ich würde eher unruhig, wenn die KI über die Diagnose meinen OP-Termin und die Therapie meiner Krankheiten allein entscheiden würde.

Jupp: Es geht ja bei Betz noch weiter: „KI kann Marktdaten, Standortinformationen und Performancekennzahlen zusammenführen, um Investitionsentscheidungen zu unterstützen, Risiken zu bewerten und Szenarien zu simulieren.“

• Ingo: Stopp mal Jupp: „Risiken bewerten“ ist mein Stichwort. Sicherheitsforscher sehen die kritische Infrastruktur verwundbarer denn je. Da zitiere ich mal Günther Burbach, der gerade am 26.11.2025 in den de diesen kritischen Beitrag veröffentlicht hat: Die Frage ist nicht mehr: Kommt KI? Sie ist da. Die Frage ist: Wem vertrauen wir und was passiert, wenn dieses Vertrauen enttäuscht wird? In der öffentlichen Debatte wirkt es, als sei KI vor allem ein Effizienzversprechen: weniger Kosten, mehr Automatisierung, „Standortvorteil“.

Jupp: Ja, siehe oben. Das behaupten ja alle und viele Vorständler haben Angst, einen Trend zu verpassen und von der Konkurrenz abgehängt zu werden. Also kaufen sie lieber, bevor sie verstehen. Genau hier beginnt das politische Problem. Wenn nur noch eine kleine Schicht von Experten, Beratern und Technologiekonzernen versteht, was auf den Servern läuft, dann entsteht eine neue Abhängigkeit: Wer die Modelle baut und betreibt, bestimmt de facto die Regeln.

• Ingo: Klar, unsere Politiker werden immer stärker von einer Lobby-Blase eingelullt. Warte Jupp, jetzt kommt das aber: „Schaut man aber dahin, wo Unternehmen zur Ehrlichkeit gezwungen sind, in die Pflichtangaben gegenüber Aufsichtsbehörden, kippt das Bild. In aktuellen US-Börsenberichten verweisen inzwischen Hunderte Konzerne auf KI als Geschäftsrisiko: von fehlerhaften automatisierten Entscheidungen über diskriminierende Modelle bis zu Datenpannen und Haftungsfragen.“

Jupp: Ich verstehe Ingo. Und diese KI-Risiken wandern jetzt in unsere sicherheitskritischen Systeme: Energie, Verkehr, Industrieanlagen, Krankenhäuser. Das sind keine Kritiker von außen, sondern die Unternehmen selbst, welche die Nebenwirkungen in ihren Beipackzetteln notgedrungen aufschreiben müssen - nämlich, was alles schiefgehen kann, wenn sie ihre Prozesse KI-Systemen überlassen.“

• Ingo: Das ist schon etwas beruhigend: die Hersteller müssen ihre Risiken offenlegen. Diesen Zwang hätte ich mir schon bei den mRNA-Impfstoffen der Corona-Zeiten gewünscht, als die großen Pharmafirmen einfach von jeglicher Produkthaftung befreit wurden.

 

Jupp: Dabei hat schon die KI-Ethikforscherin Timnit Gebru deutlich gewarnt. Künstliche Intelligenz (KI) kann die Meinungen und Vorurteile der Menschen übernehmen, die sie gemacht haben. Das kann gefährlich werden, wenn KI viel benutzt wird. Fachleute sagen: Wenn Computer wichtige Entscheidungen treffen, die früher Menschen gemacht haben, können neue Probleme entstehen. Besonders, wenn diese Computer übers Internet erreichbar sind, können sie leichter angegriffen werden.

• Ingo: Da haben wir wohl nicht hingehört. Jetzt installieren wir Smart Homes und Smart Cities. Wohnungen, Städte und Verkehrswege werden permanent vermessen und unter dem Label Energiesparen, Sicherheit oder Komfort als Daten gesammelt. Aber wer sitzt eigentlich auf der anderen Seite dieser Datensammlung? Öffentliche Stellen, die chronisch unterbesetzt sind? Konzerne, deren Geschäftsmodell auf Datenverwertung beruht? Sicherheitsbehörden, die schon heute mit Grundrechten auf Kriegsfuß stehen?

Jupp: Parallel dazu zeigen internationale Umfragen: Ja, KI ist in den meisten großen Firmen angekommen, aber der geschäftliche Nutzen bleibt begrenzt, weil die Systeme kaum sauber in die Arbeitsabläufe eingebettet sind. Die Firmen merken, dass KI doch nicht alles so gut kann wie versprochen. Die Kosten sind oft höher als der Nutzen und zu viele Anbieter verkaufen dieselben unnützen Lösungen.

• Ingo: Und letztendlich kommen die Investoren und fragen plötzlich: ‚Moment mal – was können die eigentlich wirklich?‘ Das erinnert mich an die Dotcom-Blase Anfang der 2000er Jahre. Sie platzte, als die Versprechen vieler Start-Ups unrealistisch waren und sie ohne nachhaltige Strategien mit kostenlosen Diensten kein Geld verdienen konnten. Es kam mit fünf Billionen Dollar Verlusten zur größten Kapitalvernichtung der Wirtschaftsgeschichte. Eine weltweit platzende KI-Blase würde heute wohl doppelt so teuer.

Jupp: Nun ja, ich glaube die großen Giganten wie NVIDIA, AMD, Microsoft, Amazon und Google haben bereits riesige Rechenzentren aufgebaut, die sie anderweitig nutzen können. Verlieren werden die unzähligen kleinen Start-ups und die Firmen, die mühsam jahrzehntelang Datenbestände und Wissensspeicher aufgebaut haben, die von den Datensammlern längst kopiert wurden.

• Ingo: Was lernen wir daraus? Es gibt Bereiche, in denen KI nichts verloren hat. Es gibt Infrastrukturen, die redundant, analog und menschlich kontrollierbar bleiben müssen. Und es gibt eine Grenze, ab der nicht mehr die Frage zählt, wie wir mitspielen, sondern ob wir als Gesellschaft überhaupt noch entscheiden, nach welchen Regeln gespielt wird.

Jupp: Das hört sich gut an. Schicke es gleich an die Regierung. Für das neue Jahr 2026 haben wir augenscheinlich eine Menge Gesprächsstoff und viele offene Fragen. Da kommt mir noch eine Idee. Im August hatte uns der Chronist ja mit seinem KI-Fake-Protokoll genarrt. Seitdem hat er feierlich gelobt, dass er die KI nicht mehr anfasst. Vielleicht können wir ihm doch den folgenden Auftrag erteilen: Frage mal deine KI, wie die Post-KI-Zeit aussehen könnte! Also, wenn jeder die Nase davon voll hat und keiner mehr die Maschinendenker nutzen will.   

• Ingo: Eine ausgezeichnete Idee, Jupp. „Hey, KI - wie sähe die Welt nach deinem Ableben aus?“    
  Unser Chronist am Nebentisch hat gerade zustimmend genickt. Ich schlage vor, wir laden ihn auch zu einem Bier ein.
  Herr Wirt, bitte diesmal drei Bier diesmal. Aber weiterhin ohne KI-Hilfe gebraut, angeliefert und gezapft, bitte.

# # #

Mahnende Worte

Stephen Hawking (Physiker)

„Die Entwicklung einer vollständigen künstlichen Intelligenz könnte das Ende der Menschheit bedeuten.“ - „KI könnte einen eigenen Willen entwickeln.“

 

Elon Musk (Unternehmer)

„KI ist ein fundamentales Risiko für die Existenz der menschlichen Zivilisation.“

 „Mit künstlicher Intelligenz beschwören wir den Dämon herauf.“

 

Bill Gates (Unternehmer)

„Ich verstehe nicht, warum manche Menschen nicht besorgt sind.“ - „Zuerst werden die Maschinen viel Arbeit für uns erledigen… und irgendwann stellt sich die Frage: werden sie entscheiden, dass sie uns nicht mehr brauchen?“

 

Eliezer Yudkowsky (AI-Forscher, Existential-Risk-Theorist)

„Die größte Gefahr der künstlichen Intelligenz besteht bei weitem darin, dass Menschen zu früh glauben, sie verstanden zu haben.“ - „Wenn wir KI falsch machen, bekommen wir vielleicht keine zweite Chance.“

 

Andrew Ng (KI-Pionier)

„KI ist die neue Elektrizität — doch die Menschen vergessen, dass auch Elektrizität Katastrophen verursachte.“

 

Jaron Lanier (Technikphilosoph)

„KI ist nur eine Verkleidung für Menschen, und wir behandeln sie als etwas Größeres.“

 

Joseph Weizenbaum (Informatiker, Erfinder von ELIZA)

„Der Mensch ist keine Maschine. Kein Computer kann echte menschliche Probleme wirklich menschlich angehen.“ - „Der Mythos technischer Neutralität ist gefährlich.“

 

Stuart Russell (KI-Professor, Co-Autor von Artificial Intelligence: A Modern Approach)

„Wenn wir die Kontrolle über KI verlieren, verlieren wir die Kontrolle über unsere Zukunft.“

 

Yuval Noah Harari (Historiker)

„Sobald wir Algorithmen unsere Entscheidungen überlassen, geben wir einen Teil unserer Menschlichkeit preis.“ - „KI könnte ‘überflüssige Klassen’ von Menschen erzeugen, wenn wir nicht aufpassen.“

 

Garry Kasparov (Schachweltmeister)

„Die eigentliche Gefahr besteht nicht darin, dass Maschinen klüger werden als wir, sondern dass wir aufhören, uns selbst weiterzuentwickeln.“