AI-Software-Entwicklung: „Die versteckten Kosten der KI-Codierung“ | Borns IT- und Windows-Blog Borns IT

Kreative KI-Tools können die Entwicklerproduktivität um bis zu 55 % steigern, heißt es in einem MIT-Artikel. Eine zu schnelle Expansion ohne Schutzmaßnahmen und Vorschriften führt jedoch zu gefährlichen technischen Schulden (ich nenne es oft technische Hypotheken). Um kostspielige Systemausfälle zu vermeiden, müssen Unternehmen klare Richtlinien festlegen, der Verwaltung technischer Schulden Priorität einräumen und Entwickler im verantwortungsvollen Umgang mit KI schulen.

Das ist die Botschaft des MIT-Artikels „The Hidden Costs of Coding With Generative AI“, der Mitte August 2025 veröffentlicht wurde. Ich bin durch den folgenden Tweet auf das Thema aufmerksam geworden.

Die anfängliche Behauptung, dass generative KI-Tools die Produktivität von Softwareentwicklern um bis zu 55 % steigern können, ist mit einem großen, aber wichtigen Vorbehalt verbunden. Dies funktioniert nur, wenn die Entwickler bei der Erstellung der Software klare Richtlinien einhalten müssen und dies auch tun und entsprechend geschult sind.

Wo technische Schulden zum Bankrott führten

In ihrer Arbeit nennen die MIT-Forscher zwei Fälle, in denen „technische Schulden“ (wahrscheinlich ohne KI-Entwicklung) bereits in eine Katastrophe geführt haben. Im Dezember 2022 wird ein Vorfall mit der US-amerikanischen Fluggesellschaft Southwest Airlines erwähnt. Ein Wintersturm brachte weite Teile der USA zum Stillstand. Besonders hart traf es Southwest Airlines. Ihr Flugplanungssystem brach zusammen, was den fast vollständigen Zusammenbruch der Fluggesellschaft mit Zehntausenden Annullierungen und gestrandeten Passagieren zur Folge hatte.

Bei der Untersuchung des Vorfalls wurden schwerwiegende Probleme in der veralteten IT-Infrastruktur von Southwest festgestellt, die nicht in der Lage war, die Systemkomplexität und -unterbrechung zu bewältigen. Mehr als 16.900 Flugausfälle kosteten die Fluggesellschaft mehr als 750 Millionen US-Dollar und führten zu technischen Schulden in den Besatzungsplanungssystemen.

Technische Schulden führten im Jahr 2024 zu einem großen CrowdStrike-Ausfall, der weltweit zu IT-Systemausfällen führte (siehe CrowdStrike: Untersuchungsbericht; Schäden und Entschädigung; Schuldzuweisung). Diese Liste geht weiter.

Das MIT untersucht die Angelegenheit

Das MIT hat Studien in kontrollierten Umgebungen durchgeführt, in denen Programmierer isolierte Aufgaben ausführten. Dabei handelte es sich bereits um ideale Bedingungen und nicht um reale Umgebungen, in denen Software auf bestehenden komplexen Systemen aufbauen muss. Ziel war es, die Risiken der KI-Codeentwicklung zu erfassen.

Jedem erfahrenen Entwickler ist wahrscheinlich klar: Wenn der Einsatz von KI-generiertem Code schnell skaliert oder auf neue Feld-(Basis-)Umgebungen angewendet wird, sind die Risiken viel größer und viel schwieriger zu bewältigen, so das MIT. Im Rahmen der laufenden Forschung zum strategischen Management der KI-gestützten Softwareentwicklung wurden Interviews mit Personen geführt, die an der Softwareentwicklung beteiligt sind. Dies reicht von Nachwuchsentwicklern bis hin zu Software-Ingenieuren und CEOs. An den Interviews nahmen Entwickler aus verschiedenen Branchen teil, darunter Versicherungen, Webhosting, soziale Medien, Verteidigung, Unternehmensberatung und Fintech.

Basierend auf diesen Interviews, einer Überprüfung der Fachpresse und den eigenen Wirtschaftsmodellen des MIT haben MIT-Forscher mehrere strategische Kompromisse identifiziert, die Unternehmen bei der Einführung kreativer KI für die Softwareentwicklung berücksichtigen sollten.

Welche Schlussfolgerungen zieht das MIT?

Die MIT-Studie kommt zu dem Schluss, dass Unternehmen nicht generell auf den Einsatz generativer KI für die Programmierung verzichten sollten. Aber es kommt auf den richtigen Kontext an. Wenn neue Produkte schnell auf der grünen Wiese (einer neuen Umgebung) prototypisiert werden, könne KI-generierter Code einen echten Geschwindigkeitsvorteil bieten, heißt es.

KI-generierter Code sollte mit Vorsicht verwendet werden, wenn Skalierbarkeit Priorität hat oder wenn der Einsatz in neuen Feldumgebungen geplant ist, also einer Umgebung, die durch Legacy-Systeme belastet ist, schreibt das MIT.

Laut MIT deuten Interviews und Berichte erfahrener Entwickler darauf hin, dass weniger qualifizierte Softwareentwickler mit größerer Wahrscheinlichkeit KI-bedingte technische Schulden machen. Hochqualifizierte Entwickler sind sich architektonischer Mängel und technischer Schulden besser bewusst, bevor sie eskalieren. Der MIT-Artikel zitiert einen Softwareentwickler in der KI-Infrastrukturabteilung eines Fortune-50-Technologieunternehmens.

Er erklärte: „Mit KI kann ein junger Ingenieur genauso schnell programmieren wie ein leitender Ingenieur, aber ihm fehlt das kognitive Verständnis dafür, was er tut, welche Probleme er verursacht und ob das, was er tut, überhaupt eine gute Idee ist.“ Die Empfehlung des MIT lautet, dass Manager Vorsicht walten lassen sollten, wenn KI-generierter Code von unerfahrenen Entwicklern verwendet wird oder wenn solcher Code in einer neuen Feldumgebung verwendet wird.

Empfehlung: Wenn beide Risikofaktoren vorliegen, ist es möglicherweise am besten, ganz auf die Verwendung von KI-generiertem Code zu verzichten. Das geht weit über das hinaus, was der heutige Marketinglärm vermittelt.

Tipps vom MIT

Das MIT rät Unternehmen, den Trend, dass KI-Tools die technische Verschuldung erhöhen, als strategisches Risiko zu betrachten. Die Forscher geben folgende Ratschläge:

• Entwickeln Sie klare Richtlinien dafür, wann und wie Sie KI-gestützte Codierungstools verwenden.
• Investieren Sie in die Schulung kleiner Entwickler, damit sie KI-Tools besser nutzen können, ohne übermäßige technische Schulden zu machen.

Das MIT schreibt, dass viele große Unternehmen (darunter Microsoft, Google, Meta und Salesforce) bereits Richtlinien für den verantwortungsvollen Einsatz von KI festgelegt haben, die auf ethischen Grundsätzen wie Fairness, Datenschutz und Inklusivität basieren (obwohl ich einige Schwierigkeiten habe, dies für bare Münze zu nehmen).

Die Umsetzung dieser hohen Ideale in praktische Alltagsrichtlinien für die KI-gestützte Softwareentwicklung sei jedoch ein fortlaufender Prozess, schreiben die Forscher.

Auch das Thema „Investitionen in kleine Entwickler“ ist derzeit schwierig. Heute sind wir, zumindest den Medien zufolge, immer noch in der Phase, in der US-Unternehmen keine jungen Entwickler einstellen wollen, weil „KI es besser kann“. Allerdings gibt es auch Gegenwind. Laut AWS-CEO ist es „eine der dümmsten Ideen überhaupt“, kleine Entwickler durch KI zu ersetzen. YouTubes The AI ​​Lie: How AI is Really Impacts Software Developers Ich werde auch auf das YouTube-Video von David Tielke verlinken, das einen interessanten Einblick bietet.

Die MIT-Forscher erhoffen sich aus den Interviews, dass die Entwicklung von KI-Tools künftig dazu beitragen wird, die entstehenden technischen Schulden zu reduzieren, sie wird sie jedoch nie beseitigen können. Die Reaktionen auf den obigen Tweet sind daher von Skepsis geprägt.

Es bleibt also spannend – bei verantwortungsvollem Einsatz kann die Generierung von KI-Code helfen (siehe auch das YouTube-Video oben). In den falschen Händen wird die Erstellung von KI-Code Unternehmen und letztlich auch Kunden ruinieren. Ich hoffe, dass die Softwarehaftung die schlimmsten Missbräuche verhindern wird. Doch der Test steht noch aus.