Wenn Benutzer es selbst tunBorns IT- und Windows-Blog

In meiner Artikelserie gehe ich auf die besonderen Lücken ein, die der Wahnsinn der KI heute schafft. In diesem Artikel möchte ich „vor meine Haustür“ blicken und ein Thema ansprechen, das alle IT-Entscheider und Administratoren im Unternehmen betrifft. Anwender, die alles selbst in die Hand nehmen, stellen mithilfe von KI und Vibe Coding ihre eigene Software her und öffnen so eine Schatten-IT mit riesigen Sicherheitslücken.

Ein Gespräch in der Familie

Ich stehe dem Thema KI hier im Blog durchaus kritisch gegenüber, da in weiten Teilen des Managements und der Anwender eine unreflektierte Haltung gegenüber einer sehr nützlichen Technologie herrscht, die gezielt und überlegt eingesetzt wird. Natürlich hinterfrage ich ständig meine Position.

Vor einer Woche kam uns ein Familienmitglied besuchen. Den Mann, einen frischgebackenen Elektroingenieur, habe ich vor 20 Jahren in die .NET-Entwicklung eingeführt und mit ihm seine ersten Schritte in C# gemacht. Seitdem hat er sich zu einem erfahrenen C#- und .NET-Entwickler mit drei „Made it in the Country“-Schilden entwickelt. Als ich Leute fragte, ob sie Windows 11 in der heutigen Umgebung (Medizintechnik) verwenden und wie sie über KI denken, bekam ich einige sehr interessante Aussagen.

• Auf seinem Entwicklungs-PC läuft Windows 11, was allerdings wenig interessant ist, da er die Entwicklungsumgebung Visual Studio nutzt.
• Da die von ihm programmierte Anwendungssoftware auf Datenbanken zugreift, die unter Linux laufen, spielt es keine Rolle, ob sie von Windows-Client-Benutzern oder Ärzten verwendet wird – es hat nichts damit zu tun.
• Auf die Frage nach KI antwortete er, dass er die KI bei der Entwicklung des Codes unterstützen lasse, er aber alles kontrollieren und den Code für das Programm selbst schreiben müsse. AI stellt für einige Anforderungen lediglich Code-Schnipsel als groben Rahmen bereit.
• Zum Thema der eingesetzten KI hieß es, er führe Wettbewerbe durch und sein Arbeitgeber bekäme nun vermehrt Anfragen, da er dieses Thema vorsichtig bearbeite. Kunden wollen keine KI im Produkt.

Ich werde die Details nicht preisgeben, aber vor einiger Zeit konnte das Unternehmen davon profitieren, dass ein Konkurrent einen Fehler in seinem Produkt machte, der Patienten gefährden konnte. Damals mussten die betroffenen Geräte der Konkurrenz ausgetauscht werden, was zu erheblichen (Reputations-)Schäden führte. Das Interview hat mir einmal mehr gezeigt, was bestimmte Entscheidungen haben können und dass es nicht immer gut ist, hüfthoch auf den Wellen zu schwimmen, sondern vorausschauend zu denken.

Wenn Benutzer es tun

Der Artikel stand eine Zeit lang auf meiner Agenda, weil ich Feedback von den Lesern einholen wollte. Ich habe hier bereits kritisch über die Verzerrungen und Gefahren der Schwingungscodierung (also Software, die ohne Wissen mit KI erstellt wurde) berichtet (siehe Links am Ende des Artikels). Und über das Thema Softwarequalität habe ich im Beitrag Software Quality Crash: Normalizing a Catastrophe geschrieben.

Dies liefert uns die Zutaten dafür, dass die nächsten Katastrophen direkt vor unserer Haustür passieren. Und als Beweis habe ich den Beitrag aufadministrator.de „Selbsthilfe“-Benutzer gefunden? Ein IT-Administrator stieß auf einen, wie er es nennt, alarmierenden Trend.

• Im Pre-Poster-Geschäft verwenden Entwickler KI, um Code zu generieren, und das ist in Ordnung. Erstaunlich fand der Poster jedoch, einen Teil des generierten Codes 1:1 in das Produktivsystem zu übertragen. Und das ganz ohne Review, Testumgebung und teils sensible Unternehmensdaten direkt in die KI.
• Kartela arbeitet jetzt in einer Regierungseinrichtung in der Systemadministratorgruppe der 2. Ebene, wo sie über die gleichen Erfahrungen verfügt. Es wird gesagt, dass der Code, die Lösungen oder die Anweisungen blind von der KI übernommen werden. Fachwissen wird durch vermeintliche „KI-Expertise“ ersetzt. Und besonders bitter für den Poster, wie er schreibt: Endnutzer würden KI-generierte „problemspezifische Fehlermeldungen“ erhalten und sich damit dem Tier-1-Support stellen. Arbeitnehmer werden manchmal regelrecht verletzt.

Einerseits beschreibt das Poster wohl die Entwicklung, die wir heute alle in der Informatik erleben. Und es weist auf ein besonderes Problem der „KI-Schatten-IT“ in Unternehmen hin, die letztlich die Unternehmenssicherheit gefährdet. Ich dachte, das Thema ließe sich leicht unter „KI-Wahnsinn“ kategorisieren und würde gerne wissen, wie die Leser um Sie herum damit umgehen? Wie kann man in der Informatik verhindern, dass der vermeintliche „Selbsthilfe“-Benutzer KI nutzt, um die Vermögenswerte und Daten des Unternehmens zu stehlen?

Ähnliche Artikel:
KI-Wahnsinn Teil 1: Wenn ChaptGPT, Copilot & Co. Sie an falsche Orte locken
AI Madness Teil 2: Amazon sendet Perplexity AI eine Unterlassungserklärung zum Kauf über Comet
KI-Wahnsinn Teil 3: Von der KI geschaffene „Nichtigkeitsklage“ vom Gericht abgewiesen
KI-Wahnsinn Teil 4: Wenn Nutzer es selbst machen
KI-Wahnsinn Teil 5: Der gescheiterte Bericht von Deloitte, KI und Australien

Ähnliche Artikel:
Vibe-Coding-Fehler: Drama in Brasilien, Lesben-Dating-App enthüllt Daten
Bei der Vibe-Codierung hört jeder auf den „gegenüberliegenden Freund“.
Katastrophe: KI-Anbieter für Sicherheitsvorfälle localmind.ai – Teil 1
Ergänzung zum KI-Desaster bei Localmind GmbH und Morgendigital GmbH – Teil 2
localmind.ai: KI-Sicherheitsereignis, noch nicht vorbei – Teil 3
Software-Qualitätsfehler: Normalisierendes Desaster
Die KI-Blase wird platzen, aber wann?