KI in der Arbeitswelt: Versprechen und Herausforderungen

Künstliche Intelligenz (KI) wird in vielen Branchen als das verheißene Land betrachtet – sie verspricht schnelle Durchlaufzeiten für eine Vielzahl von Aufgaben. Von der Optimierung von Arbeitsabläufen bis hin zur Unterstützung von Entscheidungsprozessen hat KI das Potenzial, unsere Arbeitsweise grundlegend zu verändern. Ihre Fähigkeit, Routineaufgaben zu automatisieren und Echtzeit-Einblicke zu liefern, macht sie in vielen Bereichen zu einem unschätzbaren Werkzeug. Doch mit der zunehmenden Verbreitung steigen auch die Risiken und die Komplexität ihrer Nutzung. 

Trotz des transformativen Potenzials gibt es auch kritische Stimmen, die vor einer schnellen und unbedachten Einführung warnen. Eine warnende Geschichte stammt aus einer aktuellen Studie der Carnegie Mellon University mit dem Titel „The AgentCompany“: Sie ergab, dass selbst relativ erfolgreiche KI-Agenten nur etwa 30 % der mehrstufigen Büroaufgaben korrekt ausführen¹. Und Patrick Opet, Chief Information Security Officer bei JPMorganChase, stellte in einem offenen Brief an seine Lieferanten die zunehmende Abhängigkeit von KI-basierten Lösungen ohne ausreichende Sicherheit und Kontrolle offen in Frage². Wie viele fortschrittliche Technologien funktionieren KI-Systeme oft als „Black Box“, was es schwierig macht, Fehlerquellen zu identifizieren oder Entscheidungen nachzuvollziehen. Dieses fehlende Maß an Transparenz erschwert es, Fehler zu erkennen und zu beheben. Selbst wenn ein einzelner KI-Schritt eine Erfolgsquote von 95 % aufweist, führt dies in autonomen Anwendungen mit mehreren Schritten dennoch zu inakzeptabel hohen Fehlerraten. 

Bedeutet das, dass wir KI nicht vertrauen können? 

Nicht unbedingt. Der Weg zur Risikominimierung besteht darin, einen schrittweisen Ansatz zu verfolgen. So bleibt die Aufgabe für die KI überschaubar. Ein zusätzlicher Vorteil: Jeder Zwischenschritt kann leicht überprüft werden. Ein gutes Beispiel dafür ist unser kürzlicher Einsatz des KI-Tools Loveable, das wir verwendet haben, um ein internes Konfigurationstool für unsere Patient Engagement-Lösung Pathways InPatient zu erstellen. Ziel war es, dem Team zu ermöglichen, schnelle, anpassbare Änderungen am System vorzunehmen – ohne ständig auf Entwickler angewiesen zu sein. 

Clinton Davelaar, Entwickler bei LOGEX, bemerkte schnell, dass zusammengesetzte Prompts – selbst wenn sie für das menschliche Auge klar formuliert waren – oft zu unerwarteten Ergebnissen führten. Loveable traf regelmäßig Annahmen, die nicht mit seinen Erwartungen übereinstimmten. Statt der gewünschten Dropdown-Menüs generierte das Tool beispielsweise Radiobuttons – eine unbeabsichtigte Vereinfachung, die die Effizienz der Benutzeroberfläche beeinträchtigte. 

Clinton erinnerte sich an dieses schmerzlich lustige virale Video, in dem ein Vater seine Kinder bittet, ihm präzise Anweisungen für die Zubereitung eines Erdnussbutter-Gelee-Sandwiches zu geben – und er jede Anweisung absichtlich falsch auslegt³. Er verstand, was er tun musste: er musste das Problem Stück für Stück angehen. Indem er dem Tool eine lange Reihe kleiner Aufgaben gab, verstand das System besser, was das gewünschte Ergebnis war, und machte deutlich weniger Fehler. Und da jede Aufgabe klein war, konnte Clinton die Arbeit von Loveable problemlos überprüfen. 

Diese Erfahrung machte eine wichtige Erkenntnis deutlich: KI muss mit Vorsicht eingesetzt werden, insbesondere bei Aufgaben, die Genauigkeit und sorgfältige Planung erfordern. Clintons Geschichte zeigt, warum KI vor allem in Prozessen angewendet werden sollte, die sich in überschaubare, überprüfbare Schritte aufteilen lassen. Die von ihm verwendete KI-gestützte Plattform ermöglichte es seinem Team, die Benutzeroberfläche des Konfigurationstools schnell zu entwickeln und zu ändern – und das auf flexible Weise, ohne ständig Entwickler zu benötigen. 

Ja, KI bietet großes Potenzial – aber... 

... sie erfordert Aufsicht, klare Anweisungen und einen sorgfältigen, schrittweisen Ansatz. So lassen sich Risiken minimieren und der Wert von KI maximieren. 

 ¹ https://arxiv.org/pdf/2412.14161  

 ² https://www.jpmorgan.com/technology/technology-blog/open-letter-to-our-suppliers