KI wird zum Fachkollegen – aber nur, wenn Menschen ihr vertrauen

KI braucht Vertrauen

Neue Forschung und aktuelle Marktdaten zeigen, woran der KI-Einsatz in Unternehmen wirklich hängt: nicht zuerst an der nächsten Modellgeneration, sondern an Vertrauen, klaren Rollen und belastbarer Governance.

Nicht der Algorithmus allein entscheidet

Eine aktuelle, inzwischen in MIS Quarterly veröffentlichte Studie von Forschenden der Universität Kassel, der TU Dortmund, der TU Darmstadt und der Goethe-Universität Frankfurt zeigt: Vertrauen in KI entsteht in sensiblen Einsatzfeldern nicht automatisch durch technische Leistungsfähigkeit. Entscheidend ist, wie gut sich ein KI-System in die Beziehung zwischen Fachleuten und ihren Kunden einfügt. Untersucht wurde das am Beispiel eines Robo-Advisors in einer großen europäischen Bank. Die Forschenden beschreiben, dass Expertinnen und Experten Vertrauen in mehreren Stufen aufbauen und die KI dabei eher als eingebetteten Gegenpart denn als bloßen Ersatz bewerten. Laut Universität Kassel basiert der Befund auf einer mehr als fünfjährigen Untersuchung mit 89 Interviews sowie zusätzlichem Beobachtungs- und Sekundärmaterial.

Der Markt ist weiter als die Organisation

Für IT-Entscheider kommt dieser Befund zur richtigen Zeit. Laut Bitkom nutzt inzwischen rund jedes dritte Unternehmen in Deutschland KI; weitere 47 Prozent planen oder diskutieren den Einsatz. Gleichzeitig halten 81 Prozent KI für die wichtigste Zukunftstechnologie, und 83 Prozent sehen in ihr vor allem eine Chance für das eigene Unternehmen. Die Technologie ist damit im Markt angekommen. Was vielerorts noch fehlt, ist die organisatorische Reife, um sie verlässlich in Prozesse, Verantwortlichkeiten und Kundeninteraktionen einzubetten.

Nutzung wächst, Vertrauen hinkt hinterher

Dass genau hier die eigentliche Herausforderung liegt, zeigt auch die internationale Vergleichsebene. In der globalen Studie von KPMG und der University of Melbourne mit mehr als 48.000 Befragten in 47 Ländern geben 66 Prozent an, KI regelmäßig zu nutzen, und 83 Prozent erwarten Vorteile. Gleichzeitig sagen aber nur 46 Prozent, dass sie KI-Systemen vertrauen. 70 Prozent befürworten Regulierung. Besonders relevant für den Unternehmenskontext: 66 Prozent verlassen sich bei der Arbeit auf KI-Ergebnisse, ohne deren Richtigkeit ausreichend zu prüfen, und 56 Prozent berichten von Fehlern durch KI-Nutzung. Die Akzeptanz steigt also schneller als die vertrauenswürdige Anwendung.

Ohne Regeln entsteht Schatten-KI

Wie schnell daraus ein operatives Risiko wird, zeigen aktuelle Bitkom-Daten zur sogenannten Schatten-KI. Zwar stellen inzwischen 26 Prozent der Unternehmen ihren Beschäftigten bereits Zugang zu generativer KI zur Verfügung. Aber nur 23 Prozent haben klare Regeln für den Einsatz solcher Tools aufgestellt. Zugleich berichten 25 Prozent der Unternehmen, dass Beschäftigte bereits private KI-Tools im Job nutzen oder dass es dafür zumindest Einzelfälle gibt; weitere 17 Prozent vermuten das. Der produktive Einsatz wächst also vielfach schneller als die Governance.

Was das jetzt für IT-Entscheider bedeutet

Aus diesen Befunden lässt sich eine klare Priorität ableiten: Wer KI im Unternehmen skalieren will, sollte nicht nur auf Leistung, Kosten oder Funktionsumfang schauen. Mindestens genauso wichtig sind freigegebene Werkzeuge, nachvollziehbare Regeln, rollenscharfe Verantwortung und Qualifizierung. Das passt sowohl zu den Ergebnissen der Kasseler Studie als auch zu den Handlungsschwerpunkten der KPMG-Studie, die Vertrauen, KI-Kompetenz und Governance ausdrücklich in den Mittelpunkt stellt. Vertrauen entsteht demnach dort, wo KI nicht unkontrolliert neben dem Unternehmen läuft, sondern als verlässlicher Fachkollege in bestehende Arbeits- und Kundenbeziehungen eingebettet wird.