Sie sind hier: Startseite » Markt » Studien

Angst vor Schatten-KI hemmen KI- Einführung


Kein Bot auf KI? Bedenken hinsichtlich Schatten-KI und Regularien verzögern Einführung von GenAI-Tools
Rechtliche Unsicherheiten und Richtlinien behindern die Einführung von GenAI in DACH-Unternehmen


Nur 3 Prozent der Unternehmen im DACH-Raum beschreiben sich als fortgeschritten bei der Einführung generativer KI (GenAI). Das zeigt eine aktuelle Lünendonk-Studie. Trotz hohem Potenzial und zahlreichen Anwendungsfeldern ist die Skepsis gegenüber der neuen Technologie bei Anwendern wie Entscheidern hoch. Unsicherheit und die Angst vor Schatten-KI hemmen die Einführung. Gleichzeitig erhofft sich jedes zweite Unternehmen durch GenAI Hilfe bei der digitalen Transformation. Für Handelsunternehmen sind vor allem Anwendungen im Umfeld von E-Commerce und Marketing relevant. Das IT-Beratungshaus KPS sieht in aktivem Change-Management und der strukturierten Einführung den Schlüssel, um Potenziale von GenAI zu heben.

Fast jeder zweite CIO (46 Prozent) erachtet generative KI als relevant. Das größte Potenzial sehen die Befragten im konzeptuellen Arbeiten (85 Prozent), der Datenanalyse und Prognosen (80 Prozent), in digitalen Services (71 Prozent) sowie Chatbots (68 Prozent). Die Anwendungsfälle sind jedoch häufig noch Zukunftsmusik. Die Hälfte der befragten Unternehmen steht noch am Anfang bei der Identifizierung von Use Cases. "Unternehmen, die aktiv mit KI arbeiten, werden Unternehmen abhängen, die keine KI einsetzen. Gleichzeitig gehen mit der Implementierung viele Herausforderungen einher, von einer Schatten-KI bis hin zu Compliance-Fragen. Dieses Spannungsfeld von Risiken und Regularien gilt es abzubauen", ordnet Paul Anderie, Head of AI & Data Activation bei der KPS AG, ein.

Risiko einer Schatten-KI: Unstrukturierte Einführung und unbegrenzter Zugriff
Die Einführung von KI-Tools erfolgt selten zentral gesteuert durch die Geschäftsleitung (28 Prozent) oder einem CIO und der IT (19 Prozent); 15 Prozent sehen die Verantwortung in den einzelnen Fachbereichen. In nur sieben Prozent liegt die Verantwortung bei einem dedizierten Chief Data oder Chief Digital Officer. Bei einem Drittel der befragten Unternehmen fällt diese Aufgabe einzelnen Mitarbeitenden zu. "In der DACH-Region wird generative KI weniger strategisch gedacht als vielmehr ‚einfach gemacht‘. Das ermächtigt die Fachabteilungen, öffnet aber auch komplexe Fragestellungen hinsichtlich der Zugriffsrechte", so Paul Anderie. Auch bei internen Regularien zeigt die Studie deutliche Unterschiede auf: 35 Prozent der Unternehmen gestatten nur ausgewählten Bereichen und Funktionen Zugriff auf GenAI-Tools, während in einem Drittel der Unternehmen jeder Mitarbeitende uneingeschränkten Zugriff hat.

"Gerade die Kombination aus uneingeschränktem Zugriff für alle Mitarbeitenden und dem Fehlen einer strategischen, top-down-getriebenen Implementierung mit festgelegten Regeln und Schulungen für die Mitarbeitenden kann zu einer Schatten-KI führen. Das birgt Risiken wie Anwendungsfehler und falsche Ergebnisse, aber auch Verstöße gegen Compliance-Richtlinien oder die Data-Governance. Gleichzeitig sollte der Innovationsgeist von engagierten Mitarbeitenden nicht erstickt werden", weiß Paul Anderie.

KI-Skepsis vorherrschend: Fehlendes Vertrauern als Hemmschwelle
Tatsächlich zeigt die Studie diese Aspekte als größte Bedenken in Hinblick auf GenAI auf: In 59 Prozent der Unternehmen haben die Mitarbeitenden geringes oder sehr geringes Vertrauen in die durch GenAI-Tools erzeugten Ergebnisse, nur 7 Prozent vertrauen voll und ganz darauf. Gleichzeitig beobachtet über die Hälfte der Befragten derzeit nur geringe Produktivitätssteigerungen durch die Technologie. Anwendern ist der Nutzen der Technologie häufig noch nicht klar.

Führungspersonal (CIO, IT-Leiter, Vorstände, Geschäftsleitung, Fachbereichsleiter) hat vor allem rechtliche Bedenken über die Konsequenzen falscher KI-generierter Ergebnisse (71 Prozent) und fürchtet Haftungsrisiken gegenüber Entscheidungen durch die KI (70 Prozent). Auch unzureichende Data Governance (54 Prozent) und eigene Compliance-Vorgaben (43 Prozent) beschäftigen Führungspersonen. In Summe ist in 13 Prozent aller Unternehmen der Einsatz von generativer KI nicht zugelassen – der überwiegende Hauptgrund dafür ist mit 58 Prozent Compliance und Regulatorik.

"Viele unserer Kunden berichten von fehlendem Wissen darüber, welche regulatorischen Bestimmungen gelten oder wie mit Datenschutzfragen umgegangen wird. Gesetze wie der EU AI Data Act bieten die Chance, klare Regeln für den Einsatz von KI-Technologien in der EU aufzustellen und Sicherheit und Vertrauen für Unternehmen zu schaffen. Auch im Unternehmen sind Richtlinien wichtig, um das Vertrauen der Mitarbeitenden in die Ergebnisqualität zu stärken und Probleme wie Data-Governance-Verletzungen zu vermeiden. Hier stehen wir in manchen Branchen jedoch noch am Anfang. Ganze 40 Prozent der befragten Handelsunternehmen kennen zum Beispiel den EU AI Data Act nicht, nur 8 Prozent arbeiten an der Umsetzung."

GenAI im Handel: Der Mensch im Mittelpunkt
Dabei bietet vor allem die Branche Handel viele Anwendungsfelder für GenAI. Zu den Top drei Anforderungen zählen eine bessere Kundenzentrierung, mehr Agilität und Flexibilität und die Beschleunigung der Transformation. "Besonders beliebte Use Cases für Handelsunternehmen finden sich im E-Commerce und im Marketing. Beispiele sind personalisierte, KI-gestützte Produktempfehlungen, automatisch generierter Content oder Predictive Pricing", ordnet Paul Anderie ein. "Die Branche steht GenAI aktuell jedoch noch skeptisch gegenüber, nur ein Bruchteil traut sich an die Entwicklung eigener trainierter Modelle heran."

Ein gutes Drittel (36 Prozent) der befragten Unternehmen im Handel sieht eine gewisse Relevanz von GenAI für ihre Branche, die Restlichen schätzen die Relevanz als niedrig oder sehr niedrig ein. Zudem lässt ein im Branchenvergleich hoher Anteil von 24 Prozent aller Handelsunternehmen die Nutzung von GenAI bisher gar nicht zu. Ein Grund dafür ist das zu erwartende hohe Investment in GenAI-Projekte, deren Return on Investment aktuell noch nicht klar ist. Zudem sehen 24 Prozent die Technologie als Gefahr für das eigene Geschäftsmodell. Mit klar definierten Startprojekten und Proofs of Concepts (PoC) können Unternehmen einen Mehrwert schaffen und Erfahrungswerte sammeln, weiß beispielsweise die Baumarktkette Globus, ein Kunde der KPS AG.

"KI ist allgegenwärtig und jeder hat bereits erste Berührungspunkte, aber der Nutzen lässt sich noch nicht genau quantifizieren, weshalb viele – nicht zuletzt aufgrund der Investitionen, die mit der Einführung von KI verbunden sind – doch noch skeptisch sind", kommentiert Christian Becker, Fachbereichsleiter Solution Architecture, Koordination GLOBUS Holding GmbH & Co. KG. "Wir sind bewusst mit einem PoC rund um GenAI gestartet, um die Thematik griffiger zu machen, die Mehrwerte herauszuarbeiten und die ersten Schritte zu initiieren, bevor wir es in die Fachabteilungen tragen."

"Der Einsatz von neuen Technologien führt immer dazu, dass Mitarbeiter sich – bewusst oder unbewusst – fragen, welchen Einfluss das auf sie und ihren Arbeitsplatz haben wird und somit immer eine gewisse Skepsis gegenüber den Neuerungen mitschwingt," so Bert Middendorb, Director E-Commerce bei GALERIA Karstadt Kaufhof GmbH i.I., über den Einsatz von GenAI.

"Die wichtigsten Erfolgsfaktoren für die erfolgreiche Implementierung sind ein strukturiertes Vorgehen und gutes Change-Management: Man muss die Menschen mitnehmen, die aktuell für die Prozesse zuständig sind. Am Ende geht es meist weniger um die Technologie, sondern viel mehr um den Menschen dahinter. Mit unserer langjährigen Erfahrung in IT-Change-Management-Prozessen unterstützen wir Unternehmen auf ihrer GenAI-Reise. Dabei geht es zum Beispiel darum, auf allen Ebenen Bedenken ernst zu nehmen und Skepsis abzubauen: Für Mitarbeitende ist es wichtig zu verstehen, dass GenAI sie unterstützen, nicht ersetzen wird. Entscheider müssen den konkreten Wert erkennen, den die Technologie für ihre Branche und ihr Business bedeutet", so Paul Anderie.

Über die Studie:
Die Studie entstand in Kooperation mit FT, KPS, Protiviti, Randstad Digital, Reply und Senacor. Es wurden 150 IT- und Business-Führungskräften aus Unternehmen und Behörden im deutschsprachigen Raum befragt. Diese stammen aus dem produzierenden Gewerbe, dem Handel, dem Energiesektor, dem Healthcare-Bereich und der Automobilindustrie sowie den regulierten Branchen Banken, Versicherungen und dem öffentlichen Sektor. Bei der Auswahl der Interviewpartnerinnen und -partner wurde auf ein ausgewogenes Verhältnis von Führungskräften aus dem Business und der IT geachtet. (KPS: ra)

eingetragen: 02.08.24
Newsletterlauf: 20.09.24


Meldungen: Studien

  • Risiken im Zusammenhang mit KI kaum versichert

    Künstliche Intelligenz (KI) ist längst in deutschen Unternehmen im Dienstleistungssektor voll angekommen - das zeigt eine aktuelle Umfrage zu Nutzung, Chancen und Risiken von KI, die im Auftrag von Hiscox durchgeführt wurde. Befragt wurden Anwendende sowie (Mit-) Entscheider über den Einsatz von KI.

  • Investitionen beginnen sich auszuzahlen

    Rockwell Automation hat die deutschen Ergebnisse ihres 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in generative KI tätigt, aber immer noch mit Herausforderungen wie ungleichmäßiger Personalentwicklung und unzureichend genutzten Daten zu kämpfen hat.

  • Verständnis von systemischen Cyberrisiken

    CyberCube und Munich Re, Anbieterin in ihren jeweiligen Gebieten, Modellierung und Rück-Versicherung, haben die wesentlichen Ergebnisse einer gemeinsamen Umfrage veröffentlicht. Gegenstand waren schwerwiegende Cyber-Kumulereignisse und die relative Widerstandsfähigkeit von Unternehmen gegenüber systemischen Ereignissen aufgrund wirksamer Maßnahmen zur Risikominderung.

  • Warum Echtzeitdaten für KI entscheidend sind

    Daten waren für Unternehmen schon immer wichtig, das ist nichts Neues. Was sich jedoch verändert hat, ist die Geschwindigkeit, mit der sie verarbeitet werden müssen. Herkömmliche Datenarchitekturen stoßen zunehmend an ihre Grenzen, insbesondere wenn es darum geht, Entscheidungen auf Basis aktueller Daten in Echtzeit zu treffen.

  • Verantwortung für Datenschutz und Compliance

    Fivetran, Anbieterin für Data Movement, präsentiert eine neue Studie. Sie zeigt: Nicht einmal die Hälfte (49 Prozent) der Technologie-Verantwortlichen in Unternehmen sind der Meinung, ihre derzeitige Datenarchitektur wäre den Anforderungen für den Einsatz von KI gewachsen. Gleichzeitig planen 89 Prozent noch dieses Jahr ihre eigenen Daten für das Training großer Sprachmodelle (LLMs) zu verwenden. Diese Diskrepanz verdeutlicht, wie schnell die Unternehmen den Einsatz von KI vorantreiben, obwohl sie gleichzeitig einräumen, dass ihre Datensysteme dafür noch nicht bereit sind.

  • Hybride oder Cloud-first-Umgebungen sind Standard

    Keeper Security veröffentlichte ihren neuen Insight Report "Securing Privileged Access: Der Schlüssel zur modernen Unternehmensverteidigung". Da sich Unternehmen auf ein immer komplexeres Netzwerk von Benutzern, Anwendungen und Infrastrukturen verlassen, ist die Verwaltung privilegierter Zugriffe zur Verhinderung von Cyberangriffen sowohl kritischer als auch komplizierter geworden. Die rasche Einführung von Cloud-, Hybrid- und Multi-Vendor-Umgebungen in Kombination mit der zunehmenden Raffinesse und KI-gestützten Cyberangriffen erhöht den Bedarf an Lösungen, die sichere, skalierbare und zentralisierte Zugangskontrollen durchsetzen können.

  • Priorität für IT-Modernisierung

    Trotz weiterhin knapper IT-Budgets inmitten der Rezession bleibt die digitale Transformation für deutsche Unternehmen ein Top-Thema mit hoher strategischer Priorität. CIOs richten ihre IT-Organisationen weiter auf Effizienz, Resilienz und Innovationsfähigkeit aus - und setzen einen Fokus auf die Themen IT-Modernisierung, Cloud-Transformation, Cyber Security sowie Data & AI. Gleichzeitig fordern Fachkräftemangel, demografischer Wandel sowie Künstliche Intelligenz eine strukturelle Neuausrichtung der IT-Organisation: Bereits heute zeigt sich, dass 69 Prozent der befragten CIOs und IT-Verantwortlichen eine zu langsame Umsetzungsgeschwindigkeit in ihren Unternehmen beklagen, während gleichzeitig mehrere Transformationsfelder wie Kostensenkungsprogramme oder intelligente Automatisierung parallel umgesetzt werden müssen.

  • Schutz vor der nOAuth-Schwachstelle

    Semperis, Anbieterin von KI-gestützter Identitätssicherheit und Cyber-Resilienz, hat neue Forschungsergebnisse über die bekannte nOAuth-Schwachstelle in Entra ID von Microsoft veröffentlicht, die Angreifern mit minimalem Aufwand eine vollständige Kontoübernahme in anfälligen Software-as-a-Service (SaaS)-Anwendungen ermöglicht und für Unternehmen, die auf mandantenübergreifende Entra-Integrationen angewiesen sind, ein schwerwiegendes Risiko darstellt. Eric Woodruff, Chief Identity Architect von Semperis, präsentierte seine Ergebnisse diese Woche auf der Troopers 2025 in Heidelberg.

  • KI und Cloud beflügeln die Software-Umsätze

    Deutschlands Digitalwirtschaft zeigt sich weitgehend krisenfest. Trotz geopolitischer Unsicherheiten und des aktuell schwierigen konjunkturellen Umfelds wachsen die Umsätze und es entstehen neue Jobs. So erwartet der Digitalverband Bitkom im deutschen Markt für IT und Telekommunikation (ITK) 2025 ein Umsatzplus von 4,4 Prozent auf 235,8 Milliarden Euro. Im vergangenen Jahr hatten die ITK-Umsätze um 4,7 Prozent auf 225,9 Milliarden Euro zugelegt.

  • Cloud-Migration wird immer wichtiger

    Geschwindigkeit, Agilität und Resilienz sind entscheidender denn je, jedoch verlassen sich immer noch zu viele Organisationen auf On-Premise-HR- und ERP-Systeme. Das führt zu enormen Kosten. Ergebnisse einer internationalen Studie von Strada zeigen, dass fast zwei von fünf Unternehmen weiterhin Plattformen wie Microsoft Dynamics (20 Prozent) und SAP (19 Prozent) nutzen, obwohl bevorstehende Deadlines für das Support-Ende das Risiko von Störungen deutlich erhöhen.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen