Sie sind hier: Startseite » Markt » Studien

Herausforderungen für ethische KI-Praxis

Studie deckt branchenübergreifend kritische Lücken in Praxis zu Responsible AI auf
Untersuchung von ESG Research unterstreicht die Notwendigkeit von verbesserter KI-Governance, Transparenz und Zusammenarbeit

Unternehmen müssen bei ihren Bemühungen hinsichtlich Künstlicher Intelligenz Responsible AI besondere Priorität einräumen – nicht nur, um existierende und künftige rechtliche Regelungen einzuhalten, sondern auch, um das allgemeine Vertrauen in KI-getriebene Innovationen zu fördern und diese zu integrieren. Das ist das Ergebnis einer Studie der Enterprise Strategy Group (ESG) von TechTarget im Auftrag von Qlik.

Die Untersuchung sollte den Stand des praktischen Einsatzes von Responsible AI in den verschiedenen Branchen beleuchten. Diese bahnbrechende Studie befasst sich mit dem dringenden Bedarf an robusten ethischen Rahmenwerken, transparenten KI-Abläufen und branchenübergreifender Zusammenarbeit, um die Komplexität der KI-Integration in Geschäftsprozesse zu bewältigen.

Der Report von ESG enthält aufschlussreiche Daten über die Einführung, die Herausforderungen und die strategischen Initiativen im Zusammenhang mit Responsible AI:

>> Weitverbreitete Einführung von KI-Technologien: Überwältigende 97 Prozent der befragten Unternehmen setzen sich aktiv mit KI auseinander, wobei ein erheblicher Teil (74 Prozent) bereits Generative AI in der Produktion einsetzt. Dies markiert eine bemerkenswerte Verschiebung hin zu KI-gesteuerten Abläufen in allen Sektoren.

>> Viel Investition, wenig Strategie: Alle Befragten behaupten zwar von sich, aktiv in KI zu investieren, aber nur 61 Prozent stellen tatsächlich ein nennenswertes Budget für diese Technologien bereit. Es gibt obendrein eine bemerkenswerte Diskrepanz bei der strategischen Planung: 74 Prozent der befragten Unternehmen geben zu, dass sie noch gar keinen umfassenden, unternehmensweiten Ansatz für verantwortungsvolle KI haben.

>> Herausforderungen für ethische KI-Praxis: Der Report hebt mehrere zentrale Herausforderungen hervor, mit denen Unternehmen konfrontiert sind, darunter:
## 86 Prozent der befragten Unternehmen stehen vor der Herausforderung, die Transparenz und Erklärbarkeit von KI-Systemen zu gewährleisten, was auf einen hohen Bedarf an Lösungen zur Entmystifizierung von KI-Prozessen hinweist.
## fast alle Unternehmen (99 Prozent) sehen sich mit Hürden bei der Einhaltung von rechtlichen, KI-bezogenen Vorschriften sowie Standards konfrontiert, was die komplexe regulatorische Landschaft rund um KI-Technologien unterstreicht.

>> Operative Auswirkungen und Priorisierung von Responsible AI: Trotz der Herausforderungen stufen 74 Prozent aller Unternehmen verantwortungsvollen Einsatz von KI als höchste Priorität ein, was ein Zeichen für die wachsende Anerkennung der Bedeutung der Technologie ist. Dennoch hat mehr als ein Viertel der Befragten aufgrund unzureichender Maßnahmen für Responsible AI mit erhöhten Betriebskosten, behördlicher Kontrolle und Verzögerungen am Markt zu kämpfen.

>> Starkes Engagement der Stakeholder bei der Entscheidungsfindung im Bereich KI: Die Untersuchung zeigt, dass es bezüglich Responsible AI eine breit gefächerte Stakeholder-Landschaft gibt. IT-Abteilungen nehmen dabei eine besonders proaktive Rolle ein. Dies unterstreicht die Notwendigkeit von integrativen und kollaborativen Ansätzen bei der ethischen KI-Einführung und -Governance.

Angesichts der Ergebnisse von ESG-Research erkennt Qlik die Notwendigkeit an, KI-Technologien mit Responsible-AI-Prinzipien in Einklang zu bringen. Die Initiativen des Unternehmens in diesem Bereich beruhen auf der Bereitstellung robuster Datenmanagement- und Analysefunktionen, die für jedes Unternehmen, das die Komplexität von KI verantwortungsbewusst steuern will, unerlässlich sind. Qlik unterstreicht außerdem die Bedeutung einer soliden Datengrundlage, die für die Gewährleistung von Transparenz, Verantwortlichkeit und Fairness bei KI-Anwendungen entscheidend ist.

"Die ESG-Studie spiegelt unsere Haltung wider, dass der Kern der KI-Einführung jenseits der Technologie liegt – denn es geht darum, eine solide Datengrundlage für Entscheidungen und Innovationen zu schaffen", erklärt Brendan Grady, General Manager der Analytics Business Unit bei Qlik. "Wir bei Qlik unterstützen Unternehmen nicht nur beim Einsatz von KI, sondern auch bei deren sinnvoller Integration, die sich an ihren strategischen Zielen orientiert. Diese Studie unterstreicht die Bedeutung einer Integration von Responsible AI als Katalysator für ein nachhaltiges und wirkungsvolles Unternehmenswachstum."

"Unsere Studie bestätigt die wachsende Akzeptanz von KI in allen Branchen, zeigt aber auch eine Lücke bei der effektiven Umsetzung verantwortungsvoller KI-Praktiken auf", ergänzt Michael Leone, Principal Analyst bei ESG. "Während Unternehmen ihre KI-Initiativen weiter vorantreiben, wird die Notwendigkeit einer soliden Grundlage, die ethische Richtlinien und eine robuste Data Governance unterstützt, immer wichtiger. Unsere Studie zielt darauf ab, Unternehmen bei der Förderung verantwortungsvoller Innovationen zu unterstützen, die sowohl mit den Geschäftszielen als auch mit ethischen Standards in Einklang stehen."

Um die umfassenden Ergebnisse der ESG-Forschung zu Responsible AI und ihre Auswirkungen auf Unternehmen zu erkunden, sollten Interessierte den vollständigen Bericht herunterladen. Dieses Dokument bietet einen detaillierten Einblick in die aktuelle Landschaft der KI-Integration und die entscheidenden Schritte, die für die Einführung ethischer KI-Praktiken erforderlich sind. (Qlik: ra)

eingetragen: 10.05.24
Newsletterlauf: 08.07.24

Qlik Tech: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.

Meldungen: Studien

Risiken im Zusammenhang mit KI kaum versichert
Künstliche Intelligenz (KI) ist längst in deutschen Unternehmen im Dienstleistungssektor voll angekommen - das zeigt eine aktuelle Umfrage zu Nutzung, Chancen und Risiken von KI, die im Auftrag von Hiscox durchgeführt wurde. Befragt wurden Anwendende sowie (Mit-) Entscheider über den Einsatz von KI.
Investitionen beginnen sich auszuzahlen
Rockwell Automation hat die deutschen Ergebnisse ihres 10. jährlichen Berichts zur intelligenten Fertigung vorgestellt. Die Daten zeigen, dass der Fertigungssektor erhebliche Investitionen und Erträge in generative KI tätigt, aber immer noch mit Herausforderungen wie ungleichmäßiger Personalentwicklung und unzureichend genutzten Daten zu kämpfen hat.
Verständnis von systemischen Cyberrisiken
CyberCube und Munich Re, Anbieterin in ihren jeweiligen Gebieten, Modellierung und Rück-Versicherung, haben die wesentlichen Ergebnisse einer gemeinsamen Umfrage veröffentlicht. Gegenstand waren schwerwiegende Cyber-Kumulereignisse und die relative Widerstandsfähigkeit von Unternehmen gegenüber systemischen Ereignissen aufgrund wirksamer Maßnahmen zur Risikominderung.
Warum Echtzeitdaten für KI entscheidend sind
Daten waren für Unternehmen schon immer wichtig, das ist nichts Neues. Was sich jedoch verändert hat, ist die Geschwindigkeit, mit der sie verarbeitet werden müssen. Herkömmliche Datenarchitekturen stoßen zunehmend an ihre Grenzen, insbesondere wenn es darum geht, Entscheidungen auf Basis aktueller Daten in Echtzeit zu treffen.
Verantwortung für Datenschutz und Compliance
Fivetran, Anbieterin für Data Movement, präsentiert eine neue Studie. Sie zeigt: Nicht einmal die Hälfte (49 Prozent) der Technologie-Verantwortlichen in Unternehmen sind der Meinung, ihre derzeitige Datenarchitektur wäre den Anforderungen für den Einsatz von KI gewachsen. Gleichzeitig planen 89 Prozent noch dieses Jahr ihre eigenen Daten für das Training großer Sprachmodelle (LLMs) zu verwenden. Diese Diskrepanz verdeutlicht, wie schnell die Unternehmen den Einsatz von KI vorantreiben, obwohl sie gleichzeitig einräumen, dass ihre Datensysteme dafür noch nicht bereit sind.
Hybride oder Cloud-first-Umgebungen sind Standard
Keeper Security veröffentlichte ihren neuen Insight Report "Securing Privileged Access: Der Schlüssel zur modernen Unternehmensverteidigung". Da sich Unternehmen auf ein immer komplexeres Netzwerk von Benutzern, Anwendungen und Infrastrukturen verlassen, ist die Verwaltung privilegierter Zugriffe zur Verhinderung von Cyberangriffen sowohl kritischer als auch komplizierter geworden. Die rasche Einführung von Cloud-, Hybrid- und Multi-Vendor-Umgebungen in Kombination mit der zunehmenden Raffinesse und KI-gestützten Cyberangriffen erhöht den Bedarf an Lösungen, die sichere, skalierbare und zentralisierte Zugangskontrollen durchsetzen können.
Priorität für IT-Modernisierung
Trotz weiterhin knapper IT-Budgets inmitten der Rezession bleibt die digitale Transformation für deutsche Unternehmen ein Top-Thema mit hoher strategischer Priorität. CIOs richten ihre IT-Organisationen weiter auf Effizienz, Resilienz und Innovationsfähigkeit aus - und setzen einen Fokus auf die Themen IT-Modernisierung, Cloud-Transformation, Cyber Security sowie Data & AI. Gleichzeitig fordern Fachkräftemangel, demografischer Wandel sowie Künstliche Intelligenz eine strukturelle Neuausrichtung der IT-Organisation: Bereits heute zeigt sich, dass 69 Prozent der befragten CIOs und IT-Verantwortlichen eine zu langsame Umsetzungsgeschwindigkeit in ihren Unternehmen beklagen, während gleichzeitig mehrere Transformationsfelder wie Kostensenkungsprogramme oder intelligente Automatisierung parallel umgesetzt werden müssen.
Schutz vor der nOAuth-Schwachstelle
Semperis, Anbieterin von KI-gestützter Identitätssicherheit und Cyber-Resilienz, hat neue Forschungsergebnisse über die bekannte nOAuth-Schwachstelle in Entra ID von Microsoft veröffentlicht, die Angreifern mit minimalem Aufwand eine vollständige Kontoübernahme in anfälligen Software-as-a-Service (SaaS)-Anwendungen ermöglicht und für Unternehmen, die auf mandantenübergreifende Entra-Integrationen angewiesen sind, ein schwerwiegendes Risiko darstellt. Eric Woodruff, Chief Identity Architect von Semperis, präsentierte seine Ergebnisse diese Woche auf der Troopers 2025 in Heidelberg.
KI und Cloud beflügeln die Software-Umsätze
Deutschlands Digitalwirtschaft zeigt sich weitgehend krisenfest. Trotz geopolitischer Unsicherheiten und des aktuell schwierigen konjunkturellen Umfelds wachsen die Umsätze und es entstehen neue Jobs. So erwartet der Digitalverband Bitkom im deutschen Markt für IT und Telekommunikation (ITK) 2025 ein Umsatzplus von 4,4 Prozent auf 235,8 Milliarden Euro. Im vergangenen Jahr hatten die ITK-Umsätze um 4,7 Prozent auf 225,9 Milliarden Euro zugelegt.
Cloud-Migration wird immer wichtiger
Geschwindigkeit, Agilität und Resilienz sind entscheidender denn je, jedoch verlassen sich immer noch zu viele Organisationen auf On-Premise-HR- und ERP-Systeme. Das führt zu enormen Kosten. Ergebnisse einer internationalen Studie von Strada zeigen, dass fast zwei von fünf Unternehmen weiterhin Plattformen wie Microsoft Dynamics (20 Prozent) und SAP (19 Prozent) nutzen, obwohl bevorstehende Deadlines für das Support-Ende das Risiko von Störungen deutlich erhöhen.

Anstieg der Sicherheitsvorfälle in der Cloud Befragung zur hybriden Cloud