Unternehmen fordern Gesetze für Künstliche Intelligenz

Eine repräsentative TÜV-Studie zum Einsatz Künstlicher Intelligenz (KI) kommt zu dem Ergebnis, dass die überwiegende Mehrheit der deutschen Unternehmen den Einsatz Künstlicher Intelligenz sehr positiv sehen und sich Wettbewerbsvorteile versprechen, gleichzeitig aber auch Rechtssicherheit verlangen. Neun von zehn Unternehmen (90 %) fordern demnach gesetzliche Regelungen, um Haftungsfragen zu klären. 87 % sind der Meinung, dass KI-Anwendungen in Abhängigkeit von ihrem Risiko reguliert werden sollten, und 84 % wünschen sich, dass Produkte und Anwendungen mit Künstlicher Intelligenz für die Nutzer klar gekennzeichnet werden.

Vertrauen in Künstliche Intelligenz nur durch rechtliche Vorgaben zu erreichen?

Für die repräsentative Studie wurden im Auftrag des TÜV-Verbands 500 Unternehmen ab 50 Mitarbeitern befragt wurden. „Künstliche Intelligenz ist eine Schlüsseltechnologie der Digitalisierung mit enormen Chancen, die aber einen gesetzlichen Rahmen braucht“, sagte Dr. Dirk Stenkamp, Präsident des TÜV-Verbands (VdTÜV), bei Vorstellung der Studienergebnisse in Berlin. „KI-Anwendungen sollten bestimmte Sicherheitsanforderungen erfüllen, wenn bei ihrer Nutzung die Gesundheit von Menschen oder ihre elementaren Grundrechte wie Privatsphäre oder Gleichberechtigung in Gefahr sind.“

Risiken bestünden zum Beispiel bei automatisierten Fahrzeugen, medizinischen Diagnosen oder der Personalauswahl. Stenkamp: „Nur mit klaren gesetzlichen Vorgaben können wir Vertrauen in KI schaffen und eine breite Nutzung ermöglichen.“ Laut den Studienergebnissen nutzen derzeit erst 11 % der Unternehmen KI-Anwendungen. Weitere 4 % planen die Nutzung und 15 % diskutieren darüber. Als Hemmnisse für eine (stärkere) Nutzung nennen die Befragten neben fehlenden Anwendungen (50 %) unter anderem rechtliche Unsicherheiten (42 %), Sorge vor Datenschutzproblemen (41 %), einen Mangel an Know-how bzw. Fachkräften (41 %) oder auch Sicherheitsbedenken (27 %). Stenkamp: „Gerade der Mittelstand traut sich an KI noch nicht ran. Vielen Unternehmen fehlt es an Know-how, was zu Unsicherheiten beim Einsatz der Technologie führt.“

Unternehmen versprechen sich von KI Wettbewerbsvorteile

Laut Umfrage empfinden 82 % der befragten Geschäftsführer und IT-Verantwortlichen etwas Positives oder sehr Positives, wenn sie an Künstliche Intelligenz denken. Eine große Mehrheit (78 %) ist außerdem davon überzeugt, dass ihnen der KI-Einsatz entscheidende Wettbewerbsvorteile verschaffen kann. Unter den KI-Nutzern setzt gut jedes dritte Unternehmen (35 %) die Technologie für innerbetriebliche Zwecke ein. 29 % nutzen KI in ihren Produkten und Dienstleistungen, um diese mit zusätzlichen Funktionen auszustatten oder in anderer Form zu verbessern. 23 % machen beides. „Die Anwendungsgebiete von KI-Systemen sind sehr vielfältig und ziehen sich durch sämtliche Unternehmensbereiche“, sagte Stenkamp.

So verwenden 45 % der KI-Nutzer die Technologie in der IT (z.B. im Netzwerkmanagement), 39 % im Kundenservice (z.B. als Chatbots), 30 % im Marketing (z.B. für Hypertargeting), 27 % in der Produktion (z.B. Roboter und Cobots) oder 22 % in der Entwicklung (z.B. für Simulationen).

Wenn es um die Nutzung der Technologie geht, wünschen sich Unternehmen mehr Orientierung für ihr Business. „KI-Systeme sind häufig eine Art Blackbox, deren Entscheidungen die Nutzer nicht nachvollziehen können“, sagte Stenkamp. Daher würden es mehr als vier von fünf Unternehmen befürworten (84 %), wenn die Zuverlässigkeit einer KI von unabhängigen Experten bestätigt würde. Bei der Anschaffung eines KI-Systems würden 86 % ein Produkt bevorzugen, das über ein neutrales Prüfzeichen verfügt. Und 85 % fordern, dass die Sicherheit von KI-Anwendungen von herstellerunabhängigen Stellen geprüft wird.

Unternehmen erwarten strukturelle Veränderungen durch Künstliche Intelligenz

Die befragten Unternehmen rechnen damit, dass der breite Einsatz von Künstlicher Intelligenz zu strukturellen Umbrüchen führen wird: 80 % erwarten große oder sehr große Veränderungen in der Wirtschaft insgesamt, 40 % in ihrer Branche und 31 % in ihrem eigenen Unternehmen. Vor allem die Arbeitswelt könnte KI revolutionieren: 77 % der Unternehmen sind der Meinung, dass sich Jobprofile und berufliche Tätigkeiten durch den Einsatz von KI stark verändern werden. Vier von fünf Befragten (80 %) erwarten, dass KI-Systeme die meisten Routineaufgaben übernehmen werden. Gleichzeitig glauben fast ebenso viele (78 %), dass KI-Anwendungen den Menschen in der Regel nicht ersetzen, sondern ihn unterstützen werden. „Fast alle Unternehmen sind der Meinung, dass die Beschäftigten lernen müssen, mit KI-Anwendungen umzugehen“, sagte Stenkamp. „Entsprechend groß ist der Weiterbildungsbedarf.“

https://www.sicherheit.info/faktor-mensch-darum-reicht-ki-allein-nicht-aus

Eine knappe Mehrheit der befragten Unternehmen (52 %) erwartet, dass der Einsatz von KI zum Abbau sehr vieler Arbeitsplätze führen wird. Auf der anderen Seite gehen 45 % davon aus, dass die Technologie viele neue Jobs schaffen wird. Stenkamp: „Eine breite Anwendung von Künstlicher Intelligenz wird einen Strukturwandel auslösen, den Wirtschaft, Politik, Gewerkschaften und andere gemeinsam gestalten müssen.“

Aus Sicht der Prüforganisationen sind gesetzliche Vorgaben für Künstliche Intelligenz notwendig, um die Technologie sicherer zu machen und ihr damit zum Durchbruch zu verhelfen.

Die Empfehlungen des TÜV-Verbands im Überblick:

• Europäischen Rechtsrahmen KI-tauglich machen: Der Gesetzgeber sollte grundlegende Anforderungen an KI-gestützte Anwendungen in Bezug auf Kriterien wie körperliche Unversehrtheit, Gleichberechtigung, Privatsphäre oder IT-Sicherheit sowohl übergreifend als auch sektorspezifisch formulieren.
• KI-Systeme nach Risikoklassen regulieren: Nicht jede KI muss die gleichen Anforderungen erfüllen. So ist eine E-Mail-Spam-Erkennung anders zu behandeln als ein autonomes Fahrzeug. Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden.
• Unabhängige Prüfungen bei sicherheitsrelevanter KI: Bei risikobehafteten KI-Systemen sollte eine unabhängige Konformitätsbewertung erfolgen. So wird überprüft, ob KI-Anwendungen die gesetzlichen Anforderungen erfüllen und in der Nutzung sicher sind.
• Prüfmethoden weiterentwickeln: Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden entwickelt werden. Die Prüforganisationen leisten hier ihren Beitrag, brauchen dafür aber auch Unterstützung aus der Wissenschaft und der Politik.
• Datenstrategie gestalten: Die Verfügbarkeit und Qualität von Daten spielen für den Erfolg von Künstlicher Intelligenz eine herausragende Rolle. Eine zielführende KI-Regulierung setzt daher eine nationale und eine europäische Datenstrategie voraus.
• Trainingsdaten berücksichtigen: KI-Anwendungen sind lernende Systeme, deren Funktionen und Wirkungen von der Menge und Qualität ihrer Trainingsdaten abhängig sind. Der Zugang zu Trainingsdaten muss in den Datenstrategien geregelt werden.

„Mit dem ‚Weißbuch KI‘ der EU-Kommission sowie den Ergebnissen der Datenethikkommission und der Enquete-Kommission Künstliche Intelligenz liegen fundierte Analysen und Vorschläge auf dem Tisch“, sagte Stenkamp. „Jetzt muss es an die Umsetzung gehen.“

Methodik-Hinweis

Grundlage der Studienergebnisse ist eine repräsentative Umfrage des Marktforschungsinstituts Ipsos im Auftrag des TÜV-Verbands unter 500 Unternehmen ab 50 Mitarbeitern in Deutschland. Befragt wurden Geschäftsführer und IT-Verantwortliche.