Studie

Maximierung des Nutzens von KI durch Risikomanagement

Artificial Intelligence

Redaktion RiskNET07.06.2018, 10:24

Chatbots, selbstfahrende Autos und vernetzte Maschinen in digitalen Fabriken lassen erahnen, wie unsere Zukunft einmal aussehen wird. Der Einsatz von Künstlicher Intelligenz (KI) bringt Unternehmen – nach Ansicht der Allianz Global Corporate & Specialty (AGCS) – viele Vorteile wie höhere Effizienz, weniger repetitive Aufgaben und einem besseren Kundenservice. Gelangt die Technologie jedoch in die falschen Hände, könnten die potenziellen Gefahren den großen Nutzen schnell nivellieren. So steigert die allgegenwärtige Vernetzung die Anfälligkeit gegenüber böswilligen Cyberangriffen oder technischem Versagen, die zu großflächigen Ausfällen und enormen finanziellen Verlusten führen können. Unternehmen sehen sich zudem mit neuartigen Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen vom Menschen auf die Maschine verlagert.

In ihrer neuen Studie "The Rise of Artificial Intelligence: Future Outlook and Emerging Risks" identifiziert die AGCS einerseits die Vorteile der zunehmenden Implementierung von KI in Wirtschaft und Gesellschaft, einschließlich der Versicherungsbranche, weist aber auch auf entstehende Risiken durch die neue Technologie hin. Bei KI, auch als maschinelles Lernen bekannt, handelt es sich um Software, die in der Lage ist, wie ein Mensch zu denken und zu entscheiden.

"Egal ob für Wirtschaft, Politik, Mobilität, Gesundheit, Verteidigung oder Umwelt, KI bringt vielfältige Vorteile, aber auch potenzielle Risiken mit sich. Wir brauchen dringend vorbeugende Maßnahmen zur Risikominderung, um den Nettonutzen bei der breiten Einführung von KI- Anwendungen zu maximieren und unbeabsichtigte Nebenwirkungen zu reduzieren", erklärt Michael Bruch, Head of Emerging Trends bei der AGCS.

Schon heute können sogenannte "schwache" KI-Anwendungen bestimmte Aufgaben wie das Erkennen von Texten ausführen. In Zukunft werden "starke" KI-Anwendungen sogar in der Lage sein autonome Fahrzeuge zu steuern, genauere Wettervorhersagen zu treffen, Krankheiten zu diagnostizieren, Finanzgeschäfte durchzuführen oder Industriemaschinen zu bedienen und zu überwachen. KI tritt häufig in Verbindung mit anderen neuen Technologien auf, wie dem Internet der Dinge, der Datenanalytik oder der Blockchain. Laut Accenture könnte KI die jährliche Wirtschaftswachstumsrate in zwölf Industrienationen bis 2035 verdoppeln1.

KI-Risiken bei Cyber und autonomen Fahren

Diese potenziellen Vorteile haben jedoch ihren Preis. KI erhöht die ohnehin wachsende Gefahr durch Cyberrisiken weiter, die laut dem Allianz Risk Barometer 2018 bereits eine der größten Bedrohungen für Unternehmen darstellen: So könnte KI-gestützte Software zwar einerseits das Cyberrisiko für Unternehmen durch eine bessere Erkennung von Angriffen reduzieren, andererseits aber ebensolche Angriffe erleichtern, weil Planung und Durchführung einfacher werden. Ein- und derselbe Hackerangriff – oder alternativ auch ein Programmierungsfehler – könnten auf zahlreichen Rechnern repliziert werden. Dadurch werden große globale Cybervorfälle wahrscheinlicher, die laut Lloyds Schäden in Höhe von mehr als 50 Mrd. US- Dollar verursachen könnten. Allein ein halbtägiger Ausfall eines Cloudanbieters könnte für Schäden von etwa 850 Mio. US-Dollar sorgen (Cyence).

Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen gesetzt. Selbstfahrende Autos sollen menschliche Fehler als Hauptursache für Unfälle zu beseitigen, und KI in Verkehrsleitsystemen den Verkehrsfluss besser steuern. Allerdings ist noch weithin ungeklärt, wer bei Unfällen haftbar ist und welche ethischen Grundsätze autonome Fahrzeuge in Dilemma- Situationen befolgen sollen, wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel stehen.

Fünf Risikofaktoren von KI

Um entstehende KI-Risiken zu ermitteln, konzentriert sich AGCS auf fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik. "Eine verantwortungsbewusste Entwicklung und Einführung von KI muss diese Faktoren berücksichtigen", fordert Bruch. In Bezug auf die Sicherheit könnte beispielsweise das Rennen um die schnelle Markteinführung von KI-Systemen dazu führen, dass Überprüfungen nur unzureichend durchgeführt werden und so keine sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies könnte wiederum mehr Produktmängel und -rückrufe auslösen.

Was die Frage der Haftung betrifft, könnten intelligente KI-Agenten zwar künftig dem Menschen viele Entscheidungen abnehmen, dafür aber rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler, die bei Nutzern Schäden verursachen. Für auf KI basierende Entscheidungen, die sich nicht direkt auf das Design oder die Herstellung zurückführen lassen, die aber von einem KI-Agenten aufgrund seiner Interpretation der Realität getroffen werden, könnte nach aktuell geltendem Recht allerdings niemand explizit haftbar gemacht werden. "Wenn die Anzahl der durch KI hervorgerufenen Schäden zunimmt, kann es schnell teuer werden und langwierig sein, die Entscheidungsfindung den Gerichten zu überlassen", meint Bruch. "Wir brauchen Expertengremien, die die rechtliche Eintrittspflicht klären und einen Haftungsrahmen ausarbeiten, der Designer, Hersteller oder Verkäufer von KI-Produkten einer beschränkten Delikthaftung aussetzt."

Der Versicherungsbranche kommt eine wesentliche Rolle zu, wenn es darum geht, neue Risiken durch KI-Anwendungen zu minimieren oder abzusichern. Traditionelle Deckungen müssen angepasst werden, um sowohl Privatpersonen als auch Unternehmen entsprechend zu schützen. Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe, Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden bessere Lösungen bieten können. Zudem werden sich wahrscheinlich neue Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und Softwareanbieter stärker in die Pflicht nehmen und die Gefährdungshaftung von Verbrauchern einschränken.

Versicherer als frühe Anwender von KI

Die Versicherungsbranche zählt aufgrund der großen Datenmengen und wiederkehrenden Prozesse zu den Branchen, die stark auf maschinelles Lernen setzen. "KI hat enormes Potenzial für Versicherer. Anfangs wird sie die Automatisierung von Prozessen unterstützen, um die Policenausstellung oder Schadenabwicklung für die Kunden zu beschleunigen und zu verbessern", erklärt Bruch. AGCS setzt bereits Roboter ein, um Dateneingaben in Systeme durchzuführen, und testet "Bots", die die eingehende Briefpost, Emails oder auch Anrufe automatisch klassifizieren und weiterbearbeiten.

Durch KI-unterstützte Datenanalysen werden Versicherer und ihre Kunden zudem ein wesentlich besseres Verständnis der Risiken erlangen, so dass diese effektiver verringert oder über neue Versicherungslösungen absichert werden können. Nicht zuletzt wird KI auch die Beziehung zwischen Versicherer und ihren Kunden verändern, weil sie beispielsweise Self- Service-Angebote oder Beratung rund um die Uhr ermöglicht.

1 Accenture, Why Artificial Intelligence is the Future of Growth

Download

[ Bildquelle: Adobe Stock ]


Kommentare zu diesem Beitrag

Keine Kommentare

Themenverwandte Artikel

Studie

Qualitative Evaluationsstudie

Risikomodellierung, Predictive Analytics und Big Data

Frank Romeike | Stefan Trummer19.06.2018, 08:07

Das Banken- und Versicherungsumfeld ist seit vielen Jahren im Umbruch. Dazu haben in nicht unerheblichem Maße die Aufsichtsbehörden und Standardsetter beigetragen. Wurden bis Mitte der 2000er...

Interview

Mundus vult decipi

Was tun mit Fake News?

Redaktion RiskNET06.06.2018, 14:24

Wahrheit oder Lüge? Wer kann das in unseren digitalen Zeiten noch beantworten? Umso wichtiger sind klare Parameter und ein methodisch sauberes Vorgehen, um Fake News zu enttarnen. Dafür plädiert...

Kolumne

Machine Learning-basierte Klassifikation von Marktphasen

Krisen frühzeitig identifizieren

Dimitrios Geromichalos [RiskDataScience]23.05.2018, 12:30

Wie in der Vergangenheit immer wieder beobachtet werden konnte, verhalten sich Märkte oftmals irrational und zeichnen sich – neben dem "Normal-Zustand" – durch Phasen im Krisen- und...

Kolumne

Geopolitik und Ökonomie

Über den Einfluss politischer Krisen

Martin W. Hüfner, Chief Economist, Assenagon Asset Management S.A.16.05.2018, 11:45

Mehr als sonst ist in den Börsenkommentaren in diesem Jahr nicht nur von ökonomischen Faktoren die Rede. Immer mehr Raum wird den politischen Krisenherden in der Welt eingeräumt. Da geht es um Iran...

Kolumne

CFO Survey Frühjahr 2018

Fachkräftemangel und Protektionismus dominieren Risikolandkarte

Redaktion RiskNET11.05.2018, 14:32

Der Deloitte CFO Survey reflektiert die Einschätzungen und Erwartungen von CFOs deutscher Großunternehmen zu makroökonomischen, unternehmensstrategischen und finanzwirtschaftlichen Themen sowie...