Köpfe & Positionen

AGCS: "KI wird menschliches Denken und Handeln komplett ersetzen"

Von VW-RedaktionTagesaktuelle Informationen und Neuigkeiten aus der Versicherungsbranche. Alle Nachrichten des Tagesreports auch als Newsletter abonnierbar.
Künstliche Intelligenz (KI) lässt Computer Aufgaben lösen, die eigentlich menschliche Intelligenz erfordert. Das hat nicht nur Vorteile, sondern birgt auch Gefahren. Am Ende wiegt das enorme Potenzial der KI für Versicherer die Nachteile wohl auf, wie Michael Bruch, Head of Emerging Risks, Allianz Global Corporate & Specialty, im Interview erläutert.
VWheute: In Ihrer aktuellen Studie kommen Sie zu dem Ergebnis, dass KI die Unternehmen anfälliger für Großschäden durch Cyberangriffe und technisches Versagen machen. Wie hoch sehen Sie derzeit die Risiken und gibt es bereits erste Schadensfälle?
Michael Bruch: KI wird die Welt der digitalen Sicherheit massiv verändern – und zwar im Guten wie im Schlechten. KI kann helfen, Cyberrisiken zu reduzieren, indem Angriffe besser erkannt werden. Andererseits sind die Auswirkungen dramatischer, wenn böswillige Hacker die Kontrolle übernehmen können. Die KI könnte Cyberangriff zudem erleichtern, indem sie die Kosten für deren Entwicklung senkt und gezieltere Angriffe ermöglicht.
Derselbe Programmierfehler oder Hackerangriff konnte auf zahlreichen Rechnern repliziert werden. Oder eine Maschine könnte die gleiche fehlerhafte Aktivität mehrmals wiederholen, was zu einer unvorhergesehenen Anhäufung von Verlusten führt. Es gibt Szenarien, dass ein großer globaler Cyberangriff das Potenzial hat, Schäden von mehr als 50 Mrd. US-Dollar zu verursachen. Diese Szenarien werden auch als "Cyber Hurricanes" bezeichnet, da ihr Schadenpotenzial in der Größenordnung vergangener Hurrikanereignisse liegt. Insofern waren die Erpressungstrojaner Wannacry und Petya erst ein Vorgeschmack.
VWheute: Um die Risiken von KI zu begrenzen fordern Sie, sich auf fünf Bereiche zu konzentrieren: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik. Würden Sie dies bitte erläutern?
Michael Bruch: Auf diese fünf Bereiche muss besonderes Augenmerk gelegt werden, um eine verantwortungsvolle Entwicklung und Einführung von KI sicherzustellen. Dadurch lässt sich der Nutzen  für die Allgemeinheit maximieren und mögliche negative Effekte minimieren. Bei der Softwareverfügbarkeit geht es dabei zum Beispiel um die Diskussion, ob ein KI Code für die öffentlich zugänglich sein soll oder nicht und ob KI Codes geprüft werden müssen, um Missbrauch zu verhindern. In Bezug auf die Sicherheit könnte beispielsweise das Rennen um die schnelle Markteinführung von KI-Systemen dazu führen, dass Überprüfungen nur unzureichend durchgeführt werden und so keine sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies könnte wiederum mehr Produktmängel und -rückrufe auslösen.
VWheute: Wo sehen Sie konkreten Handlungsbedarf im Bereich der Haftung?
Michael Bruch: Die drei Bereiche Haftung, Verantwortung und Ethik hängen eng zusammen. Im Grunde geht es um die Frage, wer für mögliche Schäden die Verantwortung trägt und wie ein KI-Agent in moralischen Dilemma-Situationen entscheidet. Dafür muss der Entwicklungsprozess von KI so transparent und nachvollziehbar wie möglich sein. Dies ist auch deshalb wichtig, weil intelligente KI-Agenten zwar künftig dem Menschen viele Entscheidungen abnehmen, dafür aber rechtlich nicht zur Verantwortung gezogen werden können.
Wer haftet also, wenn eine KI-Agent eine falsche Entscheidung aufgrund seiner Interpretation der Realität trifft, die nicht auf einen Design- oder Herstellerfehler zurückzuführen ist? Beim Autonomen Fahren könnte das Fehlen jeglicher angeborener Fähigkeit der Kontrollsoftware, moralisch-ethische Urteile zu fällen, zu Entscheidungen führen, die zwar technisch vernünftig sind, jedoch den Fahrzeuginsassen oder anderen Verkehrsteilnehmern ernsthaften Schaden zufügen könnten. Wir brauchen eine breite gesellschaftlichen Diskussion über Nutzen und Risiken von AI, klare Entwicklungsstandards und auch Expertengremien, die einen rechtlichen Haftungsrahmen schaffen.
VWheute: Sie sagen: "KI hat enormes Potenzial für die Versicherer." Worin sehen Sie dies konkret?
Michael Bruch: KI wird Versicherern in allen Bereichen ihres Kerngeschäfts helfen: bei der Optimierung und Automatisierung von Prozessen, bei der Risikoanalyse, bei der Schadenregulierung, im Marketing. KI wird die Beziehung zum Kunden revolutionieren: Über Chatbots oder Self-Service-Portale bekommt der Kunde bessere Beratung und individuellere Angebote rund um die Uhr. Derzeit nutzen Versicherer vor allem "schwache" KI-Anwendungen zur Automatisierung von Prozessen. AGCS setzt bereits Roboter ein, um Dateneingaben in Systeme durchzuführen oder um Mails oder Anrufe automatisch zu klassifizieren und weiterzubearbeiten.
Der nächste Schritt ist dann die Dunkelverarbeitung von kleineren, standardisierten Schadenfällen. Auch bei der Risikoanalyse wird KI helfen, das Potenzial der enorm wachsensen Datenmengen zu erschließen. Dadurch können Versicherer sich schnell wandelnde Risiken wie Cyber besser verstehen und modellieren. Dies sind alles erst die Anfänge. Die volle Kraft der Roboter in der Versicherungswirtschaft wird sich mit "starken" KI -Anwendungen entfalten, die dann menschliches Denken und Handeln komplett ersetzen können – und zwar deutlich leistungsfähiger als das biologisch begrenzte menschliche Gehirn.
Die Fragen stellte VWheute-Redakteur Tobias Daniel.
Bild: Michael Bruch (Quelle: AGCS)
Allianz · AGCS · künstliche Intelligenz · Michael Bruch