Kann KI jemals das menschliche Urteilsvermögen vollständig ersetzen? Und vielleicht am wichtigsten: Wie können KI und menschliches Fachwissen sich gegenseitig ergänzen, um die Cyber-Sicherheit zu stärken?
Künstliche Intelligenz (KI) gewinnt in verschiedenen Branchen zunehmend an Bedeutung und spielt mittlerweile auch im Bereich der Cyber-Sicherheit eine wichtige Rolle. Während die Gesellschaft sich mit der Integration von KI in den Alltag auseinandersetzt, überdenken Unternehmen ihre Strategien zur Abwehr von Cyber-Bedrohungen. Diese Veränderung wirft jedoch auch wichtige Fragen auf: Stellt KI ein größeres Risiko für die Cyber-Sicherheit dar, da sie möglicherweise menschliches Eingreifen ersetzt? Kann KI jemals das menschliche Urteilsvermögen vollständig ersetzen? Und vielleicht am Wichtigsten: Wie können sich KI und menschliches Fachwissen gegenseitig ergänzen, um die Cyber-Sicherheit zu stärken? Unser Cyber-Versicherungsexperte Mihajlo Milanovic von GrECo und der Cyber-Sicherheitsexperte Ulrich Fleck von CERTAINITY geben ihre Einschätzungen dazu ab.
Das zweischneidige Schwert der KI
Während KI zweifellos spannende Entwicklungen im Bereich der Cyber-Sicherheit mit sich bringt, birgt sie auch neue Risiken. Dieselbe Technologie, die die Verteidigung stärken kann, kann auch von Cyber-Kriminellen ausgenutzt werden. Angriffe, bei denen KI von Hackern eingesetzt wird, um raffinierte, oft nicht erkennbare Bedrohungen zu entwickeln, geben zunehmend Anlass zur Sorge.
Ein neuer Bereich des Missbrauchs betrifft den Einsatz von KI zur Automatisierung und Verbesserung von Phishing-Angriffen, wodurch diese individueller und überzeugender werden. Die „Deep Fake“-Technologie, mit der hochrealistische gefälschte Audio- und Videoinhalte erstellt werden können, wird zunehmend für betrügerische Zwecke eingesetzt. Ein viel beachtetes Beispiel ereignete sich im Februar 2024 in Hongkong, als ein Finanzangestellter durch einen überzeugenden, von KI generierten Anruf von jemandem, der sich als CFO des Unternehmens ausgab, dazu verleitet wurde, 25 Millionen Dollar zu überweisen. In ähnlicher Weise kursierte während des slowakischen Wahlkampfs eine gefälschte Unterhaltung zwischen einem Journalisten und einem Politiker in den sozialen Medien.
Dieser steigende Trend deutet darauf hin, dass KI-gestützte Betrugsfälle wahrscheinlich zunehmen werden. Auf der defensiven Seite hat KI jedoch auch ein enormes Potenzial, insbesondere in Bereichen wie der Softwareentwicklung. Sie kann Millionen von Codezeilen schnell analysieren, um Fehler zu erkennen, und so die Softwaresicherheit erheblich verbessern. Dennoch werden Kriminelle diese Technologie unweigerlich nutzen, um Schwachstellen zu identifizieren und auszunutzen. Darüber hinaus können KI-Systeme – insbesondere solche, die undurchsichtig sind oder nur unzureichend verstanden werden – selbst unvorhergesehene Schwächen mit sich bringen. Wenn ein solches System einen kritischen Fehler macht, könnte es für menschliche Anwender:innen schwierig sein, den Fehler schnell zu erkennen und zu beheben.
Wird KI den Menschen in der Cyber-Sicherheit ersetzen?
KI zeichnet sich durch die Verarbeitung großer Datenmengen, das Erkennen von Mustern und die Reaktion auf Bedrohungen in Echtzeit aus, was sie zu einem unverzichtbaren Werkzeug in der Cyber-Sicherheit macht. Dennoch kann sie den menschlichen Faktor nicht vollständig ersetzen. Cyber-Sicherheit umfasst nicht nur technische Abwehrmaßnahmen, sondern auch strategisches Denken, ethisches Urteilsvermögen und die Fähigkeit, auf Unvorhergesehenes zu reagieren – Bereiche, in denen menschliche Einsichten nach wie vor unverzichtbar sind.
Der KI fehlt das differenzierte Verständnis für den Kontext und den ethischen Rahmen, den Menschen bei Entscheidungen im Bereich Cyber-Sicherheit einbringen. Darüber hinaus liegen kreative Problemlösung und die Fähigkeit, unvorhergesehene Entwicklungen zu antizipieren – Fähigkeiten, die sich in der Cyber-Sicherheit oft als entscheidend erweisen – außerhalb der Möglichkeiten der KI.
Die gemeinsame Zukunft der Cyber-Sicherheit
Die Zukunft der Cybersicherheit wird wahrscheinlich von einem kooperativen Modell abhängen, bei dem KI und menschliches Fachwissen zusammenarbeiten und sich gegenseitig ergänzen. KI kann Routineaufgaben wie Netzwerküberwachung, Erkennung von Anomalien und Bekämpfung kleinerer Bedrohungen übernehmen, sodass sich menschliche Fachkräfte auf anspruchsvollere Herausforderungen wie die Analyse komplexer Angriffe und die Ausarbeitung strategischer Sicherheitsrichtlinien konzentrieren können.
Die Fähigkeit der KI, große Datenmengen zu verarbeiten und zu analysieren, liefert auch umsetzbare Erkenntnisse, die für Menschen ohne Hilfe unmöglich zu bewältigen wären. Es sind jedoch menschliche Expertinnen und Experten, die die notwendigen ethischen und kontextbezogenen Beurteilungen vornehmen, die Ergebnisse der KI interpretieren und fundierte Entscheidungen treffen. In diesem kooperativen Rahmen steigert KI die Effizienz und Effektivität des Menschen, indem sie Routineaufgaben und datenintensive Aufgaben automatisiert, sodass sich Cybersicherheitsexpertinnen und -experten auf Bereiche konzentrieren können, die menschliche Intelligenz erfordern.
AI’s Rolle im Risikomanagement
Die Kombination aus KI und menschlichem Urteilsvermögen wird vermutlich eine entscheidende Rolle im proaktiven Risikomanagement spielen und dazu beitragen, Cyber-Risiken künftig zu mindern und zu reduzieren. Die Versicherungsbranche beschäftigt sich bereits mit dem Potenzial von KI, doch es bleibt abzuwarten, wie insbesondere Cyber-Versicherer – für die eine solide IT-Sicherheit eine zentrale Rolle bei der Risikobewertung sowie der damit verbundenen Underwriting- und Preispolitik spielt – auf KI reagieren werden.
Die richtige Balance finden
Auch wenn KI oft als bahnbrechende Innovation gefeiert wird, ist es wichtig zu erkennen, dass sie kein Allheilmittel ist. Das gilt besonders im Bereich der Cyber-Sicherheit, bei der KI zwar erhebliche Vorteile bringt, aber auch neue Herausforderungen mit sich bringt, die selbst zu erheblichen Risiken werden können. Ähnlich wie in anderen Branchen wird KI den menschlichen Faktor in der Cyber-Sicherheit wohl nicht vollständig ersetzen. Vielmehr wird sie menschliche Expertise ergänzen. Die effektivsten Strategien zur Cyber-Sicherheit werden jene sein, die die Stärken von KI und menschlicher Intelligenz kombinieren und so eine widerstandsfähigere Verteidigung gegen die sich ständig weiterentwickelnde Bedrohungslage schaffen.
Für die Versicherungsbranche sind die vollständigen Auswirkungen der Rolle von KI in der Cyber-Sicherheit noch nicht absehbar. Klar ist jedoch, dass KI zunehmend zur Verbesserung der Risikobewertung und zur Stärkung der Resilienz durch fortschrittliche Datenanalyse und Modellierung eingesetzt werden wird.
HORIZON Risk Thought >> Fast Forward
The complexity of today´s risk environment is changing at an accelerating pace, making risk management even more challenging. We have created HORIZON, firstly as a print publication and now as a page for sharing the latest insights about ongoing transformations. Our risk specialists will continue to provide their expertise and knowledge to shine a light on the challenges of the future.
Mihajlo Milanovic
Competence Center Manager Liability & Financial Lines
T +43 664 962 40 27
Ulrich Fleck
Cybersecurity expert
CERTAINITY
