Künstliche Intelligenz und Cyber-Sicherheit: 3 Prognosen für das Security-Umfeld

Bildquelle: Pixabay

Künstlicher Intelligenz gehört die Zukunft. Dies zeigt sich schon am aktuellen „Stellungskampf“ der großen Marktplayer: Vor kurzem hat Apple mit John Giannandrea einen führenden KI-Fachmann von Google abgeworben. Auch die Branchenanalysten sehen großes Potenzial. Laut Statista beträgt im Jahr 2025 der Umsatz mit Business-Anwendungen im Bereich Künstliche Intelligenz weltweit 31,24 Milliarden US-Dollar.

Doch was bedeutet der Trend für das Security-Umfeld? ESET-Experten untersuchten die aktuellen Entwicklungen von Künstlicher Intelligenz und Machine Learning und beschreiben deren Folgen auf künftige Geschäftsmodelle und die Security-Industrie. Thomas Uhlemann, Security Specialist bei ESET, sagt: „Künstliche Intelligenz beeinflusst die Zukunft von Unternehmen und Security-Herstellern schon heute. Verantwortliche müssen schnellstmöglich Know-How aufbauen und verantwortungsvoll mit der Technologie umgehen.“

Die Notwendigkeit eines verantwortungsvollen Umgangs sollen auch die drei Prognosen von ESET unterstreichen.

Prognose 1: Machine Learning erfordert Prozesstransparenz, nicht nur wegen DSGVO

Viele Machine Learning-Systeme seien heute eine „Black Box“: Niemand wisse genau, was zwischen der Eingabe der Informationen und der Ausgabe der Ergebnisse geschieht. Das gelte auch, wenn sie personenbezogene Daten bearbeiten. Doch im Rahmen der DSGVO müssen Unternehmen in der Lage sein, betroffenen EU-Bürgern die Wirkungsweise der eingesetzten automatisierten Systeme für die Datenbearbeitung zu erklären. Für die Sicherheit IT-basierter Systeme könnte sich aus dieser Entwicklung ein Problem ergeben – denn: Geraten  detaillierte Erkenntnisse in falsche Hände, könnten Cyberkriminelle die Machine Learning-basierten Systeme als neue Angriffsvektoren identifizieren und für die Entwicklung neuer Cyber-Angriffsszenarien ausnutzen.

Prognose 2: Auch Cyberkriminelle sehen die Potenziale von Künstlicher Intelligenz

Der Wettlauf zwischen Security-Experten und Cyberkriminellen gehe daher auch mit KI weiter. So haben vor kurzem Sicherheitsforscher untersucht, wie sich KI für bösartige Angriffe missbrauchen lässt. Dies geschieht vorwiegend auf drei Arten: Bestehende Bedrohungen werden erweitert, neue Bedrohungen erzeugt und die Bedrohungstypen verändert. Dabei legten die Analysten nur Technologien zugrunde, die innerhalb der nächsten fünf Jahre zur Verfügung stehen. Unternehmen sollte also bewusst sein, dass durch KI in absehbarer Zeit neuartige Gefahren entstehen.

Prognose 3: Cybersecurity profitiert von Machine Learning – wenn die Muster erkannt werden

KI bietet aber auch Chancen – und Herausforderungen. Erfolgreiches Machine Learning setze voraus, dass die Systeme an großen Datensets trainiert werden können. Dieser umfangreiche Input müsse korrekt gekennzeichnet sein. Das gelte es zu kontrollieren, genau wie die Trainingsergebnisse. Denn ohne die Kalibrierung, Bewertung und Überprüfung durch menschliche Experten kommen auch diese Systeme nicht aus. Denn schon eine Fehleinschätzung kann fatale im Security-Gesamtkontext Folgen haben. „Künstliche Intelligenz dient nicht nur Unternehmen, sondern auch Cyberkriminellen als neues Geschäftsfeld. Unternehmen brauchen daher einen übergreifenden Austausch mit Politik, Kunden und starken Partnern, um die Künstliche Intelligenz zu dem zu machen, was sie ist: Eine nie dagewesene Chance für die IT-Security“, fasst Uhlemann zusammen.