Kaspersky warnt vor vier neuen Cyberrisiken

Kognitive KI-Systeme können menschliche Gedanken derzeit nicht direkt lesen. Dennoch beeinflussen sie bereits heute Verhalten, Entscheidungen und öffentliche Meinungen – etwa durch personalisierte Inhalte, Empfehlungssysteme und datenbasierte Verhaltensanalysen. Nach Einschätzung von Kaspersky entstehen durch diese Entwicklung neue Risiken für die Cybersicherheit. Wie das Unternehmen mitteilt, warnen die Cybersicherheitsexperten vor einer wachsenden Bedrohungslage. Im Mittelpunkt stehen raffinierteres Social Engineering, KI-gestütztes Profiling, Manipulation im großen Maßstab sowie potenzielle Gefahren durch die Verbindung von Gehirn-Computer-Schnittstellen mit dem Internet der Dinge.

Künstliche Intelligenz wird zunehmend dafür eingesetzt, neuronale Signale zu analysieren, menschliches Verhalten zu modellieren und Entscheidungsmuster vorherzusagen. Damit verschiebt sich der Schwerpunkt von der reinen Datenverarbeitung hin zu Systemen, die menschliche Kognition interpretieren und aktiv mit ihr interagieren können.

Warum Social Engineering durch kognitive KI gefährlicher wird

Ein zentrales Risiko liegt im Social Engineering. Large Language Models machen entsprechende Angriffe bereits heute ausgefeilter und überzeugender. Cyberkriminelle können täuschend echte E-Mails und Phishing-Webseiten erstellen. In Verbindung mit kognitiver KI lassen sich soziale Netzwerke und umfangreiche Datensätze analysieren, um hochgradig personalisierte Betrugsversuche zu entwickeln.

Durch Verhaltensanalysen und psychologische Profile werden Angriffe gezielt auf individuelle Schwächen zugeschnitten. Phishing-Kampagnen wirken dadurch dynamischer, kontextbezogener und emotional überzeugender. Betroffen sind Privatpersonen ebenso wie Unternehmen, etwa durch Datendiebstahl und Finanzbetrug. Derzeit macht Phishing demnach rund 15 % aller gängigen Angriffstechniken aus.

Gesichtserkennung funktioniert trotz KI-veränderter Gesichter

Gesichtserkennung kann Personen offenbar auch dann identifizieren, wenn generative KI Gesichter stark verändert. Ein Kaspersky-Experiment zeigt, was das für digitale Identität bedeutet.

Redaktion Automation NEXT

Kognitive Manipulation trifft öffentliche Meinung

Über individuelle Angriffe hinaus ermöglicht KI auch groß angelegte Operationen zur Beeinflussung öffentlicher Meinungen. Hacktivisten oder APT-Gruppen (Advanced Persistent Threat) könnten kognitive Verzerrungen und emotionale Trigger innerhalb ganzer Bevölkerungsgruppen ausnutzen.

Bereits heute zeigen soziale Medien, wie algorithmische Systeme Echokammern verstärken und gesellschaftliche Polarisierung verschärfen können. Gleichzeitig setzen politische Akteure und Unternehmen zunehmend auf Mikro-Targeting und Verhaltensanalysen, um Nutzer individuell anzusprechen.

Mit der Weiterentwicklung dieser Technologien verschwimmt laut Vorlage die Grenze zwischen Verhaltensvorhersage und aktiver Verhaltenssteuerung zunehmend. Daraus entstehen systemische Risiken – nicht nur für individuelle Autonomie, sondern auch für gesellschaftliches Vertrauen.

Wie KI-gestütztes Profiling Missbrauch erleichtert

Ein weiteres Risiko sieht Kaspersky im KI-gestützten Profiling. Durch die Zusammenführung von Daten aus sozialen Netzwerken, digitalem Verhalten und weiteren Quellen können hochdetaillierte psychologische Profile entstehen.

Dadurch werden Doxxing und technologiegestützter Missbrauch erheblich verstärkt. Informationen, die zuvor fragmentiert vorlagen, lassen sich automatisiert verknüpfen. Sensible Details können offengelegt und zielgerichtete Angriffe in großem Maßstab möglich werden.

Hinzu kommt das Risiko von Vorhersage-Modellen. Menschen könnten künftig nicht mehr auf Grundlage ihres tatsächlichen Handelns bewertet werden, sondern anhand prognostizierter Verhaltensmuster. Die Bedrohung verlagert sich damit vom reinen Verlust der Privatsphäre hin zu einem Kontrollverlust über die eigene Identität und deren Verwendung durch Dritte.

Gehirn-Computer-Schnittstellen treffen auf IoT

Gehirn-Computer-Schnittstellen, kurz BCIs, werden bislang überwiegend experimentell genutzt. Sie kommen jedoch bereits heute zum Einsatz, um Menschen mithilfe der Interpretation neuronaler Signale Kommunikation zu ermöglichen.

Die Forschung erweitert diese Technologien zunehmend über grundlegende Interaktionen hinaus. Dazu zählt etwa die Steuerung externer Geräte. Damit beginnen BCIs mit dem Internet der Dinge zu verschmelzen. Neuronale Signale könnten künftig genutzt werden, um Smart-Home-Geräte, Assistenzsysteme oder medizinische Technologien direkt zu steuern.

Diese Entwicklung bietet Potenzial, insbesondere im Gesundheitswesen und im Bereich Barrierefreiheit. Gleichzeitig entstehen neue Cybersicherheitsrisiken. Kompromittierte Systeme könnten unautorisierte Aktionen über neuronale Schnittstellen ermöglichen, Signale abfangen oder Geräte manipulieren. Damit betreffen Sicherheitsrisiken künftig nicht mehr nur digitale Infrastrukturen, sondern auch physische Systeme und menschliche Handlungsfähigkeit.

Welche Rolle Zusammenarbeit und Regulierung spielen

Kaspersky verweist auf die Bedeutung von Zusammenarbeit und Regulierung. Gefordert ist demnach eine enge Kooperation zwischen Cybersicherheitsexperten, KI-Entwicklern, Wissenschaft, Politik und Regulierungsbehörden.

„Auch wenn kognitive KI noch am Anfang steht und von einer breiten Anwendung entfernt ist, entwickelt sie sich mit hoher Geschwindigkeit“, erklärt Noushin Shabab, Lead Security Researcher im Global Research and Analysis Team (GReAT) von Kaspersky. „Fortschrittliche Mensch-KI-Interaktionsmodelle werden sich in den kommenden Jahrzehnten deutlich verbreiten. Mit ihrer Nutzung steigen jedoch auch die Risiken – und darauf müssen wir vorbereitet sein.“