KI: Dämon oder Heilsbringer

Künstliche Intelligenz (KI) ist ein Begriff, spätestens seit ChatGPT merklich an Beachtung gewonnen hat. Doch was genau verbirgt sich dahinter? KI ist nicht gleich KI, zahlreiche Varianten sind präsent, die in unterschiedlichen Bereichen eingesetzt werden und auf verschiedenen Prinzipien und Technologien basieren. Einige dieser Systeme sind darauf ausgelegt, menschliche Intelligenz nachzuahmen, während andere spezifische Aufgaben erfüllen, für die sie entwickelt wurden. Klar ist, das Potenzial im Unternehmenskontext ist vorhanden, deshalb ist eine Governance (z.B. interne Richtlinien, Arbeitsanweisungen) für die Nutzung von KI-gestützten Systemen wie ChatGPT dringend erforderlich.

Die vielen Gesichter der KI

Entwicklung und Implementierung von KI-basierten-Systemen haben rasant zugenommen, ein Hauptgrund dafür ist die Massentauglichkeit und Massenzugänglichkeit diverser KI-Systeme. Durch Fortschritte in der Computertechnologie, insbesondere skalierbarer und leistungsfähiger Cloud-Systeme, und die Verfügbarkeit großer Datenmengen ist es möglich geworden, KI-Systeme in einer Vielzahl von Anwendungen einzusetzen: Von der Bild- und Spracherkennung oder Generierung über die Automatisierung von Arbeitsabläufen bis hin zur Vorhersage von Ereignissen – KI hat das Potenzial, viele menschliche Fähigkeiten und Aufgaben zu unterstützen oder gar elementar zu verbessern. Wo und wie sie Menschen gänzlich ersetzen werden, bleibt abzuwarten.

Künstliche Intelligenz ist nicht nur ein einzelnes System oder eine Technologie, sondern ein ganzes Spektrum von Systemen und Technologien, die in unterschiedlichsten Bereichen eingesetzt werden. Die Vielfalt der KI spiegelt sich in ihren zahlreichen Anwendungen und ihrer Fähigkeit wider, eine breite Palette von Aufgaben zu erfüllen. Hier sind einige der vielen „Gesichter“ der KI:

1. Maschinelles Lernen (ML): Dies ist wahrscheinlich die bekannteste Form der KI. ML-Systeme können aus Daten lernen und Vorhersagen oder Entscheidungen treffen, ohne explizit programmiert zu werden. Sie sind die treibende Kraft hinter vielen der heutigen KI-Anwendungen, von der Bilderkennung bis zur Sprachverarbeitung.
2. Neuronale Netze: Inspiriert von der Funktionsweise des menschlichen Gehirns, sind neuronale Netze komplexe Algorithmen, die große Datenmengen verarbeiten und Muster erkennen können. Sie sind besonders nützlich für Aufgaben wie Bild- und Spracherkennung.
3. Naturliche Sprachverarbeitung (NLP): NLP-Systeme können menschliche Sprache verstehen und generieren. Sie ermöglichen es Computern, mit Menschen in natürlicher Sprache zu kommunizieren, wie es bei Chatbots oder Sprachassistenten der Fall ist.
4. Robotik: KI in der Robotik ermöglicht Maschinen, autonom zu agieren, sich in ihrer Umgebung zurechtzufinden und komplexe Aufgaben auszuführen, von der einfachen Haushaltshilfe bis hin zu komplexen chirurgischen Eingriffen.
5. Computer Vision: Diese Technologie ermöglicht es Maschinen, Bilder und Videos zu „sehen“ und zu interpretieren. Sie wird in einer Vielzahl von Anwendungen eingesetzt, von der Gesichtserkennung bis zur autonomen Fahrzeugnavigation.
6. Expertensysteme: Diese KI-Systeme sind darauf ausgelegt, menschliche Expertise in bestimmten Bereichen zu simulieren, indem sie Entscheidungen basierend auf einem festgelegten Regelwerk treffen.
7. Reinforcement Learning: Hierbei handelt es sich um eine Art des maschinellen Lernens, bei der ein Algorithmus durch Belohnungen (oder Strafen) trainiert wird, um bestimmte Aufgaben zu erfüllen.

Aktuell ist ChatGPT vergleichbar zu einem Assistenten mit umfangreichem Wissen und begrenzter Kreativität. Doch mit der Massentauglichkeit und dem vermehrten Einsatz diverser KI-gestützter Systemen ergeben sich auch neue Herausforderungen, insbesondere im Bereich der Unternehmenssicherheit. Das gilt sowohl für die Entwickler und Betreiber von KI-Systeme, denn diese sind nicht immun gegen Angriffe. Versierte Angreifer können KI-Systeme manipulieren, um falsche Informationen zu verbreiten oder Systeme zu kompromittieren. Darüber hinaus können KI-Systeme auch dazu verwendet werden, um Cyberangriffe effizienter und zielgerichteter durchzuführen. Die Suche nach Schwachstellen, das Automatisieren von Spear Phishing, die Auswertung von massenhaften persönlichen bzw. personenbezogenen Informationen, etc. Die Bandbreite an Missbrauch ist so groß wie Kreativität derjenigen, die die Systeme zweckentfremden.

Die Geister, die wir riefen

Auf einen Meister, der den verzauberten Besen wieder unter Kontrolle bringt, werden wir vergeblich warten. Wie mit jedem vielseitigen Werkzeug muss auch der Umgang mi KI-basierten Systemen geübt sein. Die Fähigkeiten, die Grenzen und die Unzulänglichkeiten müssen bekannt und jederzeit vergegenwärtigt sein.

Natürlich können KI-basierte Systeme in den falschen Händen beunruhigende, gar staatsgefährdende Auswirkungen erreichen. Letztendlich sind die Fragen über den Umgang nicht neu: Künstlich intelligente Systeme sind Dual-Use-Technologien. Das Potenzial ist enorm, in beide Richtungen und hat das Potenzial, viele Aspekte des zivilen Lebens zu revolutionieren. Von der Verbesserung medizinischer Diagnosen und Behandlungen über die Optimierung von Verkehrssystemen bis hin zur Personalisierung von Lernerfahrungen – die positiven Anwendungen von KI sind nahezu grenzenlos. Gleichzeitig wird KI bereits in der Verteidigungs- und Sicherheitsindustrie, insbesondere im nachrichtendienstlichen Kontext eingesetzt. Autonome Waffensysteme, Überwachungstechnologien und Cyber-Sicherheitslösungen sind nur einige Beispiele dafür, wie KI das moderne Schlachtfeld und die Sicherheitslandschaft verändert. Anwendungen in hybriden Konflikten werden zunehmen, nicht nur zur Signalaufklärung, sondern auch für Desinformationskampagnen. Wie bei allen Dual Use Technologien stellt sich die Frage nach der Ethik und Verantwortung. Während KI das Potenzial hat, das Leben vieler Menschen zu verbessern, gibt es auch berechtigte Bedenken hinsichtlich des Missbrauchs dieser Technologie, sei es durch staatliche Akteure, Terroristen oder Kriminelle. Die Dual-Use-Natur der KI unterstreicht die Notwendigkeit von internationalen Normen und Regulierungen.

Von all diesen abstrakten Betrachtungen abgeleitet, ergeben sich konkrete Bedrohungen für Unternehmen, deren Daten und Nutzer, beispielsweise

• Fortgeschrittene Social Engineering Angriffe, z.B. über Multi-Channel und Impersoniation
• Teilautonome, KI-gestützte Angriffe (insbesondere Lateral Movement, Obfuscation, Detection Evasion, Persistence)
• Erzeugung von (polymorpher) Schadsoftware

Durch geschickte Kombination verschiedener KI-basierter Systeme und deren Fähigkeiten, sind die Bedrohungen schwer vorhersehbar.
Fakt ist: Das Wettrüsten ist im vollen Gange.