Das öffentliche Wettrennen um künstliche Intelligenz (KI) wurde im Jahr 2023 mit der breiten Einführung von Funktionen der generativen KI ernst. Die Chancen schienen zunächst grenzenlos, wurden aber bald von den Risiken eingeholt.
Im Jahr 2024 werden Cyberangriffe, die sowohl durch KI-Systeme ermöglicht werden als auch auf diese abzielen, die Reduzierung menschlicher Eingriffe in das digitale Ökosystem und der immer komplexere weltweite Regulierungsdruck aufeinandertreffen. Der Schutz der Integrität von Technologie und Daten vor neuen Bedrohungen wird eine noch größere Herausforderung darstellen als bisher.
Investitionen in und Einsatz intelligenter automatisierter Systeme, allen voran sog. große KI-Sprachmodelle (Large Language Models, LLMs) und ihrer portableren Versionen, die "kleinen" Sprachmodelle, werden bis 2024 weiter zunehmen. Bedrohungsakteure haben bereits damit begonnen, generative KI als Teil ihrer Operationen einzusetzen, um ihre Fähigkeiten, insbesondere die Geschwindigkeit und den Umfang von Angriffen, zu erhöhen. Angesichts der anhaltenden globalen Spannungen im Jahr 2024 werden Angriffe auf die Datenintegrität, die durch autonome Systeme vorangetrieben werden, zur Normalität werden und unsere Fähigkeit, Angriffe zu erkennen und neuen Technologien zu vertrauen, in Frage stellen. Ein ähnliches Phänomen ist im öffentlichen und politischen Raum zu beobachten. Die zunehmende Nutzung von KI-Technologien für groß angelegte Desinformationskampagnen mit gefälschten Video- und Audioinhalten wird unser Vertrauen in Online-Inhalte weiter in Frage stellen. Der US-Wahlkampf erweist sich als Brutstätte für Deepfakes. DeepMedia, ein Unternehmen, das Tools zur Erkennung von synthetisch manipulierten Medien entwickelt, hat festgestellt, dass sich die Zahl der online gestellten Video-Deepfakes aller Art in den Jahren 2022-23 verdreifachen und die Zahl der Audio-Deepfakes verachtfachen wird.
Die zunehmende Unklarheit über die Zuständigkeiten und Verantwortlichkeiten für digitale Technologien und Infrastrukturen wird 2024 eine Herausforderung für die Fähigkeit der Unternehmen darstellen, auf Cyberangriffe und digitale Zwischenfälle zu reagieren. Das Wachstum von „Infrastructure-as-a-Service“ und „AI-as-a-Service“ bedeutet, dass Unternehmen weltweit mehr denn je auf komplexe digitale Lieferketten angewiesen sein werden. Diese werden sowohl große Infrastrukturanbieter als auch kleinere Anwendungsentwickler umfassen, wobei letztere weniger Garantien für die Sicherheit und Integrität ihrer Dienste bieten. Während unser technologisches Ökosystem exponentiell wächst, wird es für alle Unternehmen von entscheidender Bedeutung sein, die Zuständigkeiten und Verantwortlichkeiten für die Integrität und Widerstandsfähigkeit unserer digitalen Infrastruktur zu definieren.
Die Regulierungsbehörden haben 2023 schnell gehandelt und werden voraussichtlich auch im Jahr 2024 hart daran arbeiten, nationale und regionale Rahmenbedingungen zur Kontrolle dieses neuen Umfelds zu schaffen. Regierungen auf der ganzen Welt haben Vorschriften erlassen (oder sind gerade dabei), - die sich direkt auf die Nutzung von KI-Technologien oder auf die Infrastruktur, die deren Nutzung ermöglicht, auswirken. Anders als beim Datenschutz ist zu erwarten, dass diese Vorschriften viel schneller erlassen und zu einer weiteren Fragmentierung unserer Technologielandschaft führen werden.
Es ist davon auszugehen, dass es zu einer noch stärkeren Fragmentierung globaler Technologie-Lieferketten und des operativen Umfelds für Unternehmen kommen wird. Analog zu den geopolitischen Bruchlinien wird sich der Kampf um technologische Unabhängigkeit und Vorherrschaft beschleunigen, während Regierungen versuchen, das rasante Tempo der Einführung neuer Technologien zu kontrollieren. Im Jahr 2024 werden viele Unternehmen mit zusätzlichen Auflagen in Bezug auf Datenlokalisierung, Datenschutz, Meldung von Vorfällen und Technologie-Lieferketten konfrontiert sein.
Vor dem Hintergrund, dass globale Spannungen zunehmend Bedrohungen von Unternehmenstätigkeit beeinflussen, werden die Integrität und das Vertrauen in nationale und regionale digitale Ökosysteme im kommenden Jahr eine entscheidende Rolle bei Entscheidungsprozessen spielen.
