2024年,全球企业运营所依赖的数据、系统和技术将面临完整性和韧性方面的严峻挑战。打造高韧性数治企业将成为未来一年战略决策的关键部分。

2024年,全球企业运营所依赖的数据、系统和技术将面临完整性和韧性方面的严峻挑战。打造高韧性数治企业将成为未来一年战略决策的关键部分。 

2023年,随着生成式人工智能(AI)的广泛应用,AI行业正迎来新一轮发展热潮。然而,新兴技术的无限机遇中也暗藏着巨大风险。未来一年,由人工智能发起或以其为目标的网络攻击、数字生态系统人为干预减少、全球数字监管环境日趋复杂等因素将互相交织。全球企业需要在保护技术和数据完整性方面付出更多努力,以抵御各种新型威胁。 

2024年,基于大型语言模型(LLMs)、便携式语言模型等生成式AI技术的智能自动化系统将获得更多投资和应用。同时,威胁行为体也开始利用生成式AI技术来提升攻击能力、速度和规模。在全球地缘政治局势持续紧张的背景下,针对自主系统数据完整性的攻击或将趋于常态,这无疑将对企业部署新技术和检测攻击的能力提出考验。在公共和政治领域,利用AI技术深度伪造视音频并开展虚假宣传的情况也越来越普遍,进一步加深网络信任危机。例如,伴随着2024年美国总统大选启动,由生成式AI驱动的各类深度伪造信息充斥网络。根据DeepMedia(一家致力于开发检测合成媒体工具的公司)统计,2022-2023年发布在网上的深度伪造视频量同比增长了三倍,深度音频造假量增长了八倍。 

此外,关于技术和数字基础设施完整性和韧性的责任边界依旧模糊不清,这也将挑战企业应对网络安全事件的能力。基础设施即服务(IaaS)和人工智能云服务(AlaaS)的蓬勃发展意味着全球企业将愈发依赖复杂的数字供应链,包括主要的基础设施供应商和小型的应用程序开发者。而后者却往往难以对服务的安全性和完整性提供充分保障。

最后,2023年许多国家关于新兴技术和数字安全的监管行动已经起步,2024年的行动重点将是制定国家和地区框架,以管控数字生态环境。各国政府已经发布或正在起草相关法律来规范AI技术应用和管理相关基础设施。与数据隐私保护相比,此类监管的行动步伐将更为迅速。与地缘政治竞争同步的技术独立性和优势之争也将加速,全球技术供应链和运营环境或将因此继续分裂。数据本地化、数据隐私、事件报告、技术供应链限制等问题将给全球企业带来更多运营挑战。

其它主要风险

联系我们

如您希望获得更详细的信息,或有意了解我们如何帮助企业在动荡多变的世界中管控风险、把握机遇,欢迎联系我们。