2023年は生成AIを巡る競争が本格化し、生成AIがもたらす無限の可能性に世界中の関心が集まりました。一方で、新たなリスクにも目を向ける必要があります。2024年には、AIを活用し、AIを標的とするサイバー攻撃、デジタルエコシステムへの人間の介入の減少、世界中の複雑な規制圧力などが顕在化するでしょう。新たな脅威から、テクノロジーやデータの完全性を守ることは、一層難しくなります。
生成AIの大規模言語モデル（LLM）と“小規模”なLLMが主導するインテリジェントな自動化システムへの投資と開発は、2024年も加速するでしょう。サイバー攻撃者も、既に生成AIを活用し、攻撃頻度・規模などの能力強化を進めています。2024年も世界的な緊張が続く中、自動化されたシステム上で活用されるデータの完全性を狙った攻撃は、常態化するでしょう。これにより、攻撃を検知したり、新たなテクノロジーを信頼することがより難しくなります。同様の事象が、政治の世界などでも起きています。例えば、ディープフェイク動画や音声を使用した大規模な偽情報キャンペーンを行うためにAIを活用するケースが増えており、オンラインコンテンツを信頼することがより困難になるでしょう。米国の選挙運動は、ディープフェイクの温床と見られています。ディープフェイク検出サービスを提供する「DeepMedia」によると、2022年～2023年の一年で、オンライン上で投稿されたディープフェイク動画は3倍、ディープフェイク音声は8倍に増えています。
テクノロジーやデジタルインフラの所有権と責任所在が曖昧になることは、サイバー・デジタル関連のインシデントに対応する企業・組織にとって課題となるでしょう。IaaS(インフラストラクチャ・アズ・ア・サービス)やAIaaS（AI・アズ・ア・サービス）関連の製品や市場が成長することにより、世界中の企業・組織は、デジタルサプライチェーンへの依存度を高めていくことになります。デジタルサプライチェーンには、大手インフラプロバイダーや小規模アプリ開発企業などが含まれます。このうち小規模アプリ開発企業については、サービスのセキュリティと完全性に対して得られる保証は少なくなります。テクノロジーエコシステムが指数関数的に成長する中、デジタルの完全性とレジリエンスに対する責任の所在を明確にすることは、多くの企業・組織にとって非常に重要です。
この新たな環境を管理するための枠組みを定めるために、2023年各国／地域の規制当局は迅速に行動しました。そして、2024年も引き続き同じ速さで対応していくでしょう。世界中の政府は、AI技術の実装や、AIの基盤となるインフラストラクチャに関連する規制の検討／公開を進めています。データプライバシーの問題などとは異なり、AI関連の規制検討は迅速に進められています。
今後も、グローバルなテクノロジーサプライチェーンと事業環境の分断が続くことが予想されます。政府が新興テクノロジー実装のペースを必死にコントロールしようとするほど、テクノロジーの独立性と優位性を巡る競争は加速していくでしょう。2024年には、多くの企業・組織が、データのローカライゼーション、データプライバシー、インシデント報告、テクノロジーサプライチェーンの制限などの問題に直面するでしょう。
国／地域のデジタルエコシステムの完全性と信頼性は、2024年の企業・組織の意思決定にとって重要な要素になります。
