人工智能成潮,风险暗涌难息
2027年,AI智能体将重塑企业运营模式,同时带来网络安全、基础设施、监管及社会层面的新风险。了解企业如何增强韧性,并从容应对相关挑战。
无论称之为“淘金热”还是“军备竞赛”,人工智能和自主技术的快速发展已势不可挡,且正在超越治理与监管的步伐。随着技术的角色从提供建议逐渐转向自主决策,人类监督将变得愈发重要——这既是管控风险的必要保障,也是把握机遇的关键所在。
当前,我们仍处于这场技术变革的早期阶段。未来,人工智能将在工作流程和决策过程中扮演日益核心的角色。组织在现阶段着手建立有效的治理与管控机制,将有助于在未来形成与这一趋势相契合的企业文化。这意味着企业需要以合乎道德、负责任且切实有效的方式,将人类能力与技术优势有机结合。
人工智能系统正加快角色转变,从辅助和增强组织职能转向自动执行相关职能。然而,在尚未建立适当治理和管控机制的情况下,部分企业就已经将自动化应用拓展至更多领域。这将带来关键的责任归属问题:如果AI智能体误导用户、违反规则、泄露数据、攻击竞争对手、编写恶意代码或作出其他错误决策,责任应由谁承担?如果仓储机器人导致工作人员受伤,又该由谁负责?如果军事系统打击了民用目标,责任又将如何界定?
目前,界定责任归属与法律责任的法规和监管框架尚处萌芽阶段,司法判例也较为有限,但相关规则和实践正在快速发展。许多情况下,最终责任承担方很可能是明确或默许授权部署人工智能系统的企业或机构,而不一定是开发系统的员工或设计系统的供应商。
企业的核心职能日渐依赖其并不完全了解的智能系统,而这些系统又可能由地缘政治与商业利益迥异的个人或机构掌控。如同停电或港口罢工一样,组织很容易因某项关键工具被切断而陷入被动。不同之处在于,对于前者,企业通常清楚从哪里获取电力,或是谁封锁了进出港口的道路;但对于后者,大多数企业可能并不了解自身的技术栈究竟由谁控制,又以何种方式被切断。当依赖关系晦暗不明时,企业管理风险的能力将变得十分有限。
利用人工智能开展分析、风险评估或执行其他关键职能的风险在于,企业会将思考过程过多地交由人工智能完成,以致不再关注决策背后的逻辑依据。
大多数企业的运营有赖于员工长期积累、来之不易的经验与实践。企业若将决策逐步交给自动化系统,将犹如流失经验丰富的员工:企业可能会疏于了解具体事务如何运作,更惰于理解机制设计的背后原理。由于人工智能系统在设计上倾向于给出顺应客户预期且看似合理的答案,企业可能对其产生盲目信任。一旦系统判断出现偏差,企业可能会在一连串貌似无误的决策之下,不知不觉地陷入运营困局。
企业判断力是应对责任归属、依赖风险和组织认知等问题的核心。如今,许多组织都面临来自董事会、市场、股东乃至员工的广泛压力,要求“必须在人工智能方面有所行动”。在这种情况下,企业若不论具体应用是否符合运营需要或具备商业合理性,一味向人工智能寻求解决方案,就可能陷入“手里有把锤子,看什么都是钉子”的境地——把人工智能生硬地嵌入每项工作,从而偏离合理的商业判断。归根结底,技术需要服务于业务,而不是本末倒置。
驾驭人工智能与技术所带来的机遇具有划时代意义。真正的挑战,在于如何以负责任的方式塑造未来,使客户、员工、股东及其他利益相关方都能从中获益。人机协同运营模式可以将人工智能与人类判断共同纳入决策体系,这与以往的技术进步有着本质不同。企业若能重点关注责任归属、依赖风险、组织认知与判断能力四个关键维度,并着手建立相应的治理机制,将更有可能在有效管理风险的同时把握新的机遇。
责任归属:即使缺乏明确监管指引,企业也需着手建立稳健的人工智能治理体系。管控措施应涵盖适当的访问管理、权限设置和监督机制,同时明确人员责任,并建立问题识别和人工干预机制。
依赖风险:企业需增强抵御系统中断的能力,这意味着深入摸排自身对智能系统的依赖关系,并采取措施降低依赖程度和集中度。例如,许多企业正转向开放权重模型以及本地部署的推理,以减少地缘政治风险敞口。同时,在部署相关工具时保持审慎,以尽可能降低中断风险。从宏观层面来看,各国政府也在积极推动“主权人工智能”,以确保在地缘政治竞争加剧的背景下,仍能持续获得前沿技术。
组织认知:企业理应借助人工智能增强和自动化各项工作,以提升生产率、加速创新并优化运营,但不能因此牺牲对具体情景、细微差异、批判性思考和判断力的把握。在实践中,这意味着需要由专业人员定期审慎核查人工智能的部署和应用,确保其经过适当校准并契合实际用途。同时,企业需时刻对于人工智能提出的结论持批判性立场,要求其作出清晰的决策解释,以确保最终的解决方案与既定目标及方法保持一致。
判断能力:利用人工智能来增强和自动化工作,本身就是对人类判断力的一种运用。首先,企业在部署相关技术时需充分考虑自身品牌、理念、声誉和使命,确保人工智能确实能够达到增益效果,而非适得其反。常规的、可衡量的任务或许更适合自动化应用,但利益相关方沟通、实体安全、信息收集以及危机响应等企业活动始终离不开人的参与和判断。
其次,企业应配置与实际需求相匹配的系统,基于自动化任务的难易程度合理选择各类前沿模型。最后,投入预算需要保持平衡。企业需确保对自动化的投入不会过度占用其他举措和机遇所需的时间、精力与资源。
企业的最终目标是以有效且高效的方式部署人工智能和自动化,同时确保其符合法律和合规义务、安全要求、员工关怀责任以及企业价值观。