AI技术创新、AI治理创新与AI市场的活力有序


AI技术创新、AI治理创新与AI市场的活力有序

“市者,可以知治乱,可以知多寡。”在AI市场,其多寡(活力)主要取决于AI技术及其创新,治乱(秩序)则主要取决于AI治理及其创新。为实现AI市场的活力有序,至少需要处理好两方面的矛盾和张力。

首先,需要处理好AI技术创新和AI治理创新之间的张力。AI 技术创新是AI市场发展的“引擎”,推动AI能力边界的拓展(如从GPT-4到GPT-5,从判别式AI到生成式AI)。AI市场的治乱(秩序)则主要取决于AI治理创新。

AI治理创新是AI市场发展的“刹车”,涉及法律法规、伦理框架、技术标准、行业自律等。AI治理创新需要超越传统治理的滞后性(“出了事再管”),强调治理的前瞻性(“未雨绸缪”)、适应性和技术嵌入性(如隐私计算、可解释AI、AI对齐技术),并在包容性和审慎性之间达成足够的平衡。

不过,即使这样,考虑到AI技术创新往往追求自由与突破,AI治理创新(尤其是未成熟的)仍然很有可能被视为AI技术创新的束缚或成本。

其次,需要处理好AI技术创新及AI治理创新内部“小步快跑”和“大步慢走”间的张力。理想主义者/加速派视角下的“小步快跑”主张速度效率优先,强调AI技术/治理快速迭代(包括开源模型迅速发布、产品功能周更甚至日更)、用户反馈、抢占市场。在AI领域主要表现为开源快速发布(如Meta的LLaMA系列)、抢先推出产品及相关治理举措。

现实主义者/规制派视角下的“大步慢走”则主张质量安全优先,适应金融、政务等场景客户更看重的可解释、可审计、抗攻击、数据隐私保护诉求,强调充分测试、风险评估、安全对齐(Alignment)、避免不可逆的损害,打磨出高可信、更具商业价值的AI及治理机制。在AI领域的典型是Anthropic的“宪法AI”、部分非常严谨的科研机构,以及当前欧盟《AI法案》对某些高风险应用的限制(“安全,不能让步于速度。”)。

但是,AI技术创新和治理创新速度过快可能积累诸多隐患(偏见、幻觉、安全事故、版权纠纷),一次“幻觉”可能导致误诊,一次数据泄露可能引发灾难,过慢则可能导致技术/制度落后或错失机会。

综合来看,这两组矛盾和张力又相互交织、相互影响,可以进行动态的融合和平衡。例如,在AI发展的早期阶段/非关键领域(尤其是高近肤距离),如AIGC创意辅助工具等领域,可以更倾向于“小步快跑+宽松治理(本身也可以‘小步快跑’)”,以助力探索最大的技术可能性。

在AI发展的成熟阶段/高风险领域(尤其是低近肤距离),如医疗诊断AI、司法辅助AI、自动驾驶、生物武器防御等领域,则必须转向“大步慢走+严格治理(本身也需要‘大步慢走’)”,扎实地把可解释性、隐私计算、红队测试(Red Teaming)等变成产品的核心竞争力。

不仅如此,差分隐私、联邦学习、水印技术、基于RLHF(人类反馈强化学习)的价值观对齐、红队测试自动化等AI技术本身也可以嵌入(而非外挂于)AI治理规则,实行敏捷治理,从而可以最小程度地影响AI技术创新“小步快跑”的效率。

通过这种动态的融合和平衡,对于AI技术创新提速来说,AI治理创新不再仅仅被视为障碍/规制,而更可能成为助力既快又稳的赋能者。例如,如果AI治理能提供更高效的评估工具(如自动化合规检查、标准化测试集)和更清晰的规则,包括中国的“沙盒监管”、欧盟的“监管沙盒”,AI企业反而不用猜忌监管红线,能在稳定受控环境中更安心地快速测试AI,既实现“小步快跑”,又有安全边界。

于是,短期内,在特定领域(如内容生成、低风险管理)可允许AI技术创新更快迭代,但需配套问责机制与透明度。长期内,AI技术创新又必须将安全、伦理、合规等作为AI系统的基础属性(而非附加品)。

这样一来,AI技术创新和AI治理创新就可以实现高水平的协同。AI治理创新保障了AI技术创新“小步快跑”、占领市场前沿/目标用户心智、以及定义技术/产品标准的可持续性,AI技术创新则能倒逼AI治理创新的响应性和实用性,从而二者协同促进AI市场发展的活力有序。而且,这也才能高效响应那些成熟的AI投资人的新诉求,“以前我们看谁的模型参数量大,现在我们看谁的模型‘犯错成本’低。”