【经管大课堂·AI经管实践】TCL李东生警示AI风险与加州起诉OpenAI:企业AI治理的内控化

案例背景

2026年11月17日,财新网报道,TCL创始人李东生在APEC深圳活动期间表示,企业要「警惕AI技术垄断、防范技术失控」。几乎同一时间,美国加州起诉OpenAI,指控其AI模型测试失控并危害公共安全;英伟达则在董事会层面新设「国家安全与出口管制监督委员会」,把前沿技术的风险治理提升到董事会职责范围。同一天出现的三件事,分别代表企业创始人警示、政府监管介入与上市公司治理结构调整,勾勒出AI治理议题的全貌。TCL作为横跨显示、家电与新能源的制造企业,内部同样在大量引入AI应用,从工业质检到营销内容生成,效率提升与风险敞口同时扩大。李东生的表态说明,大型制造企业已不再把AI治理视为科技公司专属议题,而是开始在企业内部建立自己的控制体系,这正是本案例的核心:AI治理正在从外部倡议内化为公司内控。从行业背景看,2026年以来生成式AI在企业端的渗透明显提速:制造企业用大模型做质检、排产与营销素材生成,金融机构用其做投研摘要与客服应答,应用越深,模型误判、数据泄露与责任归属等风险越具体。与此同时,全球范围内围绕AI安全的立法与诉讼明显增多,监管正从原则性倡议转向可执行的义务条款,企业面对的不再是「要不要治理」的选择题,而是「如何治理」的操作题。

核心分析

一、AI治理的三层次架构

现代公司治理理论强调,风险治理必须与决策权限的层级相匹配。AI治理可分解为三个层次:技术层,包括模型评估、安全测试、红队演练;流程层,包括数据管理、场景审批、人机权限边界;董事会层,包括风险偏好设定与重大技术决策的监督。英伟达新设「国家安全与出口管制监督委员会」,说明前沿AI企业已把地缘政治与技术风险上升到董事会专门委员会的层级;李东生的表态则对应流程层与董事会层的协同。从委托代理理论看,管理层天然有追求效率而低估风险的倾向,唯有把治理职责嵌入层级结构并匹配问责机制,AI风险才能被持续管理而非一次性表态。需要补充的是边界条件:三层次架构并非层级越多越好,对AI应用浅、模型依赖度低的企业,强行设立董事会级委员会会造成治理空转,形式合规替代实质管理,治理层级应与AI在企业价值创造中的权重相匹配。可对照的现象是,一些企业把AI治理全部塞进IT部门,风险决策者与风险承受者错位——产线事故、客户数据泄露的损失由业务与品牌承担,审批却由不熟悉业务的技术团队完成,这种错位正是治理失效的典型土壤。

二、算法问责与可审计性

加州起诉OpenAI,指控模型测试失控并危害公共安全,其意义在于:AI风险从道德倡议走向法律义务,外部监督开始实质性介入企业内部的技术管理。对企业而言,可问责的前提是可审计——AI系统的训练数据来源、测试记录、上线审批流程必须留痕,关键决策必须可追溯、可解释。按照信息不对称理论,AI模型的「黑箱」属性加剧了企业与监管者、企业与用户之间的信息不对称,而可审计性正是消除这种不对称的制度安排。未来监管框架大概率会要求企业自证安全,缺乏审计痕迹的企业将在诉讼与合规审查中处于被动。反例同样有说服力:部分企业采购了能力强劲但来源不明的模型服务,既说不清训练数据是否含有侵权内容,也拿不出内部测试记录,一旦被监管问询便无从自证。可对照的是金融行业——模型风险管理早已要求留档、验证与独立复核,AI治理大概率会走向类似的制度化路径,早建审计体系的企业反而能把合规能力转化为信任资产。

三、合规成本前置与红线清单

风险管理中的预防原则指出,事前防范的成本远低于事后补救。李东生「防范技术失控」的警示,可操作化为企业在监管到来前自行建立AI应用的红线清单:哪些数据不可用于训练、哪些场景必须人工复核、哪些决策环节禁止全自动执行。把合规要求前置到模型选型与流程设计阶段,比事后整改便宜得多;红线清单的价值还在于给一线员工明确的行动边界,降低基层在灰色地带的试错成本。对出海企业而言,还需要叠加不同法域的监管差异,把红线清单做成矩阵而非单一条目。其边界条件在于:红线清单不是一劳永逸的静态文件,模型能力每上一个台阶,原来的安全场景可能变成风险场景;清单若长期不更新,反而会给管理层虚假的安全感。可行的做法是把清单与模型版本、数据源变更绑定,触发式复核而非年度例行公事,让清单随技术演进保持有效。

管理启示

第一,建立企业级AI红线清单并分级授权。按场景风险高低划分审批层级:低风险场景可授权部门自行试用,高风险场景必须经由法务与技术双签,涉及人身安全、资金决策的场景禁止全自动执行。清单应每年复核,随模型能力与监管变化动态调整。

第二,让AI治理进入董事会与经营层的正式议程。设立由技术、法务、合规共同参与的AI治理委员会,明确模型上线的审批流程与事故报告路径;规模较大的企业可参照英伟达的做法,在董事会层面设立专门监督机制。

第三,把可审计性作为采购与自研AI系统的硬指标。引入外部AI工具时,要求供应商提供数据来源说明与测试记录;内部自研时,从设计阶段就留存评估文档。审计能力本身就是一种竞争优势,在监管趋严的环境中将越来越稀缺。第四,把AI治理落到人头上并给出度量。建议由首席合规官或法务负责人牵头,联合CTO办公室组成常设小组:先用一个月盘点全公司AI使用场景并建立台账;再按风险分级发布红线清单与审批流程,明确每个高风险场景的第一责任人;度量上盯三类指标——高风险场景的人工复核率、AI事故的平均响应与闭环时长、审计文档的齐备率,按季度向管理层报告。治理的价值不在文件厚度,而在事故发生时能否在数小时内定位、定责并止血。

其他思考

  1. 警惕AI技术垄断与保持开源开放生态之间如何平衡?头部厂商的标准话语权是否会形成新的进入壁垒?
  2. 企业内控体系的迭代速度能否跟上模型能力的进化速度?静态红线清单是否会被动态风险穿透?
  3. 跨国经营企业面对不同法域的AI监管差异,应采用全球统一标准还是属地化合规?统一与差异的成本如何权衡?

关键词:AI治理、技术垄断、算法问责、合规成本、红线清单
来源:财新网、第一财经 | 整理:经管大课堂

锐思,察微。
上一篇

【经管大课堂·AI经管实践】长鑫科技的「存储紧缺」判断:端侧AI如何改写存储需求曲线

下一篇

【经管大课堂·AI经管实践】菜鸟携手越南邮政:供应链AI海外收入占比超四成说明什么

你也可能喜欢

发表评论

您的电子邮件地址不会被公开。 必填项已用 * 标注

提示:点击验证后方可评论!

插入图片
关注 关注
锐察微博
返回顶部

微信扫一扫

微信扫一扫