陈霞昌

近日，估值高达9650亿美元的AI （人工智能）龙头企业Anthropic宣布，美联储前主席、诺贝尔经济学奖得主本·伯南克加入公司设立的独立监管机构——长期利益信托（LTBT）。在业内都在为人工智能监管究竟该由谁主导这一问题所困扰时，Anthropic设立的独立机构，跳出“政府独管”或“企业自治”二元对立的框架，为人工智能监管主体的重构提供了极具参照价值的实验样本。

早在2023年，Anthropic便推出了长期利益信托制度，希望构建一个介于政府监管与企业经营之间的新型监督主体。从职责上看，该机构的设立是为了负责任地开发先进人工智能，造福人类的长期利益。在制度设计上，受托人不受公司投资人和管理层干预，核心使命仅为“人类长期利益”，而非企业营收增长。当公司计划推出高风险通用模型、推进大规模商业化落地时，信托可通过更换董事会成员，强制调整研发与商业化节奏，弥补企业内部自我约束失效的漏洞。

目前LTBT由4名和公司无财务关联的跨领域专家组成，覆盖AI安全、国家安全、法律、宏观经济、公共卫生等领域。最新加入的伯南克凭借其在2008年应对全球系统性金融风险的经验，专门负责研判AI引发的就业冲击、资本市场泡沫、宏观经济震荡等长期风险。

传统科技企业治理逻辑以股东收益为核心，当商业化扩张和长期公共利益发生冲突时，企业极易牺牲公共利益换取市场份额。以人工智能大模型企业为例，市场竞争和股东盈利的压力会倒逼企业模型快速迭代、降低安全审核成本，随之而来的便是算法偏见、深度伪造、通用大模型失控等风险的持续累积。而即便企业设立伦理委员会，这类机构也大多无实权，仅能提供咨询意见，无法否决管理层的商业化决策。Anthropic正是察觉到该短板，才尝试打造独立信托机制作为内部监督抓手。信托成员无公司股权、不参与利润分配，不受资本裹挟，且依照信托章程拥有直接任免董事、干预高风险AI研发决策的权力，从组织层面隔离短期商业冲动与人类长期公共利益。

当前各国政府和大型科技企业都被人工智能监管的问题所困扰。Anthropic由独立外部机构进行监管的模式，是一种新的尝试。但这种尝试本质属于企业内部自治改良，存在天然边界：LTBT权力仅局限于Anthropic单一企业，无法约束行业其他AI厂商。同时，信托规则由企业自主设定，缺乏国家法律背书，若企业修改公司章程削弱信托权力，并无外部强制制衡手段。此外，面对危害国家安全、侵犯公民基本权利等重大违法风险，信托仅能内部止损，不具备立案、处罚、关停、追责的执法权。伯南克在公开表述中也明确，LTBT是补充性治理工具，而非政府监管的替代品，完善的AI 治理仍需要官方法定监管体系作为根本保障。

人工智能是重塑人类社会的颠覆性技术，其风险兼具即时性、长期性、全球性，不存在能够独立包揽全部监管职责的单一主体。Anthropic设计的长期利益信托与伯南克的入局实践，为行业提供了全新思路，即在政府法定监管筑牢底线时，企业独立专业信托做好内部前置风控，同时利用国际多边机制协调跨境风险，多方主体权责清晰、相互制衡、协同发力，才能在释放AI创新价值的同时，牢牢守住行业长期发展的安全边界。

本版专栏文章仅代表作者个人观点

更多进阶玩法，请在「小金鲤」中解锁