AI军备竞赛：生成式AI如何重塑民主与治理

AI在21世纪最关键的军备竞赛中的角色

美中之间的AI霸权竞争主导着当前的政治话语，争论焦点集中在芯片出口、模型进展和军事应用上。然而，安全专家警告称，最具影响力的AI驱动冲突已经展开——不是在超级大国之间，而是在民主机构、学术界和数字生态系统中。在这场军备竞赛中，AI是首选武器，其参与者遍布从法庭到社交媒体的数十个领域。

AI在关键领域的扩散

生成式AI正在迅速改变机构的运作方式，且往往带来意想不到的后果：

• 学术出版：期刊面临大量AI生成的投稿，迫使出版商部署AI驱动的审稿工具以应对数量激增。
• 司法系统：巴西法院如今使用AI对案件进行分流，但这导致AI辅助的诉讼文件激增，使系统不堪重负。
• 开源软件：开发者面临机器人生成的代码贡献涌入，增加了维护和安全审查的复杂性。
• 媒体与公共话语：报纸、社交媒体和音乐平台苦于应对AI生成的内容，而调查性新闻和招聘流程也受到合成提交物的干扰。

这些场景反映了一种对抗性动态——每个参与者都利用AI获取优势，迫使竞争对手采用相同技术以保持竞争力。结果是一个自我延续的循环，AI的采用成为必然而非选择。

民主困境：AI在治理与公民参与中的角色

最紧迫的担忧之一是AI对民主治理的影响。历史上，公众与政府的互动依赖于人际交流——选民写信、提交评论或参加市政厅会议。如今，AI正在大规模重塑这些互动：

• 监管评论洪水：2017年，美国联邦通信委员会（FCC）在网络中立性辩论期间收到数百万虚假评论，这些评论由宽带提供商策划，并被一名大学生使用自动化工具反击。近十年后，AI使这类策略变得更加复杂。
• 政府AI应用：美国国会工作人员如今使用AI简化选民来信处理，而政客则利用AI进行筹款和选民联络。预计到2025年，**消费者金融保护局（CFPB）**收到的公众提交材料中，有20%将由AI辅助生成。
• 个性化悖论：AI使大规模倡导活动能够生成高度个性化、上下文相关的评论，使机构更难忽视它们。然而，这也迫使机构采用AI处理提交材料，形成一个反馈循环，人类的声音面临被淹没的风险。

谁是受益者？企业AI垄断

在这些军备竞赛中，美国科技巨头显然是最大的受益者。全球经济迅速围绕AI重新定位，数万亿美元流向芯片制造、数据中心和“前沿”AI模型。与此同时，科技游说的影响力已变得如此巨大，以至于它现在塑造政府政策，而非相反。

权力集中现象十分明显：

• 少数几家企业控制着AI基础设施，从硬件（如NVIDIA芯片）到软件（如OpenAI、Google、Meta）。
• 这些公司从军备竞赛动态本身获利，无论哪一方获得暂时优势。

降低风险：监管与抵制

尽管面临挑战，民主国家正在反击AI驱动的集中化：

• 反垄断执法：欧盟和美国的监管机构正在打击科技巨头垄断，以遏制其影响力。
• 人权保护：联合国的AI治理框架等倡议旨在保护民主价值观。
• 公共AI替代方案：Apertus等项目提供完全开放和透明的多语言语言模型，为企业控制的AI提供替代方案。

对于安全专业人员和政策制定者而言，前进的道路需要双重策略：

1. 防御性利用AI：使用AI工具增强公民参与、检测合成内容并提高机构响应能力。
2. 对抗AI集中化：支持监管努力、开源替代方案和透明度倡议，防止企业垄断主导AI的未来。

结论：行动呼吁

AI军备竞赛不是未来的威胁——它已经在重塑民主、治理和公共话语。虽然AI提供了放大边缘化声音的工具，但也有巩固企业权力和破坏机构信任的风险。安全专家、政策制定者和公民的共同挑战是：在抵制垄断势力对AI的利用的同时，发挥AI的潜力。民主的未来可能取决于此。

本文基于Bruce Schneier和Nathan E. Sanders的著作《重构民主》中的见解。