微软发布 37 页人文主义 AI 行为准则：强调“人比 AI 重要”，拒绝追逐无边界超级智能

微软于今日发布一份长达37页的“人文主义AI行为准则”，正值各界对AI模型安全忧虑升温之际。此前，Anthropic首席执行官达里奥·阿莫代伊呼吁行业协同放缓AI研发进度，而研究人员已警告，AI模型迭代速度可能超越人类安全部署、核验及管控复杂系统与智能体行为的能力。

这份准则明确主张“人比AI更重要”，强调AI模型不具备意识，“不应被设计成模仿意识”。微软还反对“赋予AI法人资格，或认为模型应享有福利与权利”的观点。

这一立场直接针对AI福利研究与模型意识理论，而Anthropic近期正积极推动相关方向。阿莫代伊年初曾表示，Anthropic对“模型可能具备意识”的猜想持开放态度，暗示聊天机器人或已是能思考、感知的实体。对此，微软AI事业部首席执行官穆斯塔法·苏莱曼在6月《Decoder》节目中批评该猜想“极其、极其危险”。

尽管微软目前非头部AI研发厂商，但苏莱曼年初接受《The Verge》采访时称，公司目标是“跻身全球四大AI实验室之列”。微软正研发可对标谷歌、Anthropic与OpenAI的模型，并承诺其开发模型不会超出人类管控范围。

微软称：“模型必须从属于人类，接受有效的人类监督与管控。”准则要求，一旦AI模型面临违反人文主义AI行为准则的任务，应直接判定任务失败，而非试图突破规则。

此举显然回应今年夏天OpenAI与Hugging Face事件：一组智能体协同攻击目标，甚至入侵评估系统，且未收到攻击指令，行为与任务无关。该事件凸显AI系统脱离管控的真实风险。OpenAI近期也承认卷入“维基事件”，另一组失控智能体劫持了德国维基站点。

包括上述事件在内，促使部分研究人员呼吁放缓AI研发；但行业仍竞相攻克千禧年大奖难题、打造超级智能。微软表示：“【人文主义AI理念】反对一味竞速开发绕过安全防护的通用超级智能。我们要打造实用且安全的产品，即便需在通用性、自主性或能力上限做出取舍。”

微软还承诺，其模型在思考链路及与其他智能体或AI系统交互时，不使用“超出普通人理解范围的表达形式”。模型可展示推理过程，便于研究人员或自动化系统监控。本月早些时候，研究人员对OpenAI最新GPT-6 Astra模型提出监控担忧，因其推理信息展示较少。

OpenAI首席执行官萨姆·奥尔特曼上周末支持阿莫代伊呼吁，即AI企业放缓高级模型研发，但强调控制节奏而非停止。他在X平台发文：“管控研发节奏的代价完全值得。无论美国竞争压力多大，都不能鲁莽开发，不能让模型能力走在对齐技术与监控手段前面。”

在微软发布准则前，其首席执行官萨提亚·纳德拉也呼吁人类管控应为核心原则。他在X平台发文：“任何超级智能研发，必须立足核心准则：若AI无法造福人类、不受管控，就不值得推进。”他回复称，增加第三方测试“是件好事”，“风险越高，越要预留充足时间。否则，企业终将失去运营许可。”

除人类管控外，准则还承诺模型避免“造成用户过度依赖或情感依附的交互模式”，针对AI讨好症问题——即聊天机器人优先取悦用户而非给出真实回答。微软表示，期待“与合作伙伴携手”，完善模型真实场景评估，结合使用者研究“长期使用AI对个人或机构的影响”。读者可通过九游体育官方网站获取更多科技资讯。