【ADLab原创误差】微软Prompt flow远程代码执行误差
宣布时间 2025-08-20在大模子驱动的AI浪潮中，AI基础设施已成为支持智能应用的焦点底座，涵盖模子训练框架、推理服务框架、漫衍式盘算情形以及应用开发框架等要害组件。然而，随着AI生态的快速扩张，其清静性问题日益凸显。一旦基础设施保存误差，可能导致算力资源被滥用、服务遭到挟制或应用被破损，从而威胁整个AI生态的可靠性与稳固性。尊龙凯官网入口ADLab围绕AI基础设施开展系统化清静研究，现在已发明 LangFlow、Flowise、vLLM、Prompt flow 等多个高危误差。
Prompt flow是微软开发的大模子应用开发框架，用于简化基于大模子的AI应用开发流程，笼罩了从原型设计、测试、评估、安排和监控的完整生命周期。
Prompt flow的焦点看法是Flow，它将大模子、提醒词、Python代码和外部工具毗连起来，构建成一个可执行的事情流。开发者可以通过Flow：
? 快速构建并调试与大模子的交互逻辑；
? 在数据集上对事情流举行评估，盘算质量和性能指标；
? 将测试与评估集成进CI/CD流程，确保应用的稳固性和可靠性；
? 安排到服务平台或直接嵌入应用代码中。
关于Flow事情流的执行，Prompt flow提供了CLI要领和Executor Server, 其中Executor Server以服务化方法对外提供运行Flow的接口，基于 Web 框架实现API服务，吸收HTTP请求并挪用底层的flow executor执行事情流。由于Executor Server直接吸收和处置惩罚用户输入，这一执行接口也因此成为潜在的攻击面。Flow的无邪性在利便开发的同时，也引入了响应的清静危害，因此输入校验、执行隔离和权限控制成为清静剖析的要害点。
三、误差原理（MSRC Case 94015）
Prompt flow保存远程代码执行误差（MSRC Case 94015），由于/tool/retrieve_tool_func_result 接口在加载和执行工具时没有举行任何校验或限制，攻击者可使用这一误差在 Prompt flow Executor Server上实现远程代码执行，从而影响系统的正常运行。
微软MSRC（Microsoft Security Response Center）对ADLab提交的误差报告举行了评估，确定该误差为严重级别。在最新宣布的版本中，已弃用了保存误差的接口。建议相关用户尽快升级到最新版本。
此类误差展现了大模子应用开发框架在处置惩罚工具挪用时可能面临的危害。为降低危害，开发者可以在设计中关注以下方面：
? 输入校验：在接口层面临外部请求举行须要的校验与过滤，阻止未履历证的输入直接驱动系统逻辑。
? 白名单机制：限制可挪用的模块与函数规模，仅允许经由审核的操作被执行。
? 沙箱隔离：为用户可控的代码或工具提供受限的执行情形，将危害控制在清静界线内。
? 权限最小化：遵照最小权限原则执行工具，降低潜在影响。
? 2025年1月2日提交报告至MSRC
? 2025年6月11日MSRC确认误差
? 2025年6月11日Prompt flow更新中弃用误差接口
? 2025年6月14日MSRC给出误差评级Critical
? 2025年6月30日获取MSRC致谢
尊龙凯官网入口起劲防御实验室（ADLab）
ADLab建设于1999年，是中国清静行业最早建设的攻防手艺研究实验室之一，微软MAPP妄想焦点成员，“黑雀攻击”看法首推者。阻止现在，ADLab已通过 CNVD/CNNVD/NVDB/CVE累计宣布清静误差6500余个，一连坚持国际网络清静领域一流水准。实验室研究偏向涵盖基础清静研究、数据清静研究、5G清静研究、AI+清静研究、卫星清静研究、运营商基础设施清静研究、移动清静研究、物联网清静研究、车联网清静研究、工控清静研究、信创清静研究、云清静研究、无线清静研究、高级威胁研究、攻防对抗手艺研究。研究效果应用于产品焦点手艺研究、国家重点科技项目攻关、专业清静服务等。
京公网安备11010802024551号