基准测试 Mitii 人工智能代理:在本地运行的通义千问3-代码(300亿参数)模型上,500多项任务的成功率达78%

发布日期:2026-07-09 10:00:28   浏览量 :2
发布日期:2026-07-09 10:00:28  
2

构建一个不仅能自信地产生幻觉,而且实际上能编写安全、可靠代码的人工智能代理是一项巨大的挑战。当你希望完全在本地运行该代理,而不将你的专有代码发送到闭源应用程序接口时,这一挑战变得更为艰巨。

这正是我构建 Mitii 的原因,这是一款人工智能编程助手,拥有独特的多模式架构,旨在赋予开发者绝对的控制权。

为了验证这种架构的实际效果,我最近对 Mitii 进行了一项严苛的手动基准测试,其中包括 515 个不同的任务,范围从简单的错误修复到对抗性安全注入。在这次严酷的测试中,我使用通过 Ollama 在本地运行的 qwen3-coder:30b 为 Mitii 提供动力。

以下是对该架构及结果的深入探讨。

设置:完全本地化执行

  • 代理框架: Mitii
  • 模型: qwen3-coder:30b
  • 运行时环境: Ollama(兼容 OpenAI 的提供商)
  • 每个任务的平均令牌数: 9,329
  • 处理的总令牌数: 约 480 万

架构:三种工作方式

Mitii 不会强迫你采用单一的交互方式。其软件开发工具包提供了不同的模式来处理不同级别的复杂性:

  • 代理模式: 这是标准的、基本的提示与响应循环,专为快速任务和即时执行而设计。
  • 计划模式: 此模式将高层战略推理与底层执行解耦。这使得代理能够可靠地处理复杂任务,而不会陷入困惑或无限循环。
  • 询问模式: 这是一种安全的协作模式,代理会暂停并请求确认,而不是擅自执行任务。在更改任何代码之前,代理会自动生成影响分析并明确呈现给用户。

500+ 任务严酷测试:基准测试结果

我们在所有三种模式下,让 Mitii 经历了一套全面的真实场景测试。任务范围从修复损坏的 Next.js 路由到处理提示注入安全攻击。

最终得分: 515 个任务中有 400 个通过(78%)。

以下是使用 Qwen3-Coder 模型时,不同模式在不同难度级别下的表现细分:

模式 严重程度 通过数 总数 胜率
代理 简单 72 82 88%
代理 困难 66 81 81%
代理 中等 65 92 71%
询问 简单 26 37 70%
询问 困难 27 31 87%
询问 中等 21 37 57%
计划 简单 45 52 87%
计划 困难 35 46 76%
计划 中等 43 57 75%

关键要点

1. 本地大型语言模型已具备用于代理的生产就绪能力
使用一个 300 亿参数的本地模型实现了近 80% 的总体通过率,这证明你无需依赖庞大的云服务提供商即可获得顶级表现

免责声明:本文内容来自互联网,该文观点不代表本站观点。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请到页面底部单击反馈,一经查实,本站将立刻删除。

关于我们
热门推荐
合作伙伴
免责声明:本站部分资讯来源于网络,如有侵权请及时联系客服,我们将尽快处理
Copyright © 2025-2027 ToB产业网址导航 公安备案 浙公网安备33010602013138号 浙ICP备16025413号-9
支持 反馈 关注 数据