Skip to content
Sign in
Artwork for Seventy3
Seventy3 · Friday · 14 min

【第775期】Codebook Agent：AI协作只需六种核心结构

今天的这篇的主题是： Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。 如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。 联系小助手微信：eccstartup（加群/投稿论文） Summary 根据大语言模型多智能体系统的上下文与论文特点，为您将该摘要纯翻译为中文： 针对不同的查询来调整大语言模型（LLM）多智能体系统的通信拓扑结构，能够同时提高准确率与效率。然而，现有的设计方法均将其视为条件图生成任务：利用变分、自回归或扩散解码器在 N×NN×N 的邻接空间中进行搜索，并使用根据效用和边数等结构成本训练的图网络代理模型对采样的候选拓扑进行排序。 我们认为这种问题构想与实际需求并不匹配。实验表明： 即便离散码本（codebook）容量从 8 扩大到 64，能够通过奖励筛选的拓扑结构也会塌缩为大约 6 种不同的图； 边数与实际测得的 Token 消耗量呈负相关（皮尔逊相关系数 r≈−0.4r≈−0.4），因此稀疏化图结构反而会使推理更加昂贵； 只要智能体共享同一个属性配置（Profile）——这是公开基准测试中的默认设置——针对智能体属性节点的消息传递打分器在邻接矩阵发生改变时就具有不变性（adjacency-invariant），因此在该条件下根本无法对候选拓扑进行排序。 这三个事实促成了 Codebook Agent 的提出： 一个矢量量化自编码器（VQ-AE）将成功的拓扑结构压缩为一个与查询无关的 16 实体码本； 一个基于奖励加权的 MLP 将查询嵌入映射为码本上的概率分布； 一个直接读取扁平化邻接矩阵的 MLP 代理模型（在实测效用和按任务归一化的 Token 成本上进行回归），在单次批处理前向传播中即可对解码出的候选拓扑进行重排序。 在测试阶段，Codebook Agent 无需迭代搜索，也无需消息传递。它在对比的所有六个基准数据集上均取得了最高的准确率（平均达到 84.6%，而最强的前人设计方法为 83.0%），生成一个拓扑仅需 2.4 毫秒，且消耗的 LLM Token 减少了 21.9%–33.2%。 原文链接：https://arxiv.org/abs/2609.02264 前往小宇宙评论区与主播互动

0:00-14:35
Play in

transcript

No transcript — this publisher did not publish one.

show notes

今天的这篇的主题是： Codebook Agent: Amortized Topology Design for LLM Multi-Agent Systems

Seventy3 是一档借助 NotebookLM 解读前沿论文的播客——不是念摘要，也不是泛泛而谈，而是让 AI 帮你把论文掰开揉碎，说人话。我们蹲在人工智能、大模型、机器人算法、crypto 这几个领域，每期挑一篇值得关注的工作，用对话的方式聊给你听。你可以在通勤路上听，做实验的时候听，也可以当背景音放着，让新知识自然地长进脑子里。

如果你正在做有意思的研究，想让更多人看到——不管你是博士生、独立研究者还是实验室的博士后——把论文发给我们，我们帮你用 AI 做一期深度解读，让你的工作被更多同路人发现。

联系小助手微信：eccstartup（加群/投稿论文）

Summary

根据大语言模型多智能体系统的上下文与论文特点，为您将该摘要纯翻译为中文：

针对不同的查询来调整大语言模型（LLM）多智能体系统的通信拓扑结构，能够同时提高准确率与效率。然而，现有的设计方法均将其视为条件图生成任务：利用变分、自回归或扩散解码器在 N×NN×N 的邻接空间中进行搜索，并使用根据效用和边数等结构成本训练的图网络代理模型对采样的候选拓扑进行排序。

我们认为这种问题构想与实际需求并不匹配。实验表明：

  1. 即便离散码本（codebook）容量从 8 扩大到 64，能够通过奖励筛选的拓扑结构也会塌缩为大约 6 种不同的图；

  2. 边数与实际测得的 Token 消耗量呈负相关（皮尔逊相关系数 r≈−0.4r≈−0.4），因此稀疏化图结构反而会使推理更加昂贵；

  3. 只要智能体共享同一个属性配置（Profile）——这是公开基准测试中的默认设置——针对智能体属性节点的消息传递打分器在邻接矩阵发生改变时就具有不变性（adjacency-invariant），因此在该条件下根本无法对候选拓扑进行排序。

这三个事实促成了 Codebook Agent 的提出：

  • 一个矢量量化自编码器（VQ-AE）将成功的拓扑结构压缩为一个与查询无关的 16 实体码本；

  • 一个基于奖励加权的 MLP 将查询嵌入映射为码本上的概率分布；

  • 一个直接读取扁平化邻接矩阵的 MLP 代理模型（在实测效用和按任务归一化的 Token 成本上进行回归），在单次批处理前向传播中即可对解码出的候选拓扑进行重排序。

在测试阶段，Codebook Agent 无需迭代搜索，也无需消息传递。它在对比的所有六个基准数据集上均取得了最高的准确率（平均达到 84.6%，而最强的前人设计方法为 83.0%），生成一个拓扑仅需 2.4 毫秒，且消耗的 LLM Token 减少了 21.9%–33.2%。

原文链接：https://arxiv.org/abs/2609.02264


前往小宇宙评论区与主播互动
links2

more episodes

All episodes