人生就是博(中国区)官方网站

EN 人生就是博·(中国区)官方网站 人生就是博·(中国区)官方网站
http://www.gov.cn/

老师脱 让学生摸 桃子网站 男子强奸大嫂出狱后刺死临危不惧者,被害人儿子回忆:父亲组织村民修的路越走越宽

2025-07-24 18:08:42 泉源: 尚永生
字号:默认 超大 | 打印 |

老师脱 让学生摸 桃子网站

老师脱 让学生摸 桃子网站

老师脱 让学生摸 桃子网站?面向AI代理的上下文工程:构建 Manus 的经验教训 2025 年 7 月 18 日 季逸超 在Manus 项目伊始,我和团队面临一个关键抉择:是使用开源基础模型训练一个端到端的代理模型,还是基于前沿模型的上下文学习能力构建代理? 回想我在自然语言处理领域的最初十年,我们没有这样的选择余地。在BERT 的远古时代(是的,已经七年了),模型必须经过微调并评估后才能迁移到新任务。即使当时的模型远小于如今的 LLMs,这一过程每次迭代往往也需数周。对于快速发展的应用,尤其是产品市场匹配前期,这样缓慢的反馈周期是致命的。这是我上一家创业公司的惨痛教训,当时我从零开始训练模型用于开放信息抽取和语义搜索。随后 GPT-3 和 Flan-T5 的出现,让我自研的模型一夜之间变得无关紧要。讽刺的是,正是这些模型开启了上下文学习的新纪元——也为我们开辟了一条全新的前进道路。 这个来之不易的教训让选择变得清晰:Manus 将押注于上下文工程。这使我们能够在数小时内发布改进,而不是数周,同时保持我们的产品与底层模型正交:如果模型进步是涨潮,我们希望 Manus 是船,而不是固定在海床上的柱子。 然而,上下文工程远非简单。这是一门实验科学——我们已经重建了四次代理框架,每次都是在发现了更好的上下文塑造方法之后。我们亲切地称这种手动的架构搜索、提示调整和经验猜测过程为“随机梯度下降”。它不优雅,但有效。 这篇文章分享了我们通过自己的“SGD”达到的局部最优解。如果你正在构建自己的 AI 代理,希望这些原则能帮助你更快收敛。 围绕KV缓存设计 如果只能选择一个指标,我认为KV 缓存命中率是生产阶段 AI 代理最重要的指标。它直接影响延迟和成本。要理解原因,我们先看看典型代理的工作方式: 在接收到用户输入后,代理通过一系列工具调用来完成任务。在每次迭代中,模型根据当前上下文从预定义的动作空间中选择一个动作。然后在环境中执行该动作(例如Manus 的虚拟机沙箱),以产生观察结果。动作和观察结果被追加到上下文中,形成下一次迭代的输入。这个循环持续进行,直到任务完成。 正如你所想象的,上下文随着每一步增长,而输出——通常是结构化的函数调用——则相对较短。这使得预填充与解码之间的比例在代理中远远偏高,区别于聊天机器人。例如,在 Manus 中,平均输入与输出的Token比约为100:1。 幸运的是,具有相同前缀的上下文可以利用KV 缓存,这大大减少了首次生成标记时间(TTFT)和推理成本——无论你是使用自托管模型还是调用推理 API。这里的节省可不是小数目:以 Claude Sonnet 为例,缓存的输入标记费用为 0.30 美元/千标记,而未缓存的则为 3 美元/千标记——相差 10 倍。 从上下文工程的角度来看,提高KV 缓存命中率涉及几个关键做法: 保持提示前缀稳定。由于LLMs 的自回归特性,即使是单个标记的差异也会使该标记及其之后的缓存失效。一个常见错误是在系统提示开头包含时间戳——尤其是精确到秒的时间戳。虽然这样可以让模型告诉你当前时间,但也会大幅降低缓存命中率。 使你的上下文仅追加。避免修改之前的操作或观察。确保你的序列化是确定性的。许多编程语言和库在序列化JSON 对象时不保证键的顺序稳定,这可能会悄无声息地破坏缓存。 在需要时明确标记缓存断点。一些模型提供商或推理框架不支持自动增量前缀缓存,而是需要在上下文中手动插入缓存断点。设置这些断点时,应考虑缓存可能过期的情况,至少确保断点包含系统提示的结尾部分。 此外,如果你使用像vLLM 这样的框架自托管模型,确保启用了前缀/提示缓存,并且使用会话 ID 等技术在分布式工作节点间一致地路由请求。 遮蔽,而非移除 随着你的智能体功能不断增强,其动作空间自然变得更加复杂——简单来说,就是工具数量激增。最近 MCP 的流行更是火上浇油。如果允许用户自定义工具,相信我:总会有人将数百个神秘工具接入你精心策划的动作空间。结果,模型更可能选择错误的动作或走低效路径。简而言之,你的重装智能体反而变得更笨。 一种自然的反应是设计动态动作空间——或许使用类似 RAG 的方式按需加载工具。我们在 Manus 中也尝试过。但实验表明一个明确的规则:除非绝对必要,避免在迭代过程中动态添加或移除工具。主要有两个原因: 1. 在大多数LLMs 中,工具定义在序列化后通常位于上下文的前部,通常在系统提示之前或之后。因此,任何更改都会使所有后续操作和观察的 KV 缓存失效。 2. 当之前的操作和观察仍然引用当前上下文中不再定义的工具时,模型会感到困惑。如果没有受限解码,这通常会导致模式违规或幻觉操作。 为了解决这一问题,同时提升动作选择的效果,Manus 使用了一个上下文感知的状态机来管理工具的可用性。它不是移除工具,而是在解码过程中屏蔽Token的对数概率,以根据当前上下文防止(或强制)选择某些动作。 在实际操作中,大多数模型提供商和推理框架都支持某种形式的响应预填充,这使你可以在不修改工具定义的情况下限制动作空间。函数调用通常有三种模式(我们以NousResearch 的 Hermes 格式为例): 自动——模型可以选择是否调用函数。通过仅预填回复前缀实现:<|im_start|>assistant 必需——模型必须调用一个函数,但选择不受限制。通过预填充到工具调用标记实现:<|im_start|>assistant 指定——模型必须从特定子集中调用函数。通过预填充到函数名开头实现:<|im_start|>assistant {"name": “browser_ 利用此方法,我们通过直接屏蔽标记的对数概率来限制动作选择。例如,当用户提供新输入时,Manus 必须立即回复,而不是执行动作。我们还特意设计了具有一致前缀的动作名称——例如,所有与浏览器相关的工具都以 browser_开头,命令行工具以 shell_开头。这使我们能够轻松确保代理在特定状态下仅从某一组工具中选择,而无需使用有状态的对数概率处理器。 这些设计有助于确保Manus 代理循环保持稳定——即使在模型驱动架构下也是如此。 将文件系统用作上下文 现代前沿的LLMs 现在提供 128K Token或更多的上下文窗口。但在现实世界的智能代理场景中,这通常不够,有时甚至成为负担。有三个常见的痛点: 1. 观察内容可能非常庞大,尤其是当代理与网页或PDF 等非结构化数据交互时。很容易超出上下文限制。 2. 即使窗口技术上支持,模型性能在超过某个上下文长度后往往会下降。 3. 长输入代价高昂,即使使用前缀缓存也是如此。你仍然需要为传输和预填充每个标记付费。 为了解决这个问题,许多智能体系统实施了上下文截断或压缩策略。但过度压缩不可避免地导致信息丢失。问题是根本性的:智能体本质上必须基于所有先前状态来预测下一步动作——而你无法可靠地预测哪条观察在十步之后可能变得关键。从逻辑角度看,任何不可逆的压缩都存在风险。 这就是为什么我们将文件系统视为Manus 中的终极上下文:大小无限,天生持久,并且可以由智能体自身直接操作。模型学会按需写入和读取文件——不仅将文件系统用作存储,更作为结构化的外部记忆。 我们的压缩策略始终设计为可恢复的。例如,只要保留网址,网页内容就可以从上下文中删除;只要沙盒中仍有文档路径,文档内容也可以省略。这使得 Manus 能够缩短上下文长度而不永久丢失信息。 在开发此功能时,我不禁想象,状态空间模型(SSM)要在具代理性的环境中有效工作需要什么条件。与 Transformer 不同,SSM 缺乏完全的注意力机制,难以处理长距离的向后依赖。但如果它们能掌握基于文件的记忆——将长期状态外部化而非保存在上下文中——那么它们的速度和效率可能会开启新一代代理。具代理性的 SSM 或许才是神经图灵机的真正继任者。 通过背诵操控注意力 如果你使用过Manus,可能会注意到一个有趣的现象:在处理复杂任务时,它倾向于创建一个 todo.md 文件,并随着任务的推进逐步更新,勾选已完成的事项。 这不仅仅是可爱的行为——这是一种有意操控注意力的机制。 Manus 中的一个典型任务平均需要大约 50 次工具调用。这是一个较长的循环——由于 Manus 依赖 LLMs 进行决策,因此在长上下文或复杂任务中,容易偏离主题或忘记之前的目标。 通过不断重写待办事项清单,Manus 将其目标反复写入上下文末尾。这将全局计划推入模型的近期注意力范围,避免了“中途丢失”问题,减少了目标不一致的情况。实际上,它利用自然语言来引导自身关注任务目标——无需特殊的架构改动。 保留错误信息 智能体会犯错。这不是漏洞——这是现实。语言模型会产生幻觉,环境会返回错误,外部工具会出现异常,意外的边缘情况时常发生。在多步骤任务中,失败不是例外;它是循环的一部分。 然而,一个常见的冲动是隐藏这些错误:清理痕迹,重试操作,或重置模型状态,寄希望于神奇的“温度”参数。这看起来更安全、更可控。但这付出了代价:抹去失败就抹去了证据。没有证据,模型就无法适应。 根据我们的经验,改善智能体行为的最有效方法之一看似简单:在上下文中保留错误的路径。当模型看到失败的操作及其产生的观察结果或堆栈跟踪时,它会隐式地更新内部信念。这会使其先验偏离类似的操作,从而减少重复同样错误的可能性。 事实上,我们认为错误恢复是衡量真正智能体行为的最明确指标之一。然而,在大多数学术研究和公开基准测试中,这一指标仍然被忽视,这些研究和测试通常侧重于理想条件下的任务成功率。 避免被少量示例限制 少量示例提示是提升LLM 输出的常用技巧。但在智能体系统中,它可能以微妙的方式适得其反。 语言模型擅长模仿;它们会复制上下文中的行为模式。如果你的上下文充满了类似的过去动作-观察对,模型往往会遵循这种模式,即使这已不再是最优选择。 在涉及重复决策或操作的任务中,这可能会带来危险。例如,在使用Manus 帮助审查一批 20 份简历时,代理经常陷入一种节奏——仅仅因为上下文中出现了类似内容,就重复执行相似的操作。这会导致偏离、过度泛化,甚至有时产生幻觉。 解决方法是增加多样性。Manus 在动作和观察中引入少量结构化的变化——不同的序列化模板、替代表达、顺序或格式上的细微噪声。这种受控的随机性有助于打破模式,调整模型的注意力。 换句话说,不要让少量示例把自己限制在固定模式中。上下文越统一,代理就越脆弱。 结论 上下文工程仍是一门新兴科学——但对于代理系统来说,它已经至关重要。模型可能变得更强大、更快速、更廉价,但再强的原始能力也无法替代记忆、环境和反馈的需求。你如何塑造上下文,最终决定了代理的行为:运行速度、恢复能力以及扩展范围。 在Manus,我们通过反复重写、走过死胡同以及在数百万用户中的实际测试,学到了这些经验。我们在这里分享的内容并非普遍真理,但这些是对我们有效的模式。如果它们能帮助你避免哪怕一次痛苦的迭代,那么这篇文章就达到了它的目的。 智能代理的未来将由一个个情境逐步构建。精心设计每一个情境。 男子强奸大嫂出狱后刺死临危不惧者,被害人儿子回忆:父亲组织村民修的路越走越宽

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?拍摄者,那位28岁的姑娘,在接受媒体采访时也表示:“我其实也有点愧疚,毕竟可能让这俩人生活天翻地覆……但说真的,种瓜得瓜种豆得豆(Play stupid games, win stupid prizes)。” 傅雪宝记者 覃章勇 摄

老师脱 让学生摸 桃子网站?以色列和伊朗为期12天的战争已经重塑了中东的权力格局:一个胆气愈壮、意图进一步改造地区的以色列;一个元气大伤、挣扎求存的伊朗政权;以及一个犹豫不决、不愿再陷入持久冲突的美国。然而,最危险的后果或许不在以色列、伊朗的后续交火——而在于土耳其与以色列之间已经浮现的更激烈对抗。

老师脱 让学生摸 桃子网站?此前,特朗普在社交媒体上表示,节省联邦开支最简单的方法就是“终止”与马斯克公司签署的政府合同。除此之外,他还多次指责马斯克“过度依赖”联邦补贴,并暗示如果没有政府援助,特斯拉和 SpaceX 将会倒闭。

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?民生证券的研报显示,AI Agent完成超过4小时复杂任务的成功率还不到10%,这意味着在处理复杂企业业务时,AI仍不够可靠。如何让企业客户为这样的AI功能付费,是钉钉面临的一大挑战。 王会兰记者 叶仁华 摄

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?“5月份淘宝闪购上线以来,平台的投入把消费的热情带动起来了。面馆5月、6月、7月三个月的线上订单量持续增长。其中万风店订单量增长最多,超过300%。目前,淘宝闪购的订单量占比已达到三分之二。”万华健说 邱春记者 韩雨龙 摄

老师脱 让学生摸 桃子网站?敖瑞鹏将“少年将军”与“儒雅权贵二代”的身份,诠释得淋漓尽致,可以披甲无敌于世间,也可以穿上锦服,安慰眼前人,贵气与英气同存,这算不算是“雷无桀长大了,萧瑟可以放心了,雷无桀终究是有了萧瑟才有的贵气”?

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?但本次涉及收储的12宗土地并非深港国际中心的全部用地。从《深圳龙岗世茂深港国际中心项目详细蓝图》可见,项目整体用地分为14宗地,其中两宗已建成世茂之都公寓,于2020年前后完成备案销售;剩余12宗土地登记价约176.25亿元,这意味着官方此次计划收储价格不足原价的四折。 姚楠记者 金昊霖 摄

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?MirageLSD 主要在视频生成的时长和延迟两大角度产生了突破,基于定制的模型 ——实时流扩散(Live Stream Diffusion,LSD),该模型能够逐帧生成并保持时间连贯性。 张中一记者 刘艳丽 摄

老师脱 让学生摸 桃子网站?我们已经在练习将要采用的战术理念。但战术阵型应根据球员的特点来定。一个优秀的教练应该懂得如何最大化发挥每名球员的价值。而要做到这一点,他必须了解球员这个人,而不只是职业球员。

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?第四项催化因素,与中美贸易及国际政治有关。近年来,稀土供给日益成为中美关税问题里中方反制的核心筹码。中国作为全球稀土供应链的主导者,可以通过稀土出口管制等措施反制美国技术封锁,也往往对稀土价格形成重要支撑。 宋洋记者 李成忠 摄

老师脱 让学生摸 桃子网站?据润田实业官网:润田实业是江西省内生产经营包装饮用水的龙头企业,也是国有控股企业,是众所周知的江西名片,“润田翠”系列天然矿泉水是润田公司的核心产品。

老师脱 让学生摸 桃子网站?在上述每一种形式中,提交的解答从技术上讲仍然是由高中参赛选手生成的,而非领队。然而,学生们在竞赛中报告的成功率可能会因这些形式上的改变而受到显著影响;一个在标准考试条件下可能连铜牌水平都达不到的学生或团队,在上述某些修改后的形式下,反而可能达到金牌水平。

老师脱 让学生摸 桃子网站?当季淘汰赛接连攻克圣埃蒂夫与苏黎世FC的征途中,琼斯的彪悍防守被球迷用经典横幅幽默定格:"乔伊生吞法式蛙腿(注:指淘汰法国球队),碾碎瑞士卷(注:双关瑞士球队),此刻正大嚼德式烤肠(注:指决赛对手德国门兴)"——这条标语已成为安菲尔德的不朽篇章。

老师脱 让学生摸 桃子网站?这种情况下,非息收入成为必争之地。很多银行通过提高中间业务收入占比、加大债券投资等转型措施来对冲利差收窄的影响。

老师脱 让学生摸 桃子网站?这个地确实也比较适合MY,他们在顺义开发的璟橒和雲纪卖得都不错,对顺义客户的琢磨也越来越有手感,这个市场还是需要小而美的民营企业的。

老师脱 让学生摸 桃子网站?这意味着,如何让更多品类加入即时零售,以近场服务、时效和货盘刺激新的消费需求,才是各家长期竞争的关键点,它考验平台的供应链、技术、服务、管理等能力,也带给平台们巨大的增长想象空间。回到外卖大战的热潮里,平台所可能带动的消费热情、行业转型也许并非坏事,但热战退潮后,平台们能真正将多少精力转向构建更数字化、高效、高质行业生态仍待检验。

老师脱 让学生摸 桃子网站?“在供应链维度,七鲜小厨的模式并不是‘二房东’的角色。”刘斌表示,七鲜小厨要做的不是租个地方再招一些加盟的品牌,让商家自负盈亏,而是参与食材供应链环节,以菜品合伙人的模式开店运营,租金、人力、运营成本都是京东出资,餐饮商家只需要负责菜品研发。“我们并不是一个若干外卖店的集合店,而是一个合营的餐饮制作平台。”

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?鉴于案件关键事实已涉嫌犯罪,依法应由公安机关处理。掌握了这一重要情况,承办法官主动与债权人沟通,详细说明了李女士“挂名法人”、未参与经营、对债务不知情且已被张某犯罪行为牵连的实际情况,并向债权人送达了李女士提交的证据材料。经过法官细致地释法说理,债权人最终同意并申请撤回了对李女士的起诉及采取的财产保全措施。承办法官随即依法作出裁定,解除了对李女士账户的保全措施,她的生活收支终于恢复正常。 耿金生记者 胡必先 摄

老师脱 让学生摸 桃子网站?今年1月,山西运城稷山县的“稷山融媒”新媒体公众号专门发布过一段关于当地乡村建设的视频,其中专门拍到了当地新建的公共厕所大门敞开,意味着公厕已经建成并且可以正常使用。

人生就是博·(中国区)官方网站

老师脱 让学生摸 桃子网站?主持人: 多么有趣的地方啊。顺便说一句,有趣的事实,当我加入Airbnb时,拉夫是我的第一任经理。我是一名工程师,他是我的第一任经理。一切都很顺利。 李勇记者 马玉新 摄

老师脱 让学生摸 桃子网站?开局一场喜事,然而当新娘子的喜轿帘子被掀开的那一刻:血色嫁衣裹着一具无头女尸,断颈处切口平整,鲜红与惨白交织出令人窒息的诡异。

老师脱 让学生摸 桃子网站?工作室里,两人日常节奏缓慢:做活、喝茶、研究古物。他们手中诞生的,不只是扇、漆器、竹艺,更是对一种永恒生活美学的虔诚叩问——让心慢下来,让美传下去。

老师脱 让学生摸 桃子网站?在整个夏季联赛中,瀚森逐渐增加了比赛的多样性。第一场比赛展示了他出色的传球能力,第二场比赛虽然表现不佳,但他在低位尝试了更多的动作。第三场比赛中,他开始自信地投三分球,最后一场比赛中,他作为挡拆球员表现出色,不断顺下寻找机会。总的来说,他展现了自己在不同方面的进步,这是一个年轻球员成长的迹象。 ,更多推荐:馃崋馃崋馃崋馃崋

扫一扫在手机翻开目今页
网站地图