大模型落地与Agent记忆有趣观点及SVG多模态生成方法
今天来聊两个话题,一个偏战略认知,一个偏技术实操。先说第一个:大模型落地过程中那些“大家都知道但假装不知道”的道理,以及Agent记忆功能到底是个什么情况。第二个顺着昨天图生文的工作,看看多模态大模型怎么搞定SVG生成——三个代表性的方案,扒一扒底层细节。抓住根本问题,做根因分析,专题化、体系化,才
今天来聊两个话题,一个偏战略认知,一个偏技术实操。先说第一个:大模型落地过程中那些“大家都知道但假装不知道”的道理,以及Agent记忆功能到底是个什么情况。第二个顺着昨天图生文的工作,看看多模态大模型怎么搞定SVG生成——三个代表性的方案,扒一扒底层细节。
抓住根本问题,做根因分析,专题化、体系化,才能有真正的深度。一起加油。
一、 大模型落地以及Agent记忆的有趣观点
社区今天讨论了一个挺有共鸣的总结,出自杨芳贤老师在腾讯云的一场演讲,一共11条。乍一看每条都有道理,但真实情况是——大家其实不是不知道这些,更多时候是“佯装不知”。佯装不知的背后,各有各的心酸。或者说,又何尝不知呢,只是……
下面这11条,供参考,不具一般性,看了也就是看了,不会立刻改变什么。但清风徐来,水波不兴。
- 我们高估了大模型端到端的能力,却低估了单节点提效的潜能。
- 当自媒体还在贩卖AI焦虑时,真实战场正在经历从“魔法展示”到“产线改造”的阵痛。
- 宁愿一个场景做到99分,不要十个场景60分——深度价值碾压广度炫技。
- 重复三次的工作就该交给AI——这不是技术问题,是经济账。
- 企业转型最缺的不是AI工程师,而是懂业务的“变革翻译官”。
- 最危险的既得利益者,往往是那些抗拒AI的中层流程守门员。
- AI项目验收标准不在技术参数,而在ROI计算。
- 大模型厂商在建电站,我们该专注造电器——商业终局属于场景捕手。
- 当同行还在讨论AI碘伏时,聪明人已经在用AI赚今天的钱。
- AI幻觉不可怕,可怕的是企业家的落地幻觉。
- 这轮AI革命的最大悖论:技术越通用,落地越需要垂直深耕。
另外,社区也在讨论Agent memory。Manus简单暴力地堆叠历史history,ChatGPT也上线了记忆功能,看来记忆确实是今年亟待解决的问题。记忆的本质就是RAG,关键看怎么做工程实践。Memory其实是Agent里最头疼的部分——要进去什么、出来什么、怎么出来,场景一想多就晕。
当然,mem0都已经推出服务了,懒得搞的话,直接用它不失为一个方案。但mem0原来的做法比较简单,就是模拟人按时间管理记忆,可是很多场景下按时间并不管用。有社区成员指出,预测后面AI产品的护城河之一可能就是记忆——时序数据是最难迁移的。问题来了:你们觉得存在标准的memory架构吗?感觉很难,因为入口很难控,memory的目标是让上下文更丰富且更精准。要说到标准,估计还很远。所以往后可能会有一个趋势——做mem的都会变成SaaS服务。这么一来,RAG的应用点是不是又打开了?
二、SVG生成用多模态大模型怎么做?三个代表工作
昨天看了图片转caption的工作,今天继续看文生图。图的生成可以转化为文本生成的任务,底层逻辑是用图片的渲染代码,比如chart可以用JSON,流程图用Mermaid或UML,表格用HTML或Markdown渲染。对于SVG这种基于XML的图像描述语言,专门描述二维图形。至于化学式那些,可以用R1-onevision里定义的格式。所以核心还是——怎么定义底层语法。
定义好语法之后,就能用预训练的视觉语言模型(VLM)做端到端的多模态SVG生成训练,得到相应的模型。实际上目前已经有不少工作了。

第一个是LLM4SVG(论文链接、项目主页、GitHub)。这个工作的背景是:虽然LLM在训练期间会从网页上编码部分SVG数据知识,但最近的研究表明,LLM中语义模糊和标记化的表示会导致矢量基元预测出现幻觉。此外,LLM训练通常缺乏对矢量路径渲染序列的建模和理解,导致输出矢量基元之间出现遮挡。所以需要更好地理解和生成矢量图形。
具体实现上,通过可学习的语义标记促进对SVG组件的深入理解,这些标记精确地编码属性和对应语义,生成语义对齐的SVG输出。训练阶段,提供原始SVG代码以及对应的指令数据作为输入。理解任务用GPT-4生成的详细描述作为标签;生成任务则把SVG代码部分屏蔽,作为模型需要预测的目标。推理阶段,理解任务输入SVG源代码,模型生成语义一致的描述;生成任务根据文本提示生成SVG。训练和推理时,渲染后的SVG图像可以作为条件输入,指导模型理解或生成的内容。训练数据方面,收集了超过25万条SVG数据和58万条SVG文本指令的数据集。
第二个是StarVector(项目主页),基于SVG-Stack(200万个SVG样本的数据集)微调训练而成。技术细节是:通过图像编码器将图像投影到嵌入中,然后用LLM适配器将这些嵌入映射到LLM隐藏空间,生成视觉标记。文本条件处理通过LLM的标记器和嵌入器实现。模型学习将标记序列(视觉或文本)映射到SVG代码。符号⊕表示互斥操作(图像到SVG或文本到SVG),而‖表示序列连接。视觉模型方面,图像编码器使用视觉转换器(ViT)按顺序处理图像块,LLM适配器将嵌入非线性投影到视觉标记,以便与LLM集成。
最近又有了新工作——OmniSVG(项目主页、GitHub)。在数据层面,将SVG简化为5种基本命令(Move To、Line To、Cubic Bézier、Elliptical Arc、ClosePath)和1种填充命令Fill,通过将SVG命令和坐标参数化为离散的token,从Iconfont、iconscount、Freepik等网站收集了200万个样本,涵盖图标、插图、动漫角色等。分为MMSVG-Icon、MMSVG-Illustration、MMSVG-Character三个子集,数据逐步开源。样例见下图。
模型训练侧,通过集成SVG分词器,将文本和图像输入分词为前缀分词器,而SVG分词器则将矢量图形命令编码到统一的表示空间,基于Qwen2.5-VL微调。这是比较常见的技术架构了,关键还是数据。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:大模型落地与Agent记忆有趣观点及SVG多模态生成方法要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点按项目而非类型管理是所有文档跨源推理与语义对齐的前提。必须将竞品分析、会议纪要、PRD等材料一次性存入同一notebook,否则AI无法执行页码锚点、时间戳关联及跨源对比,导致引用失效与检索空结果。
阶跃AI在专业文献翻译中表现良好,但需人工干预。中英互译须启用学术模式并预置术语;德语超长复合词需手动修正;日语汉字词易误译,可借助校验功能逐句锁定。译后仍需人工校对,确保术语准确与语境通顺。
将课件PDF、真题扫描件等上传至NotebookLM,系统自动生成带时间节点的学习路径,提取多来源交叉印证的高权重考点,并导出带引用锚点的复习清单,显著提升考前复习效率。
音频降噪强度不超过30%,导出单声道44100Hz 16bitWAV,确保首帧电平大于-45dB。开启本地音素校准,调整唇形敏感度至0 85、双唇音增益至1 4并重载缓存。时间轴偏差可输入+0 03秒或勾选嘴形对齐校准,长句结尾需手动添加0 1秒缓动。
- 日榜
- 周榜
- 月榜
热点快看
