#LLM
Awesome LLM Apps:100+可运行AI Agent模板,克隆就能用
想做一个 AI Agent,搜了一堆资料,打开十几个标签页,每个都在讲概念。RAG 是什么意思,Agent 的 ReAct 循环怎么设计,MCP 协议又是什么鬼。看了一小时,代码一行没写。
然后你找到了一个 GitHub 仓库:Awesom…
SGLang 团队把工程经验写进 Agent:3 个 Kernel PR 合并,B200 加速 2.75x
Agent 辅助开发:SGLang 团队的工程实践
SGLang 团队最近做了一件有趣的事:把自家在 benchmarking、profiling、CUDA kernel 调优、生产问题排查等方面的工程经验,编码成可执行的 agent sk…
DeepSeek 开源 DSpark 推理加速框架:V4 生产环境提速最高 85%
DeepSeek 刚刚开源了一套全新的推理优化方案 DSpark,附带详细论文、草稿模型权重以及完整的训练框架 DeepSpec。在 DeepSeek V4 生产环境中的实测结果显示,吞吐量和延迟提升了最高 85%—&mdash…
构建 AI 时代的知识底座:LLM Wiki 编译流水线实践
领域知识决定了 AI 在业务中能发挥多大的价值。任何 AI 系统都由模型、知识、架构三部分组成——模型由供应商提供,架构常因模型升级而失效重做,只有领域知识只能从内部积累,不可替代且持续变化,是最值得长期投入的部分。…
谷歌 Gemma 4 12B 实测:原生音频理解+256K 上下文,普通笔记本可运行
如果你一直觉得本地大模型"要么太笨,要么跑不动",谷歌这次的 Gemma 4 12B 很可能直接打破这个印象。
它不仅能看图说话,还首次在中型模型中加入了原生音频理解——直接"听懂"录音、视频里的声音,无需额外接语音…
Anthropic 推出 Claude Tag:让 AI 以团队成员身份加入 Slack 协作
Anthropic 推出了一个名为 Claude Tag 的新产品。它的用法非常简单:在 Slack 中 @Claude,分配一个任务,然后去忙别的事。Claude 会自动拆解步骤、逐步执行,完成后在线程里回复结果—&mdash…
whichllm:本地跑大模型选模型神器
这两年开源模型从 Llama 到 Qwen,再到 Gemma,能力一点点逼近闭源模型。于是不少人开始动心思,想要在自己电脑上本地部署模型,试图解决高昂的 Token 费用。
但在 HuggingFace 上有上百多万个开源模型,参数量从 1…
FreeLLMAPI开源:聚合11家AI平台免费API,每月13亿Token统一调用
各大 AI 厂商都有免费额度,但单独用起来总觉得不够。真要做点正经事,要么额度不够,要么被限流。更头疼的是,要把这些免费额度凑在一起用,得面对十几种不同的 SDK 和复杂的接口限制——每个平台的 API 格式不一样,…
LLM Wiki 开源知识库应用:基于 Karpathy 方法论,让 AI 自动构建个人知识体系
收藏夹、笔记软件、网盘里堆满了各种"可能以后会用到"的资料,但真正需要的时候,要么搜不到,要么找到了也是一堆零散的碎片,无法串起来形成有用的知识。花时间手动整理笔记的时间往往比阅读时间还长,最后索性放弃。
LLM Wiki 是一个跨平台桌面…
Obsidian 本地 AI 知识库实战指南:基于 Karpathy LLM Wiki 方法
摘要:本文详解如何使用 Obsidian 搭建本地 AI 知识库,基于 Andrej Karpathy 开源的 LLM Wiki 方法。通过三层文件结构(原始资源层、维基文件层、模式与规则层)和 AI Agent 配合,实现知识的原子化提炼…