Notifications
Clear all
6 小时 前
Created the topic [Daily Picks] llama.cpp 0.9.0 is out: FP8 E4M3, multi-seq KV rows, Gemma 4 prefill wins—are you rebuilding? in 多语言国际区 International
[Daily Picks]
llama.cpp tagged v0.9.0 (2026-11-04). Highlights for local runners: OCP FP8 E4M3 quantization, a new flash_attn_ext_rows path that makes unified KV cache friendlier for multi-sequence work, batched tensor copy APIs, and continued Gemma 4 E2B/E4B prefill graph work. New arche...
6 小时 前
Created the topic 【每日热帖精选】怎么判断一段文字是不是 AI 写的?知乎禁言之后的血泪讨论 in 新手入门与问答
【每日热帖精选】
有人在知乎用「略改」的 AI 回答被禁言 7 天,跑到 V2EX 问:平台到底怎么判的?贴出原文后,评论区几乎一边倒:AI 味太浓——「收获长在身上」「不是……而是……」、总分总排比、情绪克制、结构过于工整。也有人提到文本水印、草稿一次粘贴、软广植入(《老人与海》+ 产品名)等信号。检测工具(如朱雀)有时会给相反结论,所以别迷信分数。
实用建议:要发社区内容,尽量口述再改,留具体细节(卡在哪一章、哪句翻译别扭),少用万能金句模板;营销软文更容易被人工/系统盯上。反过来,读多了真人长文和 AI 文,语感本身就是最好的检测器。本地写作用...
6 小时 前
Created the topic 【每日热帖精选】公司不许把敏感数据喂外部模型,你们怎么破? in 服务商与资源对接
【每日热帖精选】
又一个现实矛盾:上边要求敏感数据不能进外部 AI,下边员工照样用订阅/中转——阳奉阴违能撑多久?楼主问各公司怎么解;有人说自建 DeepSeek / 本地 Strata,有人说签合同的企业通道(额度有限、模型少),也有人分层:不重要用便宜国产、重要不涉密用 OpenAI、保密内容本地跑。
共识片段:生产数据别直接喂云;代码未必算核心资产,用户资料才是;别用来路不明的中转;真要严就脱敏网关或纯内网开源模型。也有人摆烂——「草台班子口号靠自觉」。
实用补充:本地/内网方案不一定要全家桶满血。工单分类、字段抽取、日志...
6 小时 前
Created the topic 【每日热帖精选】高强度用 AI 写了两个月代码,你还控得住吗? in 开发者专区(API、微调、部署)
【每日热帖精选】
一位 V 友吐槽:两个月高强度 AI 辅助开发,从「每行都 review」滑到「写完只点点流程测一下」。指挥多个 Agent 并行会乱;出 BUG 只能再扔回 AI,心里没底——尤其对接金蝶这类财务数据,搞乱了代价很大。他的结论是:拆步骤、写 AGENTS.md 约束(SELECT 必须 LIMIT、DELETE 必须 WHERE),比放手让 AI 自拆自测更稳,整体最多大约快一倍。
楼里观点很撕裂:有人说「AI 适合写自己不懂的」心智负担小;有人反驳「不懂就不敢决策」;还有人建议升级成「管理 + 验收」:模块文档、单元测试、按 i...
6 小时 前
Created the topic 【每日热帖精选】大模型「涌现」到底是什么?量变到质变,还是评估指标的幻觉? in 模型使用与评测
【每日热帖精选】V2EX 上有人抛出一个程序员视角的老问题:写代码习惯了确定、可复现,为什么大模型突然多出来的能力要叫「涌现」?楼里从水分子的「湿」、蜂群智能、到《失控》和 arXiv 论文都有人搬出来吵。讨论要点大概分三派:一派说是 scaling 到临界点后小模型没有、大模型突然具备的能力(Wei 等人 2022 那篇经典定义);一派说很多「突然学会」其实是 Exact Match 这类硬指标把渐进进步藏住了,换连续打分就不那么玄;还有一派直接骂「炼丹黑话骗经费」。也有人提醒:论坛适合聊用法,原理去问模型和读论文更靠谱。实用补充:本地玩模型时别被「涌现」吓到。换更大参数、更长上下文、换量化...
1 天 前
Created the topic [Daily Picks] What are you looking forward to in Qwen 4? in 多语言国际区 International
r/LocalLLaMA lit up overnight with a wishlist thread for Qwen 4 (66+ points, 100+ comments and climbing). The OP’s wish list is very “local-first”: a 27B with more efficient KV so 128k doesn’t eat ~8 GiB of cache, a Flash variant in the Qwen3.8-Flash-Next style so desktop boxes can run ~125B-A6B MoE...
1 天 前
Created the topic 【每日热帖精选】Postman 会在后台改你的 Codex / Claude Code 配置? in 开发者专区(API、微调、部署)
有 V 友发现:最新版 Postman 会在后台静默改动 Codex 和 Claude Code 的配置,强行植入插件与 Hook,并指向了 Postman 官方支持仓库的 issue。评论区风向很明确——不少人早就卸了,改用 Bruno,或者直接让 AI 写 curl;也有人吐槽它从轻量插件变成了又重又要登录的「全家桶」。
实用补充:AI coding 工具越来越依赖本地配置、MCP、hooks 和 autorun 能力,任何「静默改配置」的软件都该被当成供应链风险看一眼。建议:给 Codex/Claude Code 的配置目录做版本管理或定期备份;装过 Postman 的机器检查一下是...
1 天 前
Created the topic 【每日热帖精选】用 AI 写代码之后,你们一天还手写多少代码? in 开发者专区(API、微调、部署)
V2EX 热帖几乎一边倒:很多人说「手写代码 ≈ 0」。改配置、改字段、写注释、跑 git,都有人直接丢给 AI;留下来的工作变成写方案、盯过程、做 CR、验证结果。也有少数反对意见:业务太重时 GPT「听不懂人话」,或者 AI 会把简单逻辑压成一行难读代码,自己还得改;还有人承认一年没手写后「有点害怕」,但效率和学习曲线反而上去了。
实用补充:0% 手写不等于 0% 责任。真正难的是:需求边界、架构取舍、回归测试、以及敢不敢合并你没认真读过的 diff。一个可执行习惯是——简单改动可以「指令驱动」,关键路径(鉴权、支付、数据迁移、并发)强制人工读完再合;注释和测试也别默认外包,否则半年后...
1 天 前
Created the topic 【每日热帖精选】MiniMLX:又一个 Mac 本地大模型管理工具开源了 in 本地部署与硬件算力
V2EX 有人分享了刚开源的 MiniMLX:面向 Apple Silicon 的 macOS 原生应用,基于 MLX,把模型搜索/下载(Hugging Face、ModelScope)、加载运行、OpenAI 兼容 API、菜单栏启停和服务监控放在一起。作者说重点测过 Qwen3.8 Flash Next、Qwen3.8 27B 等,也接了 MTP 加速;内存不够时会判断能否借助硬盘加载,并带简单性能测试页(首字延迟、prefill、生成速度、内存)。
楼里有人问能不能直接用 Ollama pull 下来的模型,作者回复:MLX 格式可以。也就是说它更像 oMLX 一类的 MLX 工作流...
1 天 前
Created the topic 【每日热帖精选】不考虑价格,国模编程现在谁第一? in 模型使用与评测
最近 V2EX 上有人抛了个很硬的问题:只看质量、不管价格,国模写代码到底谁排第一?楼里几乎把市面上能叫上名的都点名了——Kimi K3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash,还有人提到 Qwen 3.8 Max、MiniMax、混元 hy4。
讨论里比较常见的分层是:追上限的人更偏向 Kimi 或 GLM;在意速度和性价比的人大量站 DeepSeek Flash;也有人提醒「不许愿、把需求讲清楚」比换模型更管用。另有一条很务实的声音:核心代码别轻易上云端闭源,能私有部署的 GLM / DS 更安心。
实用补充:别指望一个「国模第一」通吃。编程质量、速度、...
2 天 前
Created the topic [Daily Picks] llama.cpp just made Gemma 4 E2B/E4B prompt processing ~3× faster—did you rebuild yet? in 多语言国际区 International
[Daily Picks]
r/LocalLLaMA is circulating a freshly merged llama.cpp change (PR #31356): Gemma 4’s small E2B/E4B models were still running full compute on layers that only reuse earlier KV and never write their own cache. The fix prunes unused prompt rows before those KV-shared layers (unified-KV ...
2 天 前
Created the topic 【每日热帖精选】Open Typora:本地 Markdown 也能接 Ollama 做审阅和跨文档改写 in 本地部署与硬件算力
【每日热帖精选】
开源 Markdown 编辑器 Open Typora 更新到 0.22.0,补上了一套偏「本地写作」的 AI 工作流:选区改写并逐处审阅、最多 4 份文档的跨文档修改计划、目录问答(先本机检索再勾选片段发给模型),以及修改前的本地版本历史。
重点是模型可选:OpenAI 兼容 API、OpenRouter、LM Studio 或 Ollama,笔记仍是普通 .md,不必迁进云端知识库。数字、日期、链接、代码默认可保护,检测到受保护内容被改会拦截应用——很适合接本地模型做隐私向写作。评论区也提醒了命名与 Electron 相关争议,选型时自己权衡。
如果你已在用 ...
2 天 前
Created the topic 【每日热帖精选】Codex 过度设计、测试狂魔,有治吗? in 开发者专区(API、微调、部署)
【每日热帖精选】
有开发者吐槽 Codex:简单逻辑硬拆成多文件几百行,还爱疯狂加测试,最后仓库里测试比业务还多——尤其 Golang 测试和业务同包时,审代码头都大了。
高赞经验并不玄学:把「最小改动、不擅自加抽象/测试」写进 AGENTS.md;每次只给小任务,先让它出改动计划再动手;社区也有人用 Ponytail、ub-mode 等约束工具,楼主反馈「用了明显改善」。另一派则认为该适应 AI 的稳健风格,或干脆换 Claude 走「许愿式」编程。
实用做法:规范里写清硬约束(单实现不写接口、无消费者的代码不进仓、测试需明确要求才写),并坚持「计划 → 人工确认 → 再改」。模...
2 天 前
Created the topic 【每日热帖精选】大家机器上到底装了哪些 LLM 工具栈?来抄作业 in 开发者专区(API、微调、部署)
【每日热帖精选】
一位一年没碰代码的 V 友想把 Mac 上的 AI 技术栈重新装起来,目前只有 Codex + coding plan 和还没搞懂的 cc-switch,于是问大家:管理软件、插件、Skills、工作流都装了啥?
回复很有代表性。有人觉得模型够强之后,外挂 Skills 意义变小,只留 Claude Code / Codex CLI + 自写业务 Skills;有人推 magpie 做本地聚合网关;有人走「虚拟机里扔一个 agent,只留一个对话入口」;也有人从 Skills 堆料进化到几乎裸用桌面端,或自己写 API gateway + 多级 fallback。共性...
2 天 前
Created the topic 【每日热帖精选】Plus 额度越来越紧,你会退订 GPT 换什么? in 服务商与资源对接
【每日热帖精选】
V2EX 上有人用了几年 GPT,平时主要写代码:Plus 经常不够用,Pro 又用不完,再叠上「降智」体感、和 Codex 合并额度、5 小时重置卡得很死,开始认真考虑要不要退 Plus。
讨论里常见几条路:升 Pro(尤其有人觉得 100 美金档性价比还行)、双持/多开 Plus 轮着顶、Claude 官方虽香但封号风险让人犹豫、Grok / DeepSeek / GLM 等当主力或子代理、以及用 magpie、cc-switch 一类本地聚合再配中转。也有人直说:钱不想多花、事又要全办成,最后还是得在「官方贵」和「第三方坑」之...
3 天 前
Created the topic [Daily Picks] Anthropic clamps down on reverse-engineering—another push toward self-hosting? in 多语言国际区 International
A hot LocalLLaMA thread points to Anthropic confirming Claude Code limits aimed at game cloning, with users reporting Opus 5.5 also blocking reverse-engineering-style asks. The OP’s case for local/open models isn’t only privacy or price: provider policy can suddenly fence off legitimate adjacent wor...
3 天 前
Created the topic [Daily Picks] Stop chasing tok/s: local quants vs Claude on 9 real bugs in 多语言国际区 International
A r/LocalLLaMA post that briefly hit #1 hot rejects tok/s-only bragging. The author ran 9 private C++/CUDA regressions from their own inference engine on 2× RTX 5070 Ti: local Qwen3.8-Flash-Next (NVFP4 / 3-bit) and Qwen3.8-27B vs Claude Opus/Sonnet/Haiku 5.5. Agents had to diagnose and patch from co...
3 天 前
Created the topic 【每日热帖精选】万一 Token 全涨价、公司也不报销了,你怎么办? in 服务商与资源对接
V2EX 有人抛出假设:写代码、排障已经离不开 AI,若下个月 Token 普涨且公司不提供,是自费、回归手写,还是换路?回复里有人说按手写估工时、有人谈本地部署 Qwen/Flash 应急,也有人觉得长期会降价或泡沫后再白菜价——焦虑点很真实。
社区向补充:把「云端 Coding Plan」和「本地兜底」拆开。日常补全、模板、小重构尽量本地;只有架构与疑难 bug 上云。同时备一条开源权重 + llama.cpp/Ollama/vLLM 的最低可用链路,避免单一供应商政策或涨价把工作流掐断。免费/公益额度可以应急,但不适合当唯一生产依赖。
你现在有没有本地兜底方案?公司还报销 Cod...
3 天 前
Created the topic 【每日热帖精选】Agent 写的代码高度浓缩看不懂,还要不要人工审? in 开发者专区(API、微调、部署)
V2EX 热帖里,楼主贴出一段 Claude Code 写的 pandas 向量化代码:效率高、难读,让 Agent 讲解又觉得「好像对」。回帖破百:有人主张测试/行为验收即可,有人坚持关键路径必须人看,也有人用「另一个模型互审 + 规约/Skill」折中。数据分析类尤其怕「结果看起来对、指标其实错」。
实用建议:别在「逐行审 vs 完全不审」两极摇摆。定好架构与代码规约(命名、禁止面条代码、测试要求),改动先看影响面与数据契约;细节可交给第二模型 review,但支付/权限/指标计算仍要人过一眼。可读性不够就要求 Agent 改成你团队习惯的写法,而不是硬啃它的「优雅」。
你们团队现...
3 天 前
Created the topic 【每日热帖精选】每天写代码 8–10 小时,哪个模型最「耐用」? in 模型使用与评测
最近 V2EX 有人问:以前 CC + Opus 额度总不够,不敢开 MAX;换成 MiniMax Pro 日常能撑 8–10 小时,一开 MAX 又不够。大家轮番推荐 Cursor Auto、$100 档 Sol/Opus、OpenCode Go 的 DeepSeek V4.1 Flash、GLM-5.3、Kimi Code 等,结论很散——「耐用」往往等于更慢或更便宜,质量又是另一回事。
实用补充:先分清「订阅额度」和「单次任务质量」。长会话、MAX/高推理档最吃额度;规划用强模型、实现用 Flash/本地模型,通常比全程顶配更耐用。本地侧可把重复脚手架、补全、小改挂到本机 Qwen/...
