Forum

 
Notifications
Clear all

Recent Activity Timeline

6 小时 前  
6 小时 前
[Daily Picks]   llama.cpp tagged v0.9.0 (2026-11-04). Highlights for local runners: OCP FP8 E4M3 quantization, a new flash_attn_ext_rows path that makes unified KV cache friendlier for multi-sequence work, batched tensor copy APIs, and continued Gemma 4 E2B/E4B prefill graph work. New arche...
6 小时 前  
6 小时 前
【每日热帖精选】   有人在知乎用「略改」的 AI 回答被禁言 7 天,跑到 V2EX 问:平台到底怎么判的?贴出原文后,评论区几乎一边倒:AI 味太浓——「收获长在身上」「不是……而是……」、总分总排比、情绪克制、结构过于工整。也有人提到文本水印、草稿一次粘贴、软广植入(《老人与海》+ 产品名)等信号。检测工具(如朱雀)有时会给相反结论,所以别迷信分数。   实用建议:要发社区内容,尽量口述再改,留具体细节(卡在哪一章、哪句翻译别扭),少用万能金句模板;营销软文更容易被人工/系统盯上。反过来,读多了真人长文和 AI 文,语感本身就是最好的检测器。本地写作用...
6 小时 前  
6 小时 前
【每日热帖精选】   又一个现实矛盾:上边要求敏感数据不能进外部 AI,下边员工照样用订阅/中转——阳奉阴违能撑多久?楼主问各公司怎么解;有人说自建 DeepSeek / 本地 Strata,有人说签合同的企业通道(额度有限、模型少),也有人分层:不重要用便宜国产、重要不涉密用 OpenAI、保密内容本地跑。   共识片段:生产数据别直接喂云;代码未必算核心资产,用户资料才是;别用来路不明的中转;真要严就脱敏网关或纯内网开源模型。也有人摆烂——「草台班子口号靠自觉」。   实用补充:本地/内网方案不一定要全家桶满血。工单分类、字段抽取、日志...
6 小时 前  
6 小时 前
【每日热帖精选】   一位 V 友吐槽:两个月高强度 AI 辅助开发,从「每行都 review」滑到「写完只点点流程测一下」。指挥多个 Agent 并行会乱;出 BUG 只能再扔回 AI,心里没底——尤其对接金蝶这类财务数据,搞乱了代价很大。他的结论是:拆步骤、写 AGENTS.md 约束(SELECT 必须 LIMIT、DELETE 必须 WHERE),比放手让 AI 自拆自测更稳,整体最多大约快一倍。   楼里观点很撕裂:有人说「AI 适合写自己不懂的」心智负担小;有人反驳「不懂就不敢决策」;还有人建议升级成「管理 + 验收」:模块文档、单元测试、按 i...
6 小时 前  
6 小时 前
【每日热帖精选】V2EX 上有人抛出一个程序员视角的老问题:写代码习惯了确定、可复现,为什么大模型突然多出来的能力要叫「涌现」?楼里从水分子的「湿」、蜂群智能、到《失控》和 arXiv 论文都有人搬出来吵。讨论要点大概分三派:一派说是 scaling 到临界点后小模型没有、大模型突然具备的能力(Wei 等人 2022 那篇经典定义);一派说很多「突然学会」其实是 Exact Match 这类硬指标把渐进进步藏住了,换连续打分就不那么玄;还有一派直接骂「炼丹黑话骗经费」。也有人提醒:论坛适合聊用法,原理去问模型和读论文更靠谱。实用补充:本地玩模型时别被「涌现」吓到。换更大参数、更长上下文、换量化...
1 天 前  
1 天 前
r/LocalLLaMA lit up overnight with a wishlist thread for Qwen 4 (66+ points, 100+ comments and climbing). The OP’s wish list is very “local-first”: a 27B with more efficient KV so 128k doesn’t eat ~8 GiB of cache, a Flash variant in the Qwen3.8-Flash-Next style so desktop boxes can run ~125B-A6B MoE...
1 天 前  
1 天 前
有 V 友发现:最新版 Postman 会在后台静默改动 Codex 和 Claude Code 的配置,强行植入插件与 Hook,并指向了 Postman 官方支持仓库的 issue。评论区风向很明确——不少人早就卸了,改用 Bruno,或者直接让 AI 写 curl;也有人吐槽它从轻量插件变成了又重又要登录的「全家桶」。 实用补充:AI coding 工具越来越依赖本地配置、MCP、hooks 和 autorun 能力,任何「静默改配置」的软件都该被当成供应链风险看一眼。建议:给 Codex/Claude Code 的配置目录做版本管理或定期备份;装过 Postman 的机器检查一下是...
1 天 前  
1 天 前
V2EX 热帖几乎一边倒:很多人说「手写代码 ≈ 0」。改配置、改字段、写注释、跑 git,都有人直接丢给 AI;留下来的工作变成写方案、盯过程、做 CR、验证结果。也有少数反对意见:业务太重时 GPT「听不懂人话」,或者 AI 会把简单逻辑压成一行难读代码,自己还得改;还有人承认一年没手写后「有点害怕」,但效率和学习曲线反而上去了。 实用补充:0% 手写不等于 0% 责任。真正难的是:需求边界、架构取舍、回归测试、以及敢不敢合并你没认真读过的 diff。一个可执行习惯是——简单改动可以「指令驱动」,关键路径(鉴权、支付、数据迁移、并发)强制人工读完再合;注释和测试也别默认外包,否则半年后...
1 天 前  
1 天 前
V2EX 有人分享了刚开源的 MiniMLX:面向 Apple Silicon 的 macOS 原生应用,基于 MLX,把模型搜索/下载(Hugging Face、ModelScope)、加载运行、OpenAI 兼容 API、菜单栏启停和服务监控放在一起。作者说重点测过 Qwen3.8 Flash Next、Qwen3.8 27B 等,也接了 MTP 加速;内存不够时会判断能否借助硬盘加载,并带简单性能测试页(首字延迟、prefill、生成速度、内存)。 楼里有人问能不能直接用 Ollama pull 下来的模型,作者回复:MLX 格式可以。也就是说它更像 oMLX 一类的 MLX 工作流...
1 天 前  
1 天 前
最近 V2EX 上有人抛了个很硬的问题:只看质量、不管价格,国模写代码到底谁排第一?楼里几乎把市面上能叫上名的都点名了——Kimi K3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash,还有人提到 Qwen 3.8 Max、MiniMax、混元 hy4。 讨论里比较常见的分层是:追上限的人更偏向 Kimi 或 GLM;在意速度和性价比的人大量站 DeepSeek Flash;也有人提醒「不许愿、把需求讲清楚」比换模型更管用。另有一条很务实的声音:核心代码别轻易上云端闭源,能私有部署的 GLM / DS 更安心。 实用补充:别指望一个「国模第一」通吃。编程质量、速度、...
2 天 前  
2 天 前
[Daily Picks] r/LocalLLaMA is circulating a freshly merged llama.cpp change (PR #31356): Gemma 4’s small E2B/E4B models were still running full compute on layers that only reuse earlier KV and never write their own cache. The fix prunes unused prompt rows before those KV-shared layers (unified-KV ...
2 天 前  
2 天 前
【每日热帖精选】 开源 Markdown 编辑器 Open Typora 更新到 0.22.0,补上了一套偏「本地写作」的 AI 工作流:选区改写并逐处审阅、最多 4 份文档的跨文档修改计划、目录问答(先本机检索再勾选片段发给模型),以及修改前的本地版本历史。 重点是模型可选:OpenAI 兼容 API、OpenRouter、LM Studio 或 Ollama,笔记仍是普通 .md,不必迁进云端知识库。数字、日期、链接、代码默认可保护,检测到受保护内容被改会拦截应用——很适合接本地模型做隐私向写作。评论区也提醒了命名与 Electron 相关争议,选型时自己权衡。 如果你已在用 ...
2 天 前  
2 天 前
【每日热帖精选】 有开发者吐槽 Codex:简单逻辑硬拆成多文件几百行,还爱疯狂加测试,最后仓库里测试比业务还多——尤其 Golang 测试和业务同包时,审代码头都大了。 高赞经验并不玄学:把「最小改动、不擅自加抽象/测试」写进 AGENTS.md;每次只给小任务,先让它出改动计划再动手;社区也有人用 Ponytail、ub-mode 等约束工具,楼主反馈「用了明显改善」。另一派则认为该适应 AI 的稳健风格,或干脆换 Claude 走「许愿式」编程。 实用做法:规范里写清硬约束(单实现不写接口、无消费者的代码不进仓、测试需明确要求才写),并坚持「计划 → 人工确认 → 再改」。模...
2 天 前  
2 天 前
【每日热帖精选】 一位一年没碰代码的 V 友想把 Mac 上的 AI 技术栈重新装起来,目前只有 Codex + coding plan 和还没搞懂的 cc-switch,于是问大家:管理软件、插件、Skills、工作流都装了啥? 回复很有代表性。有人觉得模型够强之后,外挂 Skills 意义变小,只留 Claude Code / Codex CLI + 自写业务 Skills;有人推 magpie 做本地聚合网关;有人走「虚拟机里扔一个 agent,只留一个对话入口」;也有人从 Skills 堆料进化到几乎裸用桌面端,或自己写 API gateway + 多级 fallback。共性...
2 天 前  
2 天 前
【每日热帖精选】   V2EX 上有人用了几年 GPT,平时主要写代码:Plus 经常不够用,Pro 又用不完,再叠上「降智」体感、和 Codex 合并额度、5 小时重置卡得很死,开始认真考虑要不要退 Plus。   讨论里常见几条路:升 Pro(尤其有人觉得 100 美金档性价比还行)、双持/多开 Plus 轮着顶、Claude 官方虽香但封号风险让人犹豫、Grok / DeepSeek / GLM 等当主力或子代理、以及用 magpie、cc-switch 一类本地聚合再配中转。也有人直说:钱不想多花、事又要全办成,最后还是得在「官方贵」和「第三方坑」之...
3 天 前  
3 天 前
A hot LocalLLaMA thread points to Anthropic confirming Claude Code limits aimed at game cloning, with users reporting Opus 5.5 also blocking reverse-engineering-style asks. The OP’s case for local/open models isn’t only privacy or price: provider policy can suddenly fence off legitimate adjacent wor...
3 天 前  
3 天 前
A r/LocalLLaMA post that briefly hit #1 hot rejects tok/s-only bragging. The author ran 9 private C++/CUDA regressions from their own inference engine on 2× RTX 5070 Ti: local Qwen3.8-Flash-Next (NVFP4 / 3-bit) and Qwen3.8-27B vs Claude Opus/Sonnet/Haiku 5.5. Agents had to diagnose and patch from co...
3 天 前  
3 天 前
V2EX 有人抛出假设:写代码、排障已经离不开 AI,若下个月 Token 普涨且公司不提供,是自费、回归手写,还是换路?回复里有人说按手写估工时、有人谈本地部署 Qwen/Flash 应急,也有人觉得长期会降价或泡沫后再白菜价——焦虑点很真实。 社区向补充:把「云端 Coding Plan」和「本地兜底」拆开。日常补全、模板、小重构尽量本地;只有架构与疑难 bug 上云。同时备一条开源权重 + llama.cpp/Ollama/vLLM 的最低可用链路,避免单一供应商政策或涨价把工作流掐断。免费/公益额度可以应急,但不适合当唯一生产依赖。 你现在有没有本地兜底方案?公司还报销 Cod...
3 天 前  
3 天 前
V2EX 热帖里,楼主贴出一段 Claude Code 写的 pandas 向量化代码:效率高、难读,让 Agent 讲解又觉得「好像对」。回帖破百:有人主张测试/行为验收即可,有人坚持关键路径必须人看,也有人用「另一个模型互审 + 规约/Skill」折中。数据分析类尤其怕「结果看起来对、指标其实错」。 实用建议:别在「逐行审 vs 完全不审」两极摇摆。定好架构与代码规约(命名、禁止面条代码、测试要求),改动先看影响面与数据契约;细节可交给第二模型 review,但支付/权限/指标计算仍要人过一眼。可读性不够就要求 Agent 改成你团队习惯的写法,而不是硬啃它的「优雅」。 你们团队现...
3 天 前  
3 天 前
最近 V2EX 有人问:以前 CC + Opus 额度总不够,不敢开 MAX;换成 MiniMax Pro 日常能撑 8–10 小时,一开 MAX 又不够。大家轮番推荐 Cursor Auto、$100 档 Sol/Opus、OpenCode Go 的 DeepSeek V4.1 Flash、GLM-5.3、Kimi Code 等,结论很散——「耐用」往往等于更慢或更便宜,质量又是另一回事。 实用补充:先分清「订阅额度」和「单次任务质量」。长会话、MAX/高推理档最吃额度;规划用强模型、实现用 Flash/本地模型,通常比全程顶配更耐用。本地侧可把重复脚手架、补全、小改挂到本机 Qwen/...
Share: