tinygrad作者geohot的警告:AI Agent编程可能是史上最昂贵的错误

5月24日,tinygrad创始人、知名黑客George Hotz(geohot)发表了一篇重磅博文《The Eternal Sloptember》,直言不讳地表示:AI Agent进入软件开发领域将成为该领域历史上代价最大的错误之一。这篇文章在Hacker News上引发激烈讨论,获得460+点赞。

geohot是谁?

George Hotz(geohot)是科技圈的传奇人物。他17岁时成为第一个解锁iPhone的人,后来又破解了PlayStation 3。他创立了自动驾驶公司comma.ai,现在是tinygrad(一个轻量级深度学习框架)的核心开发者。

这样一位资深技术人的批评,分量不轻。

他的核心观点

geohot的博文直击要害,核心观点可以概括为几点:

1. AI Agent不会编程

“AI Agent进入软件开发将成为该领域历史上代价最大的错误之一。Agent不会编程,而且人们需要越来越长的时间才能意识到这一点。”

geohot尝试了6个月用AI Agent写代码。他用Agent写了tinygrad的部分代码,用Agent逆向了一个USB转PCIe芯片。但每次他都怀疑,自己手动做会做得更好、更快。

2. Agent的”虚假进步”

“Agent会把所有进度提前完成,然后花三倍的时间修bug。”

这是很多开发者的真实体验。Agent写代码的速度确实很快,但写出的代码往往有各种问题——逻辑错误、边界条件遗漏、不一致的代码风格。修复这些问题的时间往往比自己写还长。

3. 不是”你用错了”

“在反驳’你用错了’之前——我试过所有不同的模型、不同的框架、不同的提示词。问题不在这。说这话的人大概也会对老虎机说同样的话:你看,你得5条线都下注才能赢。”

这段话非常犀利。geohot暗示,那些声称”AI Agent很好用,你只是不会用”的人,本质上和赌博成瘾者为老虎机辩护是一样的逻辑。

他并不是在否定AI

值得注意的是,geohot并没有完全否定AI的价值:

“我并不是说AI没用,它显然有用。它绝对是大多数搜索场景下更好的Google。每当你需要快速原型且不在意打磨时,它快得离谱。但它是一个软件工程师吗?离专业标准还差得远。”

他还承认AI在数学问题上远超人类:”它能解决我穷尽一生也解不出的数学问题。”

关键在于:AI很强,但”很强”不等于”能胜任软件工程”。就像计算器比人脑算数快无数倍,但计算器不是数学家。

他反思了”自我价值保护”论

有一种流行观点认为,程序员反对AI编程是因为害怕失去自我价值——就像马车夫反对汽车一样。geohot对此做了有趣的反思:

“AFL(一个静态分析工具)发现的bug比LLM多,但没人对它有这种感觉。国际象棋和围棋比以往更流行。我迫不及待地想要拥有一支可以信任的机器人团队来处理无聊的工作。”

这说明geohot并不害怕AI取代程序员。他真正担心的是:人们在AI Agent还不够成熟的时候就大规模采用,导致软件质量下降、安全风险增加。

对站长和开发者的启示

geohot的警告对实际工作有什么指导意义?

1. 保持清醒:不要被AI编程的”速度假象”迷惑。Agent写代码快不等于项目完成快。bug修复、代码审查、测试覆盖同样需要时间。

2. 找准AI的定位:AI最适合做”快速原型”和”辅助搜索”。把它当作一个高效的助手,而不是替代品。关键代码还是自己写,AI帮你处理重复性工作。

3. 代码审查不能省:如果用Agent写了代码,review的时间不能省。geohot的经验证明,Agent写的代码往往需要大量修改才能达到生产标准。

4. 投资自己的能力:AI编程工具会越来越好,但理解底层原理、架构设计、调试技巧这些能力不会过时。反而在AI时代,这些能力变得更重要——因为你要判断Agent的输出是否正确。

社区讨论

geohot的文章在Hacker News上引发了两极化的讨论:

支持者认为:这说出了很多人不敢说的话。AI编程的炒作确实过度了,很多团队盲目采用Agent导致代码质量下降。

反对者认为:geohot的用例(系统编程、硬件逆向)恰好是AI最不擅长的领域。对于Web开发、数据分析等场景,AI Agent确实大幅提升效率。

两种观点都有道理。关键在于:AI编程不是万能的,也不是无用的。了解它的边界,才能最大化它的价值。

原文链接:The Eternal Sloptember

© 版权声明
THE END
喜欢就支持一下吧
点赞10 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容