被“智能”忽悠的无数个瞬间
我一开始接触大模型，那真是像发现了新大陆。写邮件、润色简历、解释量子纠缠…它张口就来。但很快我就发现不对劲——它太能撒谎了。而且撒得一本正经。有次我问一个医学问题，它给我推荐了种药，说得头头是道，剂量、禁忌都有。我差点就信了。后来一查，那药根本不存在。 这种“幻觉”不是偶然。大模型的本质是概率游戏，它只是在预测下一个词最可能是什么，根本不管事实。它没有常识，没有逻辑，只是读遍了互联网上的字，然后对你投其所好。你问“1+1=3对吗？”，如果网上的错误信息足够多，它可能真会点头。
它的强大，其实来自你的数据
大模型为什么能这么“聪明”？说白了，就是喂了巨量的数据。书籍、网页、论坛、你的聊天记录…全给吞进去。然后通过几百亿个参数——对，就是那种你没法直观理解的数字——调整出模型。这过程烧钱烧电，训练一次 GPT-4 据说能排放几百吨二氧化碳，相当于几十辆汽车跑一辈子。 数据隐私是个大坑。你以为免费试用是占了便宜？其实你的每一次提问、每一个点击，都在帮它变得更强大。更可怕的是，很多用户上传的私密文档，直接就变成了训练数据的一部分。去年某大模型公司就爆出过泄露用户对话的事。
未来？别急着给人类写悼词
现在一提 AI，媒体就爱起哄：“xx 行业将被取代”“程序员要失业了”。我呸。这种论调我听过太多。当年 Excel 出来时，会计也没死光。大模型就是个工具，它会淘汰那些只会重复照搬的人，但创造力、批判性思维、复杂决策，它八辈子也学不会。 我举个例子上周，我想让大模型帮忙设计一个装置的三维结构，它给我生成了一堆看起来很炫但根本不符合力学原理的图。最后还是得我自己手算应力，和同事吵了三小时才定方案。这种基于真实物理世界的直觉和 trade-off，算法搞不定。
我现在的用法：把它当实习生
