深浅色
这一页没有标准答案,只有几个能帮你做决定的判断。
像决定去哪家医院
不是所有病都值得挂专家号。擦破点皮去社区医院,被子上厕所用洗手液,这些都不花钱也挺好。
要动刀的事,你不会随便找个最近的门诊。
用 AI 也是这个道理。选型不是选最强的,是选跟你那件事相称的。绝大时候免费的就够用,少数几件事值得付钱,而有一类事根本不该贴进去。
第一问:要不要花钱
我自己的分界线很简单。
不花钱的部分:翻译、起草、总结、头脑风暴、格式转换、改写语气。这些事做错了成本很低,大不了重来一遍。
值得花钱的部分:一次要发出去了的东西——对外的邮件、给客户的方案、要贴到生产环境的代码。这些地方出错的代价是真实的。
不要贴的部分:下面单独讲。
有一点我要提醒:免费层和付费层用的是不同档次的模型,不是同一个模型加了个计时器。免费版更慢、次数少、碰上高峰期会降档。所以如果你觉得免费版「不好用」,先确认一下是不是本来就在用弱的那一档。
我的建议是:免费用满三个月,活儿确实压不住了再付钱。绝大多数人三个月后还在免费版。
第二问:哪些东西不能贴
我把不能贴的东西分成三类,标准很土但是好记。
一类是别人的东西。 客户的名单、同事的聊天记录、你公司没公开的合同、上级还没发布的方案。你只是借了这些字,你没有处置它们的权。贴出去那一刻,等于你替别人做了一个他没做过的决定。
一类是钥匙。 密码、验证码、身份证号、银行卡号、门牌、孩子的名字和学校。这不用解释。
一类是密码本。 就是你公司代码库的访问权限、客户系统的账号。这个不只是数据问题,是安全问题——就算对方说不会训练,这条数据也不该出门。
至于工作里那些脱敏之后的东西,比如把公司名换成「我们公司」、把具体数字改成量级,是可以的。这个程度就够用了。
第三问:怎么知道它这次靠不靠谱
这一问才是最难也最重要的。
有一个专门研究这件事的领域,术语叫恰当依赖——简单说就是:它给对了就听,它的错了要能顶回去。研究者的发现不太乐观:人很难忽略一个明显错掉的 AI 建议,这就是过度依赖。
我自己总结的土办法有三条。
第一,问它凭什么。 不是问「你确定吗」——它会说自己确定。问「你判断的依据是什么,有哪条是你不确定的」。它要是编,依据也是编的,但编的依据通常更粗糙,你容易看出来。
第二,答案里凡是出现具体数字,回到原文核。 上一页说过,这一页再强调一次,因为它跟选型直接相关:换成付费的、更贵的那档,这个毛病会少一点,但不会没有。
第三,同一个问题问两次,中间隔一天。 两次完全一样的答案更可信。这不是玄学,是第二条的补充。
关于「关掉训练」这件事
上一页那张地图里,每家都写了训练政策。总结一下规律。
关掉训练开关通常是有用的,但它只管新对话。已经发出去的东西,通常追不回来——至少消费者能自己做到的是这些。
更要命的是例外条款。Anthropic 的用户条款里就写了两种情况:不管你关没关开关,你点了赞或踩的对话、或者被标记为安全审查的内容,都会被拿去训练。
所以「我关掉了」不等于「它没见过」。这个区别,是我在这一页最想让你记住的一句。
至于本地方案(比如上一页提到的 Ollama),字根本不出门,从这个角度看是最干净的。代价是效果打折和机器得受得住。两者怎么权衡,看你贴的是什么。
我自己的配置。
说具体的,可能比讲道理有用。
日常:免费版云端产品,用一个我不在乎被看的邮箱注册,训练开关一上来就关。
要发出去的东西:换付费档,跑完之后我逐句读一遍再发。
敏感的东西:不上传。能脱敏就脱敏,脱敏完还是不放心的,就自己改。
不放心但又非要用:本地方案跑一遍,起码字没出过我的电脑。
这套用了两年,没有出过事。但我不认为它适合所有人——如果你工作的东西本来就是公开的,那第二档那一步就是多余的时间。
延伸阅读
Should I Follow AI-based Advice? Measuring Appropriate Reliance in Human-AI Decision-Making(Max Schemmer、Patrick Hemmer、Niklas Kühl et al.,2022,arXiv 预印本)—— 造了一个专门衡量「该不该听」的指标。作者的出发点是一句很不客气的观察:人在判断上有个系统性问题,明明知道 AI 建议是错的,还是照着做。论文主张恰当依赖是两件事——先分得出建议的好坏,再照着好坏分别行动。这件事换个说法就是:既别盲从,也别因为不信任就什么都自己扛。arXiv: 2204.06916
Do Membership Inference Attacks Work on Large Language Models?(Michael Duan、Anshuman Suri、Niloofar Mireshghallah et al.,2024,arXiv 预印本)—— 问的是一个很实在的问题:能不能反推出「某段文字是不是这家公司的模型训练时见过的」。他们在从 1.6 亿到 120 亿参数的一批模型上大规模测了一轮,结论是大多数情况下基本猜不准,比随机猜好不了多少。他们还指出,有几个看起来成功的案例其实是数据分布变了造成的假象。 但「你贴进去的东西不会被认出来」和「你贴进去的东西不该贴」是两件事。这篇论文不构成放心贴公司文档的理由。arXiv: 2402.07841
动手试试
拿一张纸,或者一个新对话,把手上要处理的东西分三堆:能随便贴的、要脱敏的、绝对不贴的。
把第三堆的东西从你最近一次对话记录里找出来。看看有多少。
然后去你常用的那一款里,把训练数据开关找出来关掉,顺手把历史对话里最敏感的那几条删掉。
两件事,五分钟。做完你会比十分钟前更清楚自己把什么东西交给了谁。
下一站
到这里,工具怎么用你已经门清了。接下来可以掀开一层看看:字进去之后到底发生了什么。