深浅色
L0 是全站最短的一层。它该被当成热身,不是考试。
L0 不用按顺序读
这一层六页的顺序是我排的,不是必须。你可以从「AI 不是什么」开始——那一页最独立,不需要前面任何东西。
我自己第一次读的时候跳过了第一页直接读第二页。回头看是对的。定义这个东西,晚一点知道没什么损失,早一点知道反而容易记成一个口号。
全站一共五层。L0 认字,L1 用起来,L2 拆开看里面,L3 看会出什么事,L4 看前面在动什么。这个顺序是按「知道了也没用」→「知道了就能干活」排的。
啃到什么程度算够
我给自己定的标准,可能对你有点低:
你能不看页面解释出「为什么同一段话问两次答案不一样」,并且举一个自己碰过的例子。
你能说出三个它做不到的事,而且举得出具体场合。
你看到「7B」「128K」这类数字,不会心跳加速。
第三条最重要。这不叫懂了,这叫脱敏了。脱敏了之后你才能接着往下学——因为后面几层会大量出现这类数字,你得先不被它们晃住。
我自己判断 AI 类文章能不能读的标准是:作者有没有解释他用的词。解释不了的先跳过。整站有一页专门讲怎么读论文,那是 L4 的最后一页。
进 L1 之前
L1 讲怎么用。标题大概是「怎么把问题问清楚」那一类——提示词(prompt)是你输入给模型的那段话,怎么写、给多少上下文、给几个例子。
进 L1 之前我建议你做一件事:拿一个你最近真烦的活儿,攒够三五个失败的对话。不用总结,就存着。
理由是,L1 讲的每一条技巧,你都会想拿自己那个活儿去试。有真材料的那一周,进步和有材料的人差一个量级。我自己第一次觉得「提示词有用」,就是在攒了二十多条失败记录之后。
我不认为读完 L0 会怎样
读完这六页你不会更能写提示词,不会更会选模型,不会写代码。
你会得到一样很难量化但很实用的东西:你在别人跟你说「这个模型很聪明」的时候,能多问一句。
我自己用过的一个小检验。有人说某个产品「模型很聪明,能看懂合同」,我不争论,我就问一句:合同里哪一条它看错了。我几乎没被这么问倒过。
延伸阅读
Deep Contextualized Word Representations(Matthew E. Peters、Mark Neumann、Mohit Iyyer et al.,2018,NAACL)—— 也就是后来被叫作 ELMo 的那篇。它解决一个很具体的问题:同一个词在不同句子里意思不一样,「他去了银行」和「河岸有个银行」,以前的做法给不出区别。这篇的做法是把词表示成一个跟着上下文变的东西,六个下游任务上都有提升。2018 年的工作,看它是为了知道「同一个词一个意思」这个假设是怎么被打破的。DOI: 10.18653/v1/N18-1202
Computing Machinery and Intelligence(Alan Mathison Turing,1950,期刊 Mind)—— 放这篇是因为它值得慢慢读。图灵在文章里列了几种反对意见,然后一条一条回应,回应得很客气也很硬。他最后给自己造了一个词叫「机器心智」(imitation game 那套)。我不认为现在有谁读得进去整篇,但读前三页值。DOI: 10.1093/mind/lix.236.433
动手试试
拿张纸,或者一个新对话,把这一层六页的标题抄下来。
然后在每个标题后面写一句话,写你自己的话,不是抄页面上的。写不出来的那个,就是你真正的漏洞。
我自己这么干过。写到「它和普通软件不一样在哪」的时候我卡住了,因为我说不清「不一样」到底指什么——后来写出来的是「它抽签,我不抽」。这句比我读那页时记住的多。
十分钟。这十分钟比再读一遍这六页有用。
下一站
L1 开始讲怎么用。第一件事是把它问对——问题问清楚和不问清楚,出来的不是一个东西。