-
Notifications
You must be signed in to change notification settings - Fork 0
/
index.html
388 lines (288 loc) · 17.6 KB
/
index.html
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
<!DOCTYPE html>
<html lang="en-us">
<head>
<meta charset="utf-8">
<meta http-equiv="X-UA-Compatible" content="IE=edge,chrome=1">
<title>Chenyang's Eureka</title>
<meta name="viewport" content="width=device-width,minimum-scale=1">
<meta name="description" content="">
<meta name="generator" content="Hugo 0.136.3">
<meta name="robots" content="noindex, nofollow">
<link rel="stylesheet" href="/ananke/css/main.min.css" >
<link href="/index.xml" rel="alternate" type="application/rss+xml" title="Chenyang's Eureka" />
<link href="/index.xml" rel="feed" type="application/rss+xml" title="Chenyang's Eureka" />
<link rel="canonical" href="https://chenyang-zheng.github.io/">
<meta property="og:url" content="https://chenyang-zheng.github.io/">
<meta property="og:site_name" content="Chenyang's Eureka">
<meta property="og:title" content="Chenyang's Eureka">
<meta property="og:locale" content="en_us">
<meta property="og:type" content="website">
<meta itemprop="name" content="Chenyang's Eureka">
<meta itemprop="datePublished" content="2024-09-18T20:02:20+08:00">
<meta itemprop="dateModified" content="2024-09-18T20:02:20+08:00">
<meta name="twitter:card" content="summary">
<meta name="twitter:title" content="Chenyang's Eureka">
</head>
<body class="ma0 avenir bg-near-white">
<header>
<div class="pb3-m pb6-l bg-black">
<nav class="pv3 ph3 ph4-ns" role="navigation">
<div class="flex-l justify-between items-center center">
<a href="/" class="f3 fw2 hover-white no-underline white-90 dib">
Chenyang's Eureka
</a>
<div class="flex-l items-center">
<div class="ananke-socials">
</div>
</div>
</div>
</nav>
<div class="tc-l pv3 ph3 ph4-ns">
<h1 class="f2 f-subheadline-l fw2 light-silver mb0 lh-title">
Chenyang's Eureka
</h1>
</div>
</div>
</header>
<main class="pb7" role="main">
<article class="cf ph3 ph5-l pv3 pv4-l f4 tc-l center measure-wide lh-copy mid-gray">
</article>
<div class="pa3 pa4-ns w-100 w-70-ns center">
<h1 class="flex-none">
Recent Posts
</h1>
<section class="w-100 mw8">
<div class="relative w-100 mb4">
<article class="bb b--black-10">
<div class="db pv4 ph3 ph0-l no-underline dark-gray">
<div class="flex flex-column flex-row-ns">
<div class="blah w-100">
<h1 class="f3 fw1 athelas mt0 lh-title">
<a href="/posts/openai-o1/" class="color-inherit dim link">
OpenAI-o1
</a>
</h1>
<div class="f6 f5-l lh-copy nested-copy-line-height nested-links">
<p>Citation: <a href="https://mp.weixin.qq.com/s/FXGdJA8OyZvLl89rXJiyAQ">https://mp.weixin.qq.com/s/FXGdJA8OyZvLl89rXJiyAQ</a></p>
<blockquote>
<p>GPT 4o的问题在于本身大模型的智力水平还不够高，所以做不了复杂任务，导致很多应用场景无法实用化，而指望靠图片、视频这类新模态数据大幅提升大模型智力水平是不太可能的，尽管确实能拓展更丰富的多模态应用场景，但这类数据弥补的更多是大模型对外在多模态世界的感知能力，而不是认知能力。</p>
</blockquote>
<p>4o的智力水平实际上也在提升，比如ChatGPT-4o-latest (2024-08-08)的推理明显要比GPT-4o-2024-05-13强很多。
而1o有点像是instruct with CoT datasets, 专长推理。可能作为未来多模态模型中的推理base模型，base reasoning model -> text, image, audio</p>
<blockquote>
<p>OpenAI o1的做法本质上是COT的自动化。
从用户提出的问题形成树的根结点出发，最终走到给出正确答案，可以想像成类似AlphaGo下棋，形成了巨大的由COT具体步骤构成的树形搜索空间，这里COT的具体步骤的组合空间是巨大的，人写的COT未必最优。如果我们有大量逻辑数据，是由<问题，明确的正确答案>构成，则通过类似AlphaGo的Monte Carlo Tree Search（MCTS）搜索+强化学习，确实是可以训练大模型快速找到通向正确答案的COT路径的。</p>
</blockquote>
<p>这里的想法和Plan Search中类似，首先生成可能的推理节点，每一个节点可能包含对于细分任务的思维链中的步骤。而使用广度搜索来进行任务的泛化，也即是路径依赖。
其中一个问题是，这里的CoT是从哪来。如果是类似于人工标注后的RLHF，那么必然对任务的广度有所局限。</p>
<blockquote>
<p>如果通过基座模型Plan把一个复杂任务分解为10个步骤，哪怕单个步骤的正确率高达95%，要想最后把任务做对，10个环节的准确率连乘下来，最终的正确率只有59%，惨不忍睹。</p>
</blockquote>
<p>实际的问题，但是COT和拆分成类似langgraph的node还是有所区别。不是简单的独立事件。思维链更像是narrow down的过程，将事情缩小到指定的集合中做分类或者回归。这里的描述更像是多个独立的分类问题。</p>
<blockquote>
<p>o1的Model Card专门测试了Agent任务，对于简单和中等难度的Agent任务有明显提升，但是复杂的、环节多的任务准确率还是不太高。</p>
</blockquote>
<p>这里的应该代表了o1内在的流程，divide&conquer问题。如果在一个思维链中无法解决时，需要拆分成多个。因此简单问题在一个思维链中提升因为基准性能的提升，而多个思维链需要考虑到概率的乘数。</p>
<blockquote>
<p>大语言模型最基础的能力有三种：语言理解和表达能力、世界知识存储和查询能力以及逻辑推理能力（包括数学、Coding、推理等理科能力，这里Coding有一定的特殊性，是语言能力和逻辑掺杂在一起的混合能力，Coding从语言角度可以看成一种受限的自然语言，但是混杂着复杂的内在逻辑问题。从语言角度看，Coding貌似是容易解决的，从逻辑角度看又相对难解决。总之，Coding目前看是除了语言理解外，大模型做得最好的方向）</p>
</blockquote>
<p>逻辑推理能力是哲学逻辑中的内核，是思维本身。
语言表达能力是思维的出口，而上层的表达可以是NLP，Audio或者是Video。
世界知识存储和查询能力是代表了模型的一个是压缩能力，还有一个是本身的回归能力。</p>
<blockquote>
<p>但幻觉问题目前无法根治，这是制约各种应用的硬伤之一</p>
</blockquote>
<p>这和我之前的假设有所出入，当然实现起来是MLP本身的掣肘，比如dropout带来的信息丢失。但幻觉应该是可以通过调节attention中的位置，比如Q-KV匹配时，让Q和KV的相关性尽可能最大化。
我们能够从数学上的提升得到一些收获，比如数学处理的概率问题。数据问题的优势在于它的线性和可复现，因此可以通过不断的迭代和微调来提高。
而更广阔的问题因为没有足够的ground truth，会导致模型无法学到真正核心的eureka point.</p>
<blockquote>
<p>而为啥逻辑推理能力最难提升？因为能体现这方面的自然数据（代码、数学题、物理题、科学论文等）在训练数据中比例太低，自然大模型就学不好，尽管通过不断增加数据，能增加逻辑推理方面数据的绝对数量，但因为占比太少，这方面提升的效果和增加的总体数据规模就不成比例，效果也不会太明显，就体现在逻辑推理能力Scaling law看上去的放缓。这是很自然的。这也是为何现在为了提高模型逻辑能力，往往在预训练阶段和Post-training阶段，大幅增加逻辑推理数据占比的原因，且是有成效的。</p>
</blockquote>
<p>Model card: <a href="https://assets.ctfassets.net/kftzwdyauwt9/67qJD51Aur3eIc96iOfeOP/71551c3d223cd97e591aa89567306912/o1_system_card.pdf">https://assets.ctfassets.net/kftzwdyauwt9/67qJD51Aur3eIc96iOfeOP/71551c3d223cd97e591aa89567306912/o1_system_card.pdf</a></p>
<blockquote>
<p>技术要点有三：</p>
</blockquote>
<blockquote>
<p>后训练扩展律 Post-Training Scaling Laws 已经出现，并且 Post-Training Scaling Laws 为上述技术路径的成功提供了有力支持。</p>
</blockquote>
<blockquote>
<p>模型学习的是产生合理推理的过程，MCTS 在其中的作用是诱导合理推理过程的产生或构建相应的偏序对形成细粒度奖励信号，而非直接搜索过程和最终答案。</p>
</blockquote>
<blockquote>
<p>模型的 BootStrap 有助于构建新的高质量数据，并且新的 Rationales 数据促进了模型进一步提升能力。</p>
</blockquote>
<p>RLHF实际上也是商用模型能和开源的基准模型拉开差距的地方，展示了财力和算力。</p>
<p>第三点中的bootstrap指的是模型通过自我迭代来生成新的高质量训练数据的过程。具体来说：</p>
<pre tabindex="0"><code>1. 模型首先使用现有的[Question, Answer]数据集进行训练
2. 然后利用LLM来生成新的答案和推理过程[Rationale, Answer]
3. 如果Answer正确，那么将[Question, Rationale, Answer]作为新的训练数据来微调LLM
4. 如果不正确，那么提示Hint，可能是人为干预来引导模型生成正确的[Rationale, Answer]
5. 重复这一过程，且每次获得一个新的数据集，都从原始的模型开始进行 Fine-tune 从而防止过拟合。
</code></pre><p>有几个假设</p>
</div>
<a href="/posts/openai-o1/" class="ba b--moon-gray bg-light-gray br2 color-inherit dib f7 hover-bg-moon-gray link mt2 ph2 pv1">read more</a>
</div>
</div>
</div>
</article>
</div>
<div class="relative w-100 mb4">
<article class="bb b--black-10">
<div class="db pv4 ph3 ph0-l no-underline dark-gray">
<div class="flex flex-column flex-row-ns">
<div class="blah w-100">
<h1 class="f3 fw1 athelas mt0 lh-title">
<a href="/posts/plan_search/" class="color-inherit dim link">
Plan Search
</a>
</h1>
<div class="f6 f5-l lh-copy nested-copy-line-height nested-links">
<p>Citation: <a href="https://mp.weixin.qq.com/s/xhV9HoeEP22RjuWTjgbPqg">https://mp.weixin.qq.com/s/xhV9HoeEP22RjuWTjgbPqg</a></p>
<ul>
<li>
<p>目前阻碍模型应用「搜索」的主要难题是模型给出的答案过于雷同，缺乏多样性。</p>
</li>
<li>
<blockquote>
<p>经过特别指令调整的模型在只生成一个答案的情况下（pass@1）通常比基础模型表现得好很多，但当需要生成多个答案时，这种优势就不明显了.</p>
</blockquote>
</li>
<li>
<blockquote>
<p>模型在生成答案时缺乏多样性，这对于搜索的效果非常不利。特别是在极端情况，比如采用「贪心解码」，模型给出的答案会非常相似，因为它们是从模型中重复抽取的。这种情况下，即使模型花费更多推理时间，也难以获得更好的搜索结果。</p>
</blockquote>
</li>
</ul>
<p>为什么多样性很重要？因为搜索的目的是找到最佳答案，而不是找到一个答案。如果模型给出的答案都是雷同的，那么搜索的结果就会受到很大的影响。
多样性和搜索结果的关系：多样性可以补充更多角度，而这些更多角度可以更全面的了解问题，从广度上来说，多样性可以提供更多的选择，从深度上来说，多样性可以提供更多的细节。但是通常广度与深度是相互矛盾的，所以多样性的提升需要在广度与深度之间取得平衡。</p>
<ul>
<li>
<blockquote>
<p>通行的大模型排行榜，例如例如 LMSYS Chatbot Arena、LiveCodeBench、OpenLLMLeaderboard</p>
</blockquote>
</li>
<li>
<blockquote>
<p>首先，研究人员发现，如果给模型一些简单的草图（这些草图是从已经能解决问题的代码中「回译」而来），模型就能根据这些草图写出正确的最终程序。其次，研究人员还发现，如果让模型在尝试解决问题之前，先在 LiveCodeBench 上想出一些点子（这个过程叫做 IdeaSearch / 思路搜索），然后看看模型能不能用这些点子解决问题。</p>
</blockquote>
</li>
</ul>
<p>先做路径规划，和蒙特卡洛树搜索的思路有点像，但是这个思路是在生成答案之前，而不是在生成答案的过程中。
这和我的想法类似, cot-and-prompt, 正确的COT可以引导模型生成正确的答案。那从泛化的角度来说即是如何对于不同问题，找到合适的COT。
有点回归到了auto-learning的问题上。</p>
<ul>
<li>
<blockquote>
<p>结果发现，模型要么完全解决不了问题（准确度为 0%），要么就能完美解决问题（准确度为 100%）。</p>
</blockquote>
</li>
</ul>
<p>路径依赖,有点反直觉。因为0%和100%作为两个极端，往往路径中的偏差应该是个别节点的误差不足以导致整体差距这么极端。</p>
<ul>
<li>
<blockquote>
<p>不同于之前的搜索方法（通常是搜索单个 token、代码行甚至整个程序）不一样，规划搜索是搜索解决当前问题的可能规划。这里，规划（plan）的定义是：有助于解决某个特定问题的高层级观察和草案的集合。</p>
</blockquote>
</li>
</ul>
<p>强化学习的做法, 能应用在泛化的场景下吗。比如在特定范围内，AlphaGo之于围棋，个别程序语言的CodeGen的路径可能是相似的。
Assumption: 泛化也许可以用LLM本身的能力来做路径，类似于Anthropic的metaprompt，用来针对于不同的应用场景生成对应的COT。当然这里的前置条件是LLM本身的知识体系中有，且足够精准。也许某种finetuned Plan LLM?</p>
<ul>
<li>
<blockquote>
<p>在这项研究中，该团队探索了多种不同方法，包括重复采样（Repeated Sampling）、思路搜索（IdeaSearch）以及新提出的规划搜索（PlanSearch）。其中前两种方法顾名思义，比较直观，这里我们重点关注新提出的规划搜索。
<img src="img.png" alt="img.png"></p>
</blockquote>
</li>
</ul>
<p>做法还是类似于(Code)Agent的方法论, Use hashmap≈Use Memory. Greedy Search≈Tool.</p>
<ul>
<li>
<blockquote>
<ol>
<li>通过提示来获取观察</li>
</ol>
</blockquote>
</li>
<li>
<blockquote>
<ol start="2">
<li>推导新的观察</li>
</ol>
</blockquote>
</li>
<li>
<blockquote>
<ol start="3">
<li>将观察变成代码</li>
</ol>
</blockquote>
</li>
<li>
<blockquote>
<p>具体来说，对于每个叶节点，将所有观察以及原始问题 P 放入提示词来调用 LLM，以便生成问题 P 的自然语言解决方案。为了提升多样性，对于每个生成的思路，该团队通过假设该思路是错误的来生成一个额外的思路，并要求 LLM 给出批评 / 反馈，从而将提议的思路翻倍了。
然后，再将这些自然语言解决方案转译成伪代码；再把这些伪代码转译成真正的 Python 代码。</p>
</blockquote>
</li>
</ul>
<p>通过反复的rewrite来保证多样性吗。
也许本身在即使没有使用路径规划（规划和思路搜索）的情况下，也可以通过rewrite来提高回答质量。</p>
<ul>
<li>
<blockquote>
<p>在 Claude 3.5 Sonnet 上使用规划搜索方法时，在 LiveCodeBench 基准上得到了当前最佳的 pass@200 性能：77.0%。该表现优于不使用搜索时获得的最佳分数（pass@1 = 41.4%）以及标准的 best-of-n 采样方法的分数（pass@200 = 60.6%）。</p>
</div>
<a href="/posts/plan_search/" class="ba b--moon-gray bg-light-gray br2 color-inherit dib f7 hover-bg-moon-gray link mt2 ph2 pv1">read more</a>
</div>
</div>
</div>
</article>
</div>
<div class="relative w-100 mb4">
<article class="bb b--black-10">
<div class="db pv4 ph3 ph0-l no-underline dark-gray">
<div class="flex flex-column flex-row-ns">
<div class="blah w-100">
<h1 class="f3 fw1 athelas mt0 lh-title">
<a href="/posts/todolist/" class="color-inherit dim link">
TODO List
</a>
</h1>
<div class="f6 f5-l lh-copy nested-copy-line-height nested-links">
</div>
<a href="/posts/todolist/" class="ba b--moon-gray bg-light-gray br2 color-inherit dib f7 hover-bg-moon-gray link mt2 ph2 pv1">read more</a>
</div>
</div>
</div>
</article>
</div>
</section>
<section class="w-100">
<h1 class="f3">More</h1>
<h2 class="f5 fw4 mb4 dib mr3">
<a href="/posts/llm_eval/" class="link black dim">
New COT Evaluation
</a>
</h2>
<h2 class="f5 fw4 mb4 dib mr3">
<a href="/posts/cot-and-prompt/" class="link black dim">
Prompt Engineering for LLM Cot
</a>
</h2>
<a href="/posts/" class="link db f6 pa2 br3 bg-mid-gray white dim w4 tc">All Posts</a>
</section>
</div>
</main>
<footer class="bg-black bottom-0 w-100 pa3" role="contentinfo">
<div class="flex justify-between">
<a class="f4 fw4 hover-white no-underline white-70 dn dib-ns pv2 ph3" href="https://chenyang-zheng.github.io/" >
© Chenyang's Eureka 2024
</a>
<div>
<div class="ananke-socials">
</div>
</div>
</div>
</footer>
</body>
</html>