如影随形

构造为王：AI 推理新思绪，思维链构造成冲破

发布时间：2025-02-16 08:36编辑：[db:作者]浏览（124）

IT之家 2 月 15 日新闻，科技媒体 marktechpost 昨日（2 月 14 日）宣布博文，报道称加州年夜学伯克利分校的研讨团队提出了一种 AI 练习方式，仅需大批数据即可加强年夜言语模子（LLM）推理才能。晋升 LLM 推理才能的难点在于练习模子天生存在构造化自反思、验证跟回溯的长链式头脑（CoT）呼应。现有模子的练习进程平日须要在大批数据集长进行昂贵的微调，且很多专有模子的练习方式并不公然。研讨团队提出了一种新的练习方式，仅应用 17000 个 CoT 示例，微调 Qwen2.5-32B-Instruct 模子，并联合了 SFT 跟 LoRA 微调技巧，夸大优化推理步调的构造完全性而非内容自身，经由过程改良逻辑分歧性并最年夜限制地增加不用要的盘算开支，从而明显进步了 LLM 的推理效力。研讨标明，在加强 LLM 推感性能方面，CoT 的构造起着至关主要的感化，转变练习数据的逻辑构造会明显影响模子的正确性，而修正单个推理步调的影响则很小。IT之家附上应用新方式后的测试后果如下：AIME 2024：正确率到达 56.7%，晋升了 40.0 个百分点。LiveCodeBench：得分 57.0%，晋升了 8.1 个百分点。Math-500：到达 90.8%，晋升了 6.0 个百分点。AMC 2023：到达 85.0%，晋升了 17.5 个百分点。OlympiadBench：到达 60.3%，晋升了 12.7 个百分点。这些成果标明，高效的微调技巧能够使 LLM 在更少的数据需要下到达与 OpenAI 的 o1-preview 等专有模子相媲美的推理才能。这项研讨标明，将存眷点从年夜范围数据依附转向构造完全性，能够开辟出一种以起码的盘算资本确保强盛逻辑分歧性的练习方式。这种方式增加了对海量数据集的依附，同时坚持了强盛的推理才能，使 LLM 更易于拜访跟扩大。该研讨的结果为将来模子的优化摊平了途径，证实构造化微调战略能够无效地加强 LLM 推理才能，而不会影响效力，这标记着庞杂的 AI 推理模子在更普遍利用方面迈出了主要一步。