复杂推理大模型OpenAI o1亮相，数学与代码能力飞跃

9月13日，OpenAI正式发布并上线o1系列模型o1-preview和o1-mini。　　平安观点：　　OpenAI计数器重置回1，o1系列开启复杂推理序幕。本次OpenAI发布的是o1-preview（预览版）和o1-mini（擅长STEM、更快、更便宜）两个版本，ChatGPT付费用户和API用户可以使用。根据OpenAI官网介绍，o1系列被定位为用于解决难题的推理模型。对于复杂的推理任务来说，OpenAI认为o1是一个重大进步，代表了AI能力的新水平，鉴于此，OpenAI将计数器重置回1并将此系列模型命名为OpenAI o1。OpenAI研究发现，随着强化学习（训练时计算）和思考时间（测试时计算）的增加，o1的性能会不断提高。因此在体验上，与此前模型不同点在于，OpenAIo1在作出反应之前，需要像人类一样，花更多时间思考问题。　　o1基准表现明显优于GPT-4o，数学与编码能力实现飞跃。OpenAI实验结果表明，在绝大多数推理任务中，o1的表现明显优于GPT-4o。尤其是在具有挑战性的推理基准上，o1实现了能力飞跃，1）数学能力：在美国数学奥林匹克(AIME2024)预选赛题目中，GPT-4o平均只能解决12%的问题，o1正式版达到平均74%的准确率，在使用学习评分函数重新排名1000个样本后准确率达到93%，相当于美国排名前500的学生水平。2）编码能力：在竞争性编程问题（Codeforces）比赛中，o1-preview、o1分别超越了62%、89%的人类竞争者，而对比GPT-4o仅超过11%。3）特定专业领域能力：GPQA diamond测试（专门用于评估模型在化学、物理和生物学等领域的专业知识水平）中，o1不仅成功完成了测试，更是超越了人类专家的表现，成为首个在GPQA diamond基准上击败人类专家的AI模型。　　o1引入思维链优化逻辑推理，助力模型性能与安全提升。o1优越能力的背后，核心突破在于运用思维链（chain of thought）方法来处理复杂任务，OpenAI介绍到，类似于人类在回答困难问题之前可能会思考很长时间，o1在尝试解决问题时会使用思维链。通过强化学习，o1学会打磨其思维链并改进它所使用的策略。o1学会了识别和纠正错误，学会了将棘手的步骤分解为更简单的步骤，学会了在当前方法不起作用时尝试不同的方法，此过程显著提高了模型的推理能力。在OpenAI的一个官方演示中展示了o1-preview解答复杂问题的逻辑推理过程，o1-preview在过程中逐步显示思考、翻译问题、定义变量、理解问题、构建方程、解方程等与人类推理相似的步骤，最终输出结论。同时，OpenAI认为思维链推理也为大模型安全性的提升提供了新思路，o1-preview在关键越狱评估和用于评估模型安全拒绝边界的最严格内部基准上取得了显著的改进。