ChatGPT新进展GPT-4 模型介绍

article/2024/12/23 4:23:42

文章目录

- 背景
- 工具
- 功能
- 使用
- 增强

背景

2023.3.14 GPT-4 模型发布
创建了GPT-4，这是OpenAI在扩大深度学习方面的最新里程碑。GPT-4是一个大型多模态模型(接受图像和文本输入，输出文本输出)，虽然在许多现实场景中不如人类，但在各种专业和学术基准上表现出与人类相当的性能。
在这里插入图片描述
GPT-4 实现了以下几个方面的飞跃式提升：强大的识图能力；文字输入限制提升至 2.5 万字；回答准确性显著提高；能够生成歌词、创意文本，实现风格变化。

这是一个大规模的多模态模型，可以接受图像和文本输入并产生文本输出。虽然在许多现实场景中，GPT-4的能力不如人类，但它在各种专业和学术基准上表现出了人类的水平，包括以大约前10%的成绩通过模拟律师资格考试。GPT-4是一个基于transformer的预训练模型，用于预测文档中的下一个令牌。训练后的调整过程会提高对事实的衡量和对期望行为的坚持。这个项目的一个核心组成部分是开发基础设施和优化方法，这些方法可以在大范围内预测行为。这使得我们能够准确地预测GPT-4性能的某些方面，基于不超过GPT-4计算量的千分之一的训练模型。

工具

ChatGPT
API (with a waitlist).
OpenAI evalals 自动评估AI模型性能的框架

功能

在日常谈话中，GPT-3.5和GPT-4之间的区别可能很微妙。当任务的复杂性达到足够的阈值时，差异就显现出来了——gpt -4比GPT-3.5更可靠、更有创造性，并且能够处理更细致的指令。
在这里插入图片描述

我们还在为机器学习模型设计的传统基准上评估了GPT-4。GPT-4大大优于现有的大型语言模型，以及大多数最先进的(SOTA)模型，其中可能包括基准特定的制作或额外的训练协议:
在这里插入图片描述
我们也在内部使用GPT-4，这对支持、销售、内容审核和编程等功能有很大影响。我们还使用它来协助人类评估人工智能输出，开始了我们对齐战略的第二阶段。