.:. 草榴社區 » 技術討論區 » 翻墙后看什么?OpenAI公布GPT-4:可在考试中超过90%人类+福利图[16P]
--> 本頁主題: 翻墙后看什么?OpenAI公布GPT-4:可在考试中超过90%人类+福利图[16P] 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
数木朽根


級別:聖騎士 ( 11 )
發帖:630
威望:584 點
金錢:11130106 USD
貢獻:9000 點
註冊:2022-02-15


翻墙后看什么?OpenAI公布GPT-4:可在考试中超过90%人类+福利图[16P]



 

当地时间周二(3月14日),人工智能研究公司OpenAI公布了其大型语言模型的最新版本——GPT-4。该公司表示,GPT-4在许多专业测试中表现出超过绝大多数人类的水平。

OpenAI于2020年发布了GPT(生成型预训练变换模型)-3(生成型预训练变换模型),并将其与GPT-3.5分别用于创建Dall-E和聊天机器人ChatGPT,这两款产品极大地吸引了公众的关注,并刺激其他科技公司更积极地追求人工智能(AI)。

OpenAI周二表示,在内部评估中,相较于GPT-3.5,GPT-4产生正确回应的可能性要高出40%。而且GPT-4是多模态的,同时支持文本和图像输入功能。

OpenAI称,GPT-4比以前的版本“更大”,这意味着其已经在更多的数据上进行了训练,并且在模型文件中有更多的权重,这使得它的运行成本更高。

据OpenAI介绍,在某些情况下,GPT-4比之前的GPT-3.5版本有了巨大改进,新模型将产生更少的错误答案,更少地偏离谈话轨道,更少地谈论禁忌话题,甚至在许多标准化测试中比人类表现得更好。

例如,GPT-4在模拟律师资格考试的成绩在考生中排名前10%左右,在SAT阅读考试中排名前7%左右,在SAT数学考试中排名前11%左右。

OpenAI表示,虽然两个版本在日常对话中看起来很相似,但当任务复杂到一定程度时,差异就表现出来了,GPT-4更可靠、更有创造力,能够处理更微妙的指令。

不过,OpenAI也警告称,GPT-4还不完美,在许多情况下,它的能力不如人类。该公司表示:“GPT-4仍有许多已知的局限性,我们正在努力解决,比如社会偏见、幻觉和对抗性提示。”

OpenAI透露,摩根士丹利正在使用GPT-4来组织数据,而电子支付公司Stripe正在测试GPT-4是否有助于打击欺诈。其他客户还包括语言学习公司Duolingo、Khan Academy和冰岛政府。

OpenAI合作伙伴微软周二表示,新版必应搜索引擎将使用GPT-4。

GPT-4震撼发布:多模态大模型,直接升级ChatGPT、必应,开放API,游戏终结了?

在 ChatGPT 引爆科技领域之后,人们一直在讨论 AI「下一步」的发展会是什么,很多学者都提到了多模态,我们并没有等太久。今天凌晨,OpenAI 发布了多模态预训练大模型 GPT-4。

 

GPT-4 实现了以下几个方面的飞跃式提升:强大的识图能力;文字输入限制提升至 2.5 万字;回答准确性显著提高;能够生成歌词、创意文本,实现风格变化。

 


「GPT-4 是世界第一款高体验,强能力的先进AI系统,我们希望很快把它推向所有人,」OpenAI 工程师在介绍视频里说道。

似乎是想一口气终结这场游戏,OpenAI 既发布了论文(更像是技术报告)、 System Card,把 ChatGPT 直接升级成了 GPT-4 版的,也开放了 GPT-4 的 API。

另外,微软营销主管在 GPT-4 发布后第一时间表示:「如果你在过去六周内的任何时候使用过新的 Bing 预览版,你就已经提前了解了 OpenAI 最新模型的强大功能。」是的,微软的新必应早就已经用上了GPT-4。

 

接下来,就让我们细细品味这场震撼发布。

GPT-4:我 SAT 考 710,也能当律师

GPT-4 是一个大型多模态模型,能接受图像和文本输入,再输出正确的文本回复。实验表明,GPT-4 在各种专业测试和学术 基准上的表现与人类水平相当。例如,它通过了模拟律师考试,且分数在应试者的前 10% 左右;相比之下,GPT-3.5 的得分在倒数 10% 左右。

OpenAI 花了 6 个月的时间使用对抗性测试程序和 ChatGPT 的经验教训对 GPT-4 进行迭代调整 ,从而在真实性、可控性等方面取得了有史以来最好的结果。

在过去的两年里,OpenAI 重建了整个 深度学习堆栈,并与 Azure 一起为其工作负载从头开始设计了一台超级计算机。一年前,OpenAI 在训练 GPT-3.5 时第一次尝试运行了该超算系统,之后他们又陆续发现并修复了一些错误,改进了其理论基础。这些改进的结果是 GPT-4 的训练运行获得了前所未有的稳定,以至于 OpenAI 能够提前准确预测 GPT-4 的训练性能,它也是第一个实现这一点的大模型。OpenAI 表示他们将继续专注于可靠的扩展,进一步完善方法,以帮助其实现更强大的提前预测性能和 规划未来的能力,这对安全至关重要。

OpenAI 正在通过 ChatGPT 和 API(有候补名单)发布 GPT-4 的文本输入功能。图像输入功能方面,为了获得更广泛的可用性,OpenAI 正在与其他公司展开合作。

OpenAI 今天还开源了 OpenAI Evals,这是其用于自动评估 AI 模型性能的框架。OpenAI 表示此举是为了让所有人都可以指出其模型中的缺点,以帮助 OpenAI 进一步改进模型。

有趣的是,GPT-3.5 和 GPT-4 之间的区别很微妙。当任务的复杂性达到足够的阈值时,差异就会出现 ——GPT-4 比 GPT-3.5 更可靠、更有创意,并且能够处理更细微的指令。为了了解这两个模型之间的差异,OpenAI 在各种 基准和一些为人类设计的模拟考试上进行了实验。

 
 

OpenAI 还在为 机器学习模型设计的传统 基准上评估了 GPT-4。GPT-4 大大优于现有的大型 语言模型,以及大多数 SOTA 模型:

 

许多现有的 机器学习 基准测试都是用英语编写的。为了初步了解 GPT-4 在其他语言上的能力,研究团队使用 Azure Translate 将 MMLU 基准 —— 一套涵盖 57 个主题的 14000 个多项选择题 —— 翻译成多种语言。在测试的 26 种语言的 24 种中,GPT-4 优于 GPT-3.5 和其他大 语言模型(Chinchilla、PaLM)的英语语言性能:

 

就像许多使用 ChatGPT 的公司一样,OpenAI 表示他们内部也在使用 GPT-4,因此 OpenAI 也在关注大型 语言模型在内容生成、销售和编程等方面的应用效果。OpenAI 还使用 GPT-4 辅助人们评估 AI 输出,这也是 OpenAI 对其策略的第二阶段。OpenAI 既是 GPT-4 的开发者,也是使用者。

GPT-4:我能玩梗图

GPT-4 可以接受文本和图像形式的 prompt,新能力与纯文本设置并行,允许用户指定任何视觉或语言任务。

具体来说,它在人类给定由散布的文本和图像组成的输入的情况下生成相应的文本输出(自然语言、代码等)。在一系列领域 —— 包括带有文本和照片的文档、图表或屏幕截图上 ——GPT-4 展示了与纯文本输入类似的功能。此外,它还可以通过为纯文本 语言模型开发的测试时间技术得到增强,包括少样本和思维链 prompt。

比如给 GPT-4 一个长相奇怪的充电器的图片,问为什么这很可笑?

 

GPT-4 回答道,VGA 线充 iPhone。

 

格鲁吉亚和西亚的人均每日肉类消费,算平均数:

 

看起来,现在的 GPT 已经不会在计算上胡言乱语了:

 

还是太简单,那直接让它做题,还是个物理题:

 

GPT-4 看懂了法语题目,并完整解答:

 

GPT-4 可以理解一张照片里「有什么不对劲的地方」:

 

GPT-4 还可以量子速读看论文,如果你给它 InstructGPT 的论文,让它总结摘要,就会变成这样:

 
 

如果你对论文里的某一个图感兴趣呢?GPT-4 也可以解释一下:

 

接着来,问 GPT-4 梗图是什么意思:

 

它给出了详细的回答:

 

那么漫画呢?

 

让 GPT-4 解释为什么要给 神经网络加层数,似乎有一点加倍的幽默感。

 

不过 OpenAI 在这里说了,图像输入是研究预览,仍不公开。

研究人员用学术的 Benchmark 视角来解读 GPT-4 的看图能力,然而这已经不够了,他们还能不断发现该模型可以令人兴奋地处理新任务 —— 现在的矛盾是 AI 的能力和人类想象力之间的矛盾。

 

看到这里,应该有研究人员感叹:CV 不存在了。

可控性

与具有固定冗长、平静语气和风格的经典 ChatGPT 个性不同,开发人员(以及 ChatGPT 用户)现在可以通过在「系统」消息中描述这些方向来规定他们的 AI 的风格和任务。

系统消息允许 API 用户在一定范围内定制化实现不同的用户体验。OpenAI 知道你们在让 ChatGPT 玩 Cosplay,也鼓励你们这样做。

 

局限性

尽管功能已经非常强大,但 GPT-4 仍与早期的 GPT 模型具有相似的局限性,其中最重要的一点是它仍然不完全可靠。OpenAI 表示,GPT-4 仍然会产生幻觉、生成错误答案,并出现推理错误。

目前,使用 语言模型应谨慎审查输出内容,必要时使用与特定用例的需求相匹配的确切协议(例如人工审查、附加上下文或完全避免使用) 。

总的来说,GPT-4 相对于以前的模型(经过多次迭代和改进)已经显著减轻了幻觉问题。在 OpenAI 的内部对抗性真实性评估中,GPT-4 的得分比最新的 GPT-3.5 模型高 40%:

 

GPT-4 在 TruthfulQA 等外部 基准测试方面也取得了进展,OpenAI 测试了模型将事实与错误陈述的对抗性选择区分开的能力,结果如下图所示。

 

实验结果表明,GPT-4 基本模型在此任务上仅比 GPT-3.5 略好;然而,在经过 RLHF 后训练之后,二者的差距就很大了。以下是 GPT-4 的测试示例 —— 并不是所有时候它都能做出正确的选择。

 

该模型在其输出中可能会有各种偏见,OpenAI 在这些方面已经取得了进展,目标是使建立的 人工智能系统具有合理的默认行为,以反映广泛的用户价值观。

GPT-4 通常缺乏对其绝大部分数据截止后(2021 年 9 月)发生的事件的了解,也不会从其经验中学习。它有时会犯一些简单的推理错误,这似乎与这么多领域的能力不相符,或者过于轻信用户的明显虚假陈述。有时它也会像人类一样在困难的问题上失败,比如在它生成的代码中引入安全漏洞。

GPT-4 预测时也可能出错但很自信,意识到可能出错时也不会 double-check。有趣的是,基础预训练模型经过高度校准(其对答案的预测置信度通常与正确概率相匹配)。然而,通过 OpenAI 目前的后训练(post-training)过程,校准减少了。

 

风险及缓解措施

OpenAI 表示,研究团队一直在对 GPT-4 进行迭代,使其从训练开始就更加安全和一致,所做的努力包括预训练数据的选择和过滤、评估和专家参与、模型安全改进以及监测和执行。

GPT-4 有着与以前的模型类似的风险,如产生有害的建议、错误的代码或不准确的信息。同时,GPT-4 的额外能力导致了新的风险面。为了了解这些风险的程度,团队聘请了 50 多位来自 人工智能对齐风险、网络安全、生物风险、信任和安全以及国际安全等领域的专家,对该模型在高风险领域的行为进行对抗性测试。这些领域需要专业知识来评估,来自这些专家的反馈和数据为缓解措施和模型的改进提供了依据。

预防风险

按照 demo 视频里 OpenAI 工程师们的说法,GPT-4 的训练在去年 8 月完成,剩下的时间都在进行微调提升,以及最重要的去除危险内容生成的工作。

GPT-4 在 RLHF 训练中加入了一个额外的安全奖励信号,通过训练模型拒绝对此类内容的请求来减少有害的输出。奖励是由 GPT-4 的零样本分类器提供的,它判断安全边界和安全相关 prompt 的完成方式。为了防止模型拒绝有效的请求,团队从各种来源(例如,标注的生产数据、人类的红队、模型生成的 prompt)收集多样化的数据集,在允许和不允许的类别上应用安全奖励信号(有正值或负值)。

这些措施大大在许多方面改善了 GPT-4 的安全性能。与 GPT-3.5 相比,模型对不允许内容的请求的响应倾向降低了 82%,而 GPT-4 对敏感请求(如医疗建议和自我伤害)的响应符合政策的频率提高了 29%。

 

训练过程

与之前的 GPT 模型一样,GPT-4 基础模型经过训练可以预测文档中的下一个单词。OpenAI 使用公开可用的数据(例如互联网数据)以及已获得许可的数据进行训练。训练数据是一个网络规模的数据 语料库,包括数学问题的正确和错误解决方案、弱推理和强推理、自相矛盾和一致的陈述,以及各种各样的意识形态和想法。

因此,当提出问题时,基础模型的回应可能与用户的意图相去甚远。为了使其与用户意图保持一致,OpenAI 依然使用 强化学习人类反馈 (RLHF) 来微调模型的行为。请注意,该模型的能力似乎主要来自预训练过程 ——RLHF 不会提高考试成绩(甚至可能会降低它)。但是模型的控制来自后训练过程 —— 基础模型甚至需要及时的工程设计来回答问题。

GPT-4 的一大重点是建立了一个可预测扩展的 深度学习栈。主要原因是,对于像 GPT-4 这样的大型训练,进行广泛的特定模型调整是不可行的。团队开发了基础设施和优化,在多种规模下都有可预测的行为。为了验证这种可扩展性,他们提前准确地预测了 GPT-4 在内部代码库(不属于训练集)上的最终损失,方法是通过使用相同的方法训练的模型进行推断,但使用的计算量为 1/10000。

 

现在,OpenAI 可以准确地预测在训练过程中优化的指标(损失)。例如从计算量为 1/1000 的模型中推断并成功地预测了 HumanEval 数据集的一个子集的通过率:

 

有些能力仍然难以预测。例如,Inverse Scaling 竞赛旨在找到一个随着模型计算量的增加而变得更糟的指标,而 hindsight neglect 任务是获胜者之一。GPT-4 扭转了这一趋势。

 

能够准确预测未来的 机器学习能力对于技术安全来说至关重要,但它并没有得到足够的重视,OpenAI 表示正在投入更多精力开发相关方法,并呼吁业界共同努力。

OpenAI 表示正在开源 OpenAI Evals 软件框架,它被用于创建和运行 基准测试以评估 GPT-4 等模型,同时可以逐样本地检查模型性能。

ChatGPT 直接升级至 GPT-4 版

GPT-4 发布后,OpenAI 直接升级了 ChatGPT。ChatGPT Plus 订阅者可以在 chat.openai.com 上获得具有使用上限的 GPT-4 访问权限。

要访问 GPT-4 API(它使用与 gpt-3.5-turbo 相同的 ChatCompletions API),用户可以注册等待。OpenAI 会邀请部分开发者体验。

获得访问权限后,用户目前可以向 GPT-4 模型发出纯文本请求(图像输入仍处于有限的 alpha 阶段)。至于价格方面,定价为每 1k 个 prompt token 0.03 美元,每 1k 个 completion token 0.06 美元。默认速率限制为每分钟 40k 个 token 和每分钟 200 个请求。

GPT-4 的上下文长度为 8,192 个 token。OpenAI 还提供了 32,768 个 token 上下文(约 50 页文本)版本的有限访问,该版本也将随着时间自动更新(当前版本 gpt-4-32k-0314,也支持到 6 月 14 日)。定价为每 1K prompt token 0.06 美元和每 1k completion token 0.12 美元。

以上,就是今天 OpenAI 关于 GPT-4 的所有内容了。令人不满的一点是,OpenAI 公开的技术报告中,不包含任何关于模型架构、硬件、算力等方面的更多信息,可以说是很不 Open 了。

不管怎样,迫不及待的用户大概已经开始测试体验了吧。

最后,也想问一下读者,看完 GPT-4 的发布,你有何感想。

想访问ChatGPT网站,有喜欢看各种奇闻异事和各种漂亮小姐姐动作片的,可以移步到这里的网络出国机场梯子:直达梯子机场官网本机场梯子可以访问ChatGPT,有兴趣的可以试试:直达梯子机场官网

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

赞(44)
DMCA / ABUSE REPORT | TOP Posted:2023-03-15 11:05 樓主 引用 | 發表評論
完美的征程


級別:新手上路 ( 8 )
發帖:723
威望:83 點
金錢:30352 USD
貢獻:0 點
註冊:2023-01-20


感谢分享
TOP Posted:2023-03-15 11:06 #1樓 引用 | 點評
王狗蛋儿


級別:禁止發言 ( 8 )
發帖:930
威望:94 點
金錢:1483 USD
貢獻:9754 點
註冊:2016-07-14

感谢分享
TOP Posted:2023-03-15 11:07 #2樓 引用 | 點評
天下行走


級別:新手上路 ( 8 )
發帖:794
威望:80 點
金錢:798 USD
貢獻:0 點
註冊:2020-05-21

看看大奶福利图
TOP Posted:2023-03-15 11:10 #3樓 引用 | 點評
衍哞


級別:新手上路 ( 8 )
發帖:519
威望:71 點
金錢:81149 USD
貢獻:0 點
註冊:2016-04-19

还得是算法牛,
TOP Posted:2023-03-15 11:10 #4樓 引用 | 點評
子树


級別:騎士 ( 10 )
發帖:4304
威望:431 點
金錢:6315 USD
貢獻:0 點
註冊:2022-11-15

厉害了,感谢分享
TOP Posted:2023-03-15 11:11 #5樓 引用 | 點評
欲望化身


級別:新手上路 ( 8 )
發帖:84
威望:9 點
金錢:435 USD
貢獻:0 點
註冊:2023-02-03

1024
TOP Posted:2023-03-15 11:12 #6樓 引用 | 點評
醋葫芦


級別:聖騎士 ( 11 )
發帖:4959
威望:518 點
金錢:3647 USD
貢獻:6000 點
註冊:2022-10-19

AI越来越强大了
TOP Posted:2023-03-15 11:22 #7樓 引用 | 點評
高义校长


級別:風雲使者 ( 13 )
發帖:11688
威望:2074 點
金錢:4237777 USD
貢獻:150101 點
註冊:2022-12-11

感觉被取代的日子不远了
------------------------
G
TOP Posted:2023-03-15 11:30 #8樓 引用 | 點評
隔壁王二偷人


級別:精靈王 ( 12 )
發帖:3732
威望:359 點
金錢:9833 USD
貢獻:42748 點
註冊:2021-12-26

人类毁灭于AI
TOP Posted:2023-03-15 11:33 #9樓 引用 | 點評
談天說道


級別:精靈王 ( 12 )
發帖:4232
威望:551 點
金錢:22849 USD
貢獻:25000 點
註冊:2022-11-16

看看福利图
TOP Posted:2023-03-15 11:52 #10樓 引用 | 點評
发光的小星星


級別:新手上路 ( 8 )
發帖:727
威望:83 點
金錢:2776 USD
貢獻:0 點
註冊:2018-02-16


1024
TOP Posted:2023-03-15 12:11 #11樓 引用 | 點評
狂奔的战车


級別:騎士 ( 10 )
發帖:2727
威望:377 點
金錢:6409 USD
貢獻:700 點
註冊:2022-09-29

福利图好评
TOP Posted:2023-03-15 12:12 #12樓 引用 | 點評
掂過碌蔗


級別:精靈王 ( 12 )
發帖:29103
威望:3779 點
金錢:22608 USD
貢獻:2000 點
註冊:2020-07-17

臀肥奶子大
------------------------
我自安好,来去随风
 
TOP Posted:2023-03-15 12:45 #13樓 引用 | 點評
铁甲二流子


級別:精靈王 ( 12 )
發帖:19532
威望:1824 點
金錢:190677 USD
貢獻:100 點
註冊:2017-02-06

一般般
TOP Posted:2023-03-15 12:50 #14樓 引用 | 點評
Lil原上草


級別:精靈王 ( 12 )
發帖:2313
威望:356 點
金錢:2515 USD
貢獻:77777 點
註冊:2022-11-19

水图不错
TOP Posted:2023-03-15 13:00 #15樓 引用 | 點評
骑士团


級別:俠客 ( 9 )
發帖:485
威望:149 點
金錢:968 USD
貢獻:7000 點
註冊:2022-07-12

谢谢分享
TOP Posted:2023-03-15 13:04 #16樓 引用 | 點評
张三的哥


級別:新手上路 ( 8 )
發帖:746
威望:85 點
金錢:7103 USD
貢獻:0 點
註冊:2022-07-15


别发了,别发了。小镇做题家绝望了
TOP Posted:2023-03-15 13:04 #17樓 引用 | 點評
骑士团


級別:俠客 ( 9 )
發帖:485
威望:149 點
金錢:968 USD
貢獻:7000 點
註冊:2022-07-12

谢谢分享,
TOP Posted:2023-03-15 13:22 #18樓 引用 | 點評
墓先生


級別:新手上路 ( 8 )
發帖:519
威望:64 點
金錢:1225 USD
貢獻:0 點
註冊:2012-01-01

深度体验过,完全是令人惊叹的成果!
TOP Posted:2023-03-15 13:29 #19樓 引用 | 點評
茱萸豆蔻


級別:精靈王 ( 12 )
發帖:3905
威望:391 點
金錢:6318 USD
貢獻:55555 點
註冊:2021-07-08

这青筋暴起。厉害
TOP Posted:2023-03-15 13:33 #20樓 引用 | 點評
clarkechan


級別:新手上路 ( 8 )
發帖:584
威望:59 點
金錢:1633 USD
貢獻:0 點
註冊:2022-04-16

不错不错!!赞
TOP Posted:2023-03-15 14:04 #21樓 引用 | 點評
时间桎梏


級別:俠客 ( 9 )
發帖:2174
威望:220 點
金錢:52507 USD
貢獻:20 點
註冊:2022-05-26

感谢作者的分享
TOP Posted:2023-03-15 14:51 #22樓 引用 | 點評
毛毛蟲


級別:光明使者 ( 14 )
發帖:7225
威望:482 點
金錢:8148 USD
貢獻:705100 點
註冊:2020-10-10


感谢分享
TOP Posted:2023-03-15 14:52 #23樓 引用 | 點評
选手337


級別:騎士 ( 10 )
發帖:5229
威望:533 點
金錢:4898 USD
貢獻:650 點
註冊:2022-01-01

谢谢分享啦
TOP Posted:2023-03-15 15:29 #24樓 引用 | 點評

.:. 草榴社區 -> 技術討論區

快速回帖 頂端
內容
HTML 代碼不可用

使用簽名
Wind Code自動轉換

按 Ctrl+Enter 直接提交