当前位置:首页 > 人工智能 > >

随着OpenAI耗尽训练数据 GPT-5 开发遭遇重大挫折

随着OpenAI耗尽训练数据 GPT-5 开发遭遇重大挫折
2024-12-26 17:40:55 来源:聚焦媒体网

  

  OpenAI 在 GPT-5 上的工作,绰号为 Project Orion,遇到了相当大的颠簸。该项目的运行远远落后于计划,而且启动成本很高。经过 18 个多月的工作,Microsoft 最初认为他们会在 2024 年年中准备好它,但事实并非如此。

  他们为此投入了大量资金——每次训练运行仅计算能力就花费了大约 5 亿美元——但与 GPT-4 相比,他们还没有看到他们所希望的性能飞跃。虽然有一些明显的改进,但它们不足以证明这些费用是合理的。

  最大的问题之一是用完用于训练模型的质量数据。公共互联网没有足够的多样化、高质量数据来发挥作用。为了解决这个问题,OpenAI 邀请了专家来创建新的培训材料,例如软件代码和数学问题。但这是一个缓慢的过程。从长远来看,GPT-4 需要惊人的 13 万亿个代币来训练。具体来说,即使 1000 人每天写 5000 字,他们也需要几个月的时间才能达到 10 亿字——扩展到数万亿就像试图用花园软管填满海洋一样。

  雪上加霜的是,该公司还受到了内部问题的打击。2024 年,二十多名主要高管离职,包括首席科学家 Ilya Sutskever 和首席技术官 Mira Murati。OpenAI 也一直在处理其他项目,例如“o1”和“Sora”,同时仍在试图弄清楚如何推进 GPT-5.

  首席执行官山姆·奥特曼 (Sam Altman) 已经确认 GPT-5 不会在 2024 年发布,这对他们雄心勃勃的人工智能计划来说是一个重大挫折。

关键词:OpenAI

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

投诉邮箱:Email:133 46734 45@qq.com

相关新闻