百川智能王小川:OpenAI 正研究把 1000 万颗 GPU 连在一起做大模型的技术
据《科创板日报》10 月 31 日报道,百川智能创始人兼 CEO 王小川 2023 云栖大会上表示,今年年底之前,国内会有几家公司能够做到 GPT3.5 的水平,相信明年国内会有若干款超级应用。他还透露,OpenAI 正在研究把 1000 万颗 GPU 连在一起做大模型的技术。“GPT3.5 用了 4000 颗 GPU,做 GPT4 是 25000 颗,英伟达一年生产能力才 100 万颗,而 OpenAI 在设计把 1000 万个 GPU 连接起来,这样的想法像登月一样,对他们充满了敬畏。”