据科技媒体 The Information 昨日(7 月 24 日)发布的一篇博文透露,OpenAI 目前用于 AI 推理的算力,预估相当于35万台配备英伟达 A100 芯片的服务器,其中约29万台用于支持 ChatGPT,并且几乎处于满负荷运行状态。
openAI有高昂的训练成本,而且后面预计会更高。截至今年3月,OpenAI 公司已经花费近40亿美元在微软服务器上运行 ChatGPT 的推理工作负载。此外,预计今年训练 ChatGPT 及新 AI 模型的成本将达到30亿美元。因此,训练和推理 AI 的总成本可能达到70亿美元(约509.02亿元人民币)。
不过openAI能从微软拿到...