品玩12月20日讯，据苹果官网音书，苹果近日发布论文退出一种新时代，在使用 NVIDIA GPU 时，不错让大言语模子的速率普及近3倍。

据悉，2024 年早些时刻，苹果公司发布并开源了 Recurrent Drafter，即 ReDrafter，这是一种在训导中提高性能的估量解码四肢。 它使用 RNN（递归神经收罗）草稿模子，将波束搜索与动态树照应邻接合，用于洽商和考据来自多条旅途的草稿标识。与典型的自动追忆标识生成时代比拟，这将 LLM 标识生成速率提高了 3.5 倍。

苹果公司阐述说，除了使用Apple Silicon的现存责任外，该团队并未停步于此。 本周三发布的新呈报详备先容了该团队怎样将顾问恶果诳骗于 ReDrafter 的创建，使其大要与 NVIDIA GPU 互助使用。

用于生成 LLM 的劳动器不息接管 NVIDIA GPU🦄九游娱乐(中国)网址在线，但高性能硬件频频需要腾贵的资本。 仅硬件一项，多 GPU 劳动器的资本就朝上 250000 好意思元，更无谓说所需的基础法子或其他有关资本了。