苹果AI测验预算“每天数百万好意思元”，基础讲话大模子团队由华东说念主领导

作家：王眉

裁剪：硬AI

近日苹果面对诸多不利，前有华为“突袭”提前开售Mate60 Pro，后有著名投资机构Needham Securities称苹果败落生成式AI和大型讲话模子（LLM）方面的政策，在AI竞赛中已被亚马逊、谷歌和微软甩在死后。

不外，事实可能并非如斯。

据媒体周三报说念，苹果一直在加多AI部分的参预预算，测验用度达每天上百万好意思元。

诚然直到本年7月才有媒体爆料苹果照旧素养了Ajax大讲话模子开发框架，并在机密开发我方的大型讲话模子“Apple GPT”，但苹果柔柔到生成式AI远比外界念念象的更早。

四年前，苹果的东说念主工智能足下詹南德里亚（John Giannandrea）授权组建了一个团队来开发对话式东说念主工智能（即大讲话模子），展示了苹果对该界限的喜爱。

几位苹果职工默示，尽管詹南德里亚屡次抒发了对由AI讲话模子驱动的聊天机器东说念主潜在用途的怀疑，但苹果并不是十足莫得为畴昔讲话模子的爆发作念好准备。

日砸百万豪赌2000亿参数Apple GPT 团队由华东说念主领导

据悉，苹果的Foundational Models团队，即会话AI团队，现在的领导者为前谷歌工程师庞若鸣。贵府走漏，庞若鸣为上海交大本硕，且本硕仅用5年即毕业，于2021年加入苹果，此前在谷歌使命了15年。

团队现存16东说念主，其中几位亦然曾在谷歌使命多年的工程师。诚然团队限制小，但由于测验LLM对算力要求极高，该团队每天需要破钞数百万好意思元测验LLM。

除此除外，据报说念，至少还有两个苹果团队正在究诘讲话和图像模子。其中一个团队正在究诘视觉智能，起劲于开发能够生成“图像、视频或3D场景”的软件；另一个团队正在究诘不错惩办文本、图像和视频的多模态东说念主工智能。

苹果筹备将LLM集成在Siri语音助手当中，以此达到iPhone用户能够使用轻便的语音敕令来自动完成触及多个样貌的任务。举个例子，该技艺能够让用户告诉Siri助手，用他们最近拍摄的五张相片创建一个GIF动图，并将其发送给一又友。但现在，iPhone用户必须手动完成这个流程。

这与谷歌矫正他们的语音助手访佛。但苹果合计，其矫正的Ajax GPT的讲话模子比OpenAI的GPT 3.5更好，瞻望将于来岁与新版iPhone操作系长入起发布。

一向阻滞的苹果开展了一场开源畅通

需要防卫的是，开发LLM大要相对容易，但是将其纳入居品中更具挑战。与一些使用基于云表率的竞争敌手不同，苹果更倾向于在开拓上运行软件，以擢升隐讳保护和使命着力。关联词，苹果的LLM（包括Ajax GPT）异常宽阔，由于其体积和复杂性（起始2000亿个参数），很难装配到iPhone上。

疲塌大模子的作念法有前例，比如谷歌的PaLM2，它有多样尺寸，包括妥当开拓和零丁使用的型号。

有分析称，诚然现在还不了了苹果的筹备，但出于隐讳考虑，他们可能会聘任较小的LLM。

这就要说到庞若鸣了。

据了解庞若鸣的东说念主说，他在神经收集方面发表的究诘后果获取了大齐拥趸。神经收集是机器学习的一个子集，触及测验软件识别数据中的模式和相关，访佛于东说念主类大脑的使命格式。庞若鸣某些比拟有名的究诘触及神经收集怎样与手机惩办器协同使命，以及怎样使用并行筹划来测验神经收集。并行筹划是将较大的问题理解成多个惩办器不错同期筹划的较小任务的流程。

庞若鸣对苹果的影响不错从AXLearn中看出，这是他的团队在往时1年中开发用于培训Ajax GPT的里面软件。AXLearn是一个机器学习框架，不错快速测验机器学习模子。AXLearn的部分组成基于庞若鸣的究诘，并针对谷歌云张量惩办单位(TPU) 进行了优化。

AXLearn是JAX的一个分支，JAX是谷歌究诘东说念主员开发的开源框架。若是将苹果的Ajax GPT比作一栋屋子，那AXLearn等于蓝图，而JAX等于用来绘图蓝图的笔和纸。苹果用来测验大讲话模子的数据现在尚未公开。

报说念称，本年7月份，苹果Foundational Models团队暗暗地将AXLearn的代码上传到代码存储库GitHub，公众不错使用它来测验我方的大讲话模子，而无须从新驱动构建统共实质。苹果公开发布AXLearn代码的原因尚不了了，但公司这么作念时常是但愿其他工程师能对模子进行矫正。在詹南德里亚加入苹果之前，关于向来行事避讳的苹果来说，绽开可用于生意用途的源代码的决定显得不同寻常。

跋扈挖角谷歌和Meta

苹果还在积极从谷歌和Meta的AI团队中“挖东说念主”。

据悉，自从AXLearn代码于7月上传到GitHub上以来，已有18东说念主对其进行了矫正，其中至少有12东说念主在往时两年内加入了苹果的机器学习团队。这些东说念主中，有7东说念主曾在谷歌或Meta使命过。

华尔街见闻此前说起，现在“大模子的安卓”也不好过，Meta里面“算力宫斗”，一半Llama中枢团队已下野。

 

风险教唆及免责要求 市集有风险，投资需严慎。本文不组成个东说念主投资提倡，也未考虑到个别用户稀薄的投资筹划、财务现象或需要。用户应试虑本文中的任何见解、不雅点或论断是否相宜其特定现象。据此投资，连累自夸。