在 AI 波浪下，智妙手机正迎来新一轮物种进化。硅星东谈主首届 AI 创造者大会（ACC 2024）邀请到了 vivo 副总裁、vivo AI 斟酌院院长周围，以及面壁智能合股首创东谈主、CEO 李大海，一皆探讨端侧 AI 若何从头界说手机，创造真实的 AI Phone。vivo 是中国乃至全球最早布局 AI 手机的末端厂商，面壁智能是中国乃至全球率先专注于端侧"小谈话模子"的 AI 创业公司。从端侧模子的技巧顽固，平直机行动最好 AI 载体的独到价值；从交互体验的重构，到智能体生态的构建，这场对话为咱们展现了 AI 若何重塑智妙手机的图景。极度是在智能体协同和产业圭臬方面的磋议，亦反应分娩业在圭臬长入和生态共建方面的新共鸣。

以下为对话实录：

主捏东谈主 | 硅星东谈主首创东谈主 &CEO 骆轶航

嘉宾 | vivo 副总裁、OS 居品副总裁、vivo AI 全球斟酌院院长 周围

嘉宾 | 面壁智能合股首创东谈主 &CEO 李大海

为什么 AI 模子需要被塞进手机里？

骆轶航：这个顺序我蓄谋已久，在座的两位都有其独到之处。就我所知，诚然不敢说是全球范围内，但 vivo 确乎是中国最早探索 AI 若何深度重塑智妙手机的公司，尤其是在大模子层面。我说得对吗？

周围：感谢！

骆轶航：2022 年 11 月 30 日，ChatGPT 的推出，对大模子来说是一个紧要的分水岭。但在手机领域，这个时候点要往前推。咱们不行认为 2022 年 11 月 30 日探索 AI 手机的等于先驱。咱们应该追忆到 Transformer 架构出现的时候，那时就运转斟酌和探索的才是真实的先驱，而 vivo 探索把手机放到 AI 里，差未几就在 Transformer 问世之后不久。再说到面壁智能，它在中国确乎是最早探索若何将模子微型化并部署到末端拓荒的公司之一。从 2023 年 3 月到 9 月，全球和中国的大模子公司都在快速彭胀模子边界，从百亿参数彭胀到万亿参数。而将模子再从万亿参数缩减到 120 亿以致 80 亿参数的，全球只消两家公司：法国的 Mistral 和中国的面壁智能。我很想请问周总，你们（vivo）为什么会这样早就运转布局系统层面的 AI 战术？在 ChatGPT 出现后，又是若何加快这一进度的？

周围：感谢骆总的矜恤。确乎，咱们是较早将 AI 与手机勾搭的企业。谈到为什么干涉 AI 斟酌，这要追忆到 2018 年 3 月 vivo 全球斟酌院诞生之时。到 2019 年，咱们已有率先 1000 名东谈主工智能工程师，是那时行业内较早重投 AI 的公司。咱们的首创东谈主沈炜认为，东谈主工智能技巧、芯片技巧以及 5G、6G 将是将来几十年科技创新的基础技巧。诚然那时对此融会并不十分明晰，但咱们鉴定地采取了重心干涉这个领域。我偶合是在 Transformer 出现不久的 2018 年加入公司的，那时我第一次看到了通过学问赋能大模子的契机。到 2020 年，咱们见证了大模子 1.0 的降生。早在 2019 年 11 月，咱们就在北京发布了第一款将机器学习与手机勾搭的灵敏手机。不外事实讲明，传统东谈主工智能与手机的勾搭远不如大模子来得有瞎想力。到了 2023 年 GPT-3.5 问世后，咱们愈加明晰地看到了大模子与手机勾搭的弘大出路。

骆轶航：是的，因为之前依然在机器学习领域作念了多量探索。

周围：咱们团队一直在捏续矜恤这个领域。在 2023 年 11 月 1 日，咱们发布了"蓝心"大模子矩阵，包括 10 亿、70 亿、130 亿、500 亿和 700 亿参数的五个大模子，它们都在详细评分中名列三甲。最初咱们干涉东谈主工智能研发，是因为鉴定到这是一个紧要的技巧创新赛谈。在大模子与手机勾搭的第二个节点，咱们深入念念纪念竟能为用户带来什么价值。咱们认为，手机行动连结数字宇宙的桥梁，实足有契机打酿成为用户的个东谈主专属智能管家。基于这个融会，咱们开展了一系列责任。智能管家应具备五个特质：源头，要能感学问别用户意图；其次，要能形成共同记挂；第三，是具备决策能力；第四，要能像东谈主相似操作手机里的繁多应用；第五，要能像助理相似料理日常事务。vivo 恰是基于这些特质在鼓励关系责任。

骆轶航：这五点实足合适咱们对 AI Agent 的清醒维度。

周围：从用户层面来看，咱们有三个融会要点：源头，东谈主工智能大模子的加入是为了让拓荒更自然、更合适东谈主的直观。其次，咱们要用大模子重构总共系统，包括手机中的各式数字能力以及系统自身。第三，重构数字宇宙不是最终想法，而是要更好地业绩用户，让手机在现实生计中施展更高效、简便、主动、智能的作用。

骆轶航：这三点分离对应了合适形态需求、数据处理优化和操作方便性，特别紧要。你很好地转头了总共发展历程：从最初将 AI 详情为发展标的，到机器学习的应用，再到 ChatGPT 之后的加快发展，以及对这一领域清醒的不停深化，最终发展成当今的 OriginOS 5 等系统级 AI。

周围：昨年咱们放手了自研大模子的想法，这背后有充分的逻辑和旨趣。接下来，咱们将大模子与手机勾搭，构建了个东谈主助理的五个框架。在将来一到三年内，咱们将基于用户需乞降应用场景，提供更多施行价值，同期贬责逃匿保护和端侧部署等问题。这些都是咱们到 2027 年要捏续鼓励的责任。

骆轶航：这个发展旅途特别明晰。接下来我想请问大海对于面壁智能创业初心的问题。面壁智能给我留住深入印象，极度是在本年春节前初度发布小模子 MiniCPM "小钢炮"的时候。那时那场行径亦然我主捏的。有两点让我感到恐惧：第一，你们与 Mistral 在合并时间推出居品，显著不是跟风之作；第二，你们一步到位放手了多模态，这在那时是很迥殊的。那时大多数公司都在追求更大的模子，而你们采取作念小模子并在端侧部署，况且如故多模态。本年事首的时候还很少有东谈主磋议 AI 与手机的勾搭。外界对此有两种运筹帷幄：一是陆续清华大学自然谈话实验室（NLP Lab）的斟酌旅途，二是受限于资金和算力。我很想知谈，你们最初采取端侧阶梯的真实原因是什么？

李大海：采取端侧是基于咱们的技巧洞悉。这确立在一个紧要前提上：模子边界扩大时，必须保捏学问密度的一致性能力捏续普及能力。咱们认为学问密度可能是大模子发展的第一性旨趣，而不是简便的模子参数。这就像早期搜索引擎发展时，东谈主们从容从矜恤网页数目转向矜恤施行能力相似。能力与所需参数目的关系是最中枢的竞争力，因为它代表了 ROI 和效劳，这是第一性的旨趣。就像当年好意思国造出第一台计较机时占据了三个房间，但那时莫得东谈主说要造一个占半个城的计较机，本年大模子刚出来的时候，等于这个逻辑。

骆轶航：就像摩尔定律，描画的亦然一个半导体处理单位不停微型化的历程。

李大海：是的。在密度普及的前提下，咱们有契机作念出更好的模子。本年 2 月咱们就放手了超过 Mistral 7B 性能的模子，这讲明了技巧的可行性。这代表着大模子厂商和芯片厂商的双向奔赴。咱们在 2 月份就将 GPT-3 级别的能力放手了端侧部署，9 月份又将 GPT-3.5 水平带到了端侧。咱们的下一个想法是在 2026 年底前将现时 GPT-4 的能力带到端侧。

骆轶航：那 OpenAI o1 的能力什么时候能放手端侧部署？这个挑战很大啊。

李大海：施行上，o1 这样的模子可能并不允洽端侧部署。因为它代表的是"慢念念考"能力，而末端拓荒最需要的是快速感知能力。这就触及到端云协同的问题。端侧需要快速感知用户并欺诈逃匿信息，这恰是手机上的个东谈主助理极度有价值的地点。但对于复杂的念念考任务，咱们不错交给云霄更大参数目的模子来处理。

骆轶航：这可能确乎不是端侧用户现时最攻击需要的体验。

李大海：既然是慢念念考，用一秒钟时候打听云霄亦然不错吸收的。咱们的发展标的不是追求在端侧复制 o1，而是在 GPT 系列的发展阶梯上，将更强的泛化能力装入更小的参数模子中。端侧要贬责的是 " 具身化 " 问题，需要敏捷的感知和个性化决策能力。比如欺诈用户在手机各个应用中的凹凸文信息。

骆轶航：等于将凹凸文行动土产货数据库的语料。

李大海：是的。在达到 GPT-3.5 水时时，咱们重心补助三个能力：端侧无穷长文本处理、更好的 RAG（增强检索）欺诈土产货资源，以及更好的函数调用来操作土产货拓荒功能，这适用于手机、机器东谈主等各样拓荒。

骆轶航：这是一种降本增效的能力。

李大海：这是具身化的标的，与 o1 的标的实足不同。

骆轶航：周总，您奈何看待面壁智能这种双向奔赴的想法？等于端侧模子不停变小，而模子性能不停普及，它们最终会在 vivo 手机上再会，这件事可能放手吗？

周围：我极度认同大海总对模子端侧化的旅途。这是咱们必须攻克的难关，不管是具身智能如故手机智能末端。将来手机的智能不会局限于某个功能的普及，而是深度交融的个东谈主智能呈现。若是靠云霄感知会太慢，况且出于逃匿和价值不雅磋议，数据不行离开末端，必须有端侧贬责有狡计。另外，手机每天要进行数千次土产货决策，若是都在云霄处理，资本和性能都无法吸收。比如输入法选词，东谈主眼需要每秒 26 个字的速率才嗅觉运动，这莫得端侧智能是无法放手的。

咱们在 10 月 10 日发布的 3B 端侧智能，性能是昨年 7B 的两倍。昨年 7B 主要用于转录、摘记和文生文，但无法处理复杂的逻辑拆解，是以咱们开发了 13B，抑止 13B 需要 7 点几 G 的内存，3B 需要 3 点几 G 的内存，磋议平直机往往是 8G 内存，咱们最终采取了 3B 行动端侧圭臬尺寸。3B 仅需 1G 内存，400 毫安电流，每秒 80 字，能很好地补助感知、推理、决策、记挂和实行功能。

除了基础端侧化，咱们还要为智能端侧化作念储备。本年 vivo 不仅放手了 3B 的端侧化，还完成了审核能力的端侧化。诚然审核用的是百亿级模子，但只需要几十兆内存。咱们还放手了语音大模子的端侧化。咱们的策略是将现存云霄能力尽可能端侧化，只保留慢推理在云霄。

为什么放手端侧智能，非得靠手机？

骆轶航：慢推理许多时候是深度推理，基于念念维链的深度推理的放在云侧，其他能放到端侧的极限化放到端侧。周围淳厚刚才讲这个 13B 的模子占 7G 内存放平直机，某种程度上来说，端侧模子是手机形态物理极限，推着内行要放手它，内行拚命为它想主见的抑止。然而为什么非得是手机？为什么手机是 AI 模子放手最好的形态？而不是其他的拓荒？自然周总可能会说，我是作念手机的，它折服是最好的形态，咱们奈何看待这个问题？

周围：咱们的首创东谈主沈炜沈总认为，AI 是不行创造一个全新品类的。它只可把底本已有的品类作念到体验更好，这是咱们的永久主义，大概是等闲心的坚捏。是以咱们认为因为手机当今是一个比较大的行业，是以咱们先在手机上落地。施行上咱们不错看到，像 AR、VR、AI Pin 这些品类都存在，是因为这些品类，交易化的边界不是太大。是以 AI 进入影响力小，边界小，但是我信托 AR 眼镜当今依然很好的在进入，很快看到喜跃了。

骆轶航：vivo 也不单是是家手机公司。大海淳厚奈何看？为什么手机是最合适的 AI 场景？

李大海：从抽象角度看，手机领有最丰富的数据，因此 AI 在手机上能施展最大价值。在与作念 AI 硬件创业的一又友疏导时，他们必须回答一个问题：为什么这个 AI 硬件功能不行在手机上放手？这确认手机自然具有很强的竞争力。

周围：手机是洞开的生态，咱们不测取代任何行业，只是在作念连结和均衡。咱们认为，将来具备大模子补助的手机，在能力分发和行业分发方面，与传统智妙手机的交易模式并无骨子互异。

骆轶航：会有进一步的演进吧？

周围：无非是从底本的应用标准、应用商店，转向智能体分发。

骆轶航：这个话题很值得深入磋议。

李大海：我想表示一下刚才的不雅点。从头硬件角度看，重要是要判断新智能硬件是否有存在必要，如故其提供的价值手机都能放手。若是手机能放手，这个智能硬件就难以在交易上安身。手机确乎有多量场景和数据，AI 势必能在其上施展更大的杠杆作用。自然，咱们也看到 AR 眼镜和 AI Pin 这类居品在弥补手机的不及，因为手机往往需要用户主动交互能力获取信息。比如咱们聊天时，手机并不行、也不应该监听内容。这些新拓荒不错行动手机除外的紧要数据来源。当这些强输入拓荒的数据与手机数据勾搭，手机仍然能施展刚劲的关节作用。是以我认为手机地位特别紧要。

骆轶航：它在连结场景、连结数据、归集数据方面是很好的关节。

李大海：对！

骆轶航：手机是个很极度的拓荒，这个尺寸拿在手里很方便，不错进行多种操作，分量适中，有填塞的内存和算力，能放手许多存储场景和其他功能。

李大海：咱们开打趣说，手机依然成为当代东谈主的 " 器官 "。你刚才提到的接入资本是个很好的说法，手机与东谈主的勾搭资本很低。比较之下，脑机接口、AR 眼镜等新有狡计的使用门槛都很高。这种低接入资本是 AI 难以取代的价值。

骆轶航：我玩过各式 AR 眼镜，那些拓荒接入体验很酷，场景也很意思意思。我当今用的手机是 Pixel 9 Pro，它能一键叫醒 Gemini，Gemini 不错全局操作数据，能帮我查找特定内容，操作深度很强。我发现若是模子和手机都填塞好用，勾搭起来效劳极度棒，这给了我很大启发。

李大海：因为 Gemini 和 Pixel 是 Google 的官方手机，它欺诈系统能力放手了 Gemini 和 Pixel 的双向集成。

为什么手机上的 APP 会演化成个东谈主智能体？

骆轶航：这样看，vivo 亦然双向集成。一个模子，通过雷同 OriginOS 这样的系统，与拓荒交融亦然可行的。说平直机体验的改革，咱们来具体分析一下周围总之前提到的不雅点。当年手机系统主要作念应用分发，一个手机装几十个 APP，系统要能调用更多功能。而当今像 vivo 的"蓝心小 V "，以及 Google 的 Gemini，它们在手机上调取 APP 的能力很强。将来这种调取，会从调取 APP 转向调取个东谈主智能体。我看到有东谈主捏不同不雅点，认为将来手机上不会有那么多 APP，刚才和王丛总暗里疏导时也谈到这点。跟着 AI 的深入发展，您合计东谈主们敌手机的使用体验会有哪些变化？咱们如故很深爱图形交互界面（GUI），但这种形态可能会若何演变？

周围：手机是东谈主与数字宇宙的连结桥梁，咱们通过手机使用各式业绩和功能，包括听、说、看、触、拍、扫、感知等。跟着大模子的引入，势必会出现极致的体验普及。比如本年 vivo 发布的手机已能清醒苗语、粤语等少数民族谈话和方言，还能识别情绪并作念出回答。就像从电阻式到电容式触摸屏的变革带来了更自然直不雅的交互体验相似，大模子也带来了立异性变化。当今手机不单是点击滑动，还能放手运动的查按拖拽和圈选等操作，这背后都有大模子的补助。

注意图识别方面，比如当用户圈选一个地址时，系统会立即判断用户是想保存、导航如故共享。咱们 vivo 手机的智能岛会相应推出舆图、便签、好友等功能。咱们并莫得取代生态，而是更好地整合了微信、舆图、便签等应用。简言之，当年是东谈主找业绩，当今是业绩主动呈现。更进一步的是主动决策，比如系统发现你心爱川菜，会主动磋商是否需要订餐。这是咱们 2024 年的基础开发责任，到 2025、2026 年，咱们会不停完善这些场景和应用，普及用户体验。

骆轶航：也等于说，多模态能力和模子能力会推动更多手势和操作的识别，不单是触屏交互，而是识别动作意图并保举相应业绩，放手自主霸术。

周围：对。智能体的出现，比如百度高德、腾讯音乐推出的智能体，咱们行动手机连结中心，推出智能体广场，让各式智能体在这里与用户高效匹配。

骆轶航：同期亦然料理中心。

李大海：亦然连结中心和分发中心。

周围：行动手机厂商，咱们要作念基础开发责任，要为百度舆图、高德舆图等数据的接入制定行业内行圭臬。

骆轶航：那么"智能体广场"是什么？是不是等于智能体的应用商店？它有什么接口圭臬？什么是智能体？什么是合适圭臬的智能体？咱们是否在推动与国度关系斟酌机构和官方确立这样的圭臬？友商在作念什么？

周围：我来解释一下，咱们本年发布了 vivo 对于智能体的白皮书。但咱们不是要独自构建生态，而是要共建。下个月，咱们会磋议各家有狡计，详情手机行业圭臬，然后与互联网厂商对接，终末飞腾到工信部、信通院等行业圭臬。

李大海：咱们也不错参与这个形态。昨年面壁智能就获取了行业认同，被认为是最懂 Agent 的大模子公司。

骆轶航：岁首发布会时，以为你们在 Agent 方面有动作，抑止出来的是小模子。

李大海：咱们本年发表的一篇论文在硅谷引起很大反响，主要磋议将来 Agent 之间若何通讯和协同。从技巧角度看，将来每个 APP 厂商都会很快提供我方的智能体（Agent）。重要是合股用户的 Agent 若何欺诈这些 Agent 组合，创造全新的个性化业绩。这种 Agent 间的协同将特别紧要。最近咱们看到有厂商在作念 GUI Agent，模拟用户点击，但从长期来看，原生 Agent 与其他 Agent 协共业绩用户是更好的形态。这势必会带来手机厂商和应用提供商交易模式的变化，这是个很意思意思的问题。

骆轶航：咱们看到硅谷许多公司都在作念不同领域的 Agent，都强调 Agent 间协同。但 Agent 协同之上的框架应该盲从什么圭臬，在什么场景放手？比如法律和财会两个 Agent 表面上都业绩于一个公司，应该协同，但可能需要一个平台或智能体广场来放手。

李大海：需要有发现机制和长入契约。

骆轶航：就像当年的通讯契约圭臬相似，该盲从的圭臬如故要盲从。

周围：vivo 建议了贬责有狡计，只是投砾引珠。咱们但愿芯片厂商、大模子厂商、手机厂商、互联网应用和业绩供应商能联袂合作，共同完善这个贬责有狡计。

骆轶航：共同开发这样的生态。

李大海：一轨同风，车同轨能力确立长入大商场，商场能力喜跃。

骆轶航：长入大商场最紧要的等于一轨同风，车同轨。全球这样多通讯契约圭臬果真立都是特地念念意思的，这方面还不错作念更多事情。今天最紧要的是磋议了端侧模子与智妙手机的勾搭能创造哪些场景、应用，以及新的通讯契约和圭臬开云kaiyun官方网站，若何推动咱们进入个东谈主智能体连结的新阶段。当今你们清醒我为什么蓄谋已久这个顺序了，一个从手机层面，一个从模子层面，都在智能体方面作念意思意思的探索，这是很好的组合。这个顺序就到这里，但愿产业间能保捏互动和相助，AI for Real。谢谢周总，谢谢大海！