TA的信息
基本信息
关于TA的更多
TA的项目
找到TA
当大家还在盯 GPU 时,AI Agent 的下一个成本瓶颈会不会是 CPU?
这周AI 云平台 Modal 宣布将在 Sandboxes 产品中支持 NVIDIA 的 Vera CPU。这个消息看起来是个硬件新闻,但背后更是 Agent workload 和传统模型调用之间一个蛮关键的差别:模型负责思考,Agent 还要执行代码、调用工具、检索文件、安装依赖,并在隔离环境中验证结果。这些动作并不全发生在 GPU 上,很多实际工作由 CPU 完成,尤其在实际业务流程中z Modal 的测试也说明了这一点。在低负载、单任务环境里,Vera 相比其他 CPU 并非始终有明显优势;但当数百个不同任务同时运行时,它的吞吐量最高达到同类 x86 服务器的两倍,而且没有明显牺牲单个任务的 latency。Modal 给出的解释是,Agent workload 很不稳定:一个任务可能大部分时间都在等待模型,随后突然执行 npm install、编译代码或搜索大量文件。真正影响效率的,是 CPU 在高并发和资源争抢下能不能扛住。 NVIDIA 对 Vera 的定位也很直接:它不是用来替代 GPU 训练模型,而是处理 Agent 推理循环之外的 code execution、tool use、sandbox、数据处理和 orchestration。换句话说,当 AI 从“生成答案”变成“完成任务”,基础设施的计算单元也随之改变。 那随之可以推理的是,Agent 产品的 COGS 不能只看 token 和模型价格。 一个模型即使单次调用更便宜,如果工具执行慢、Sandbox 等待时间长,或者失败后不断重试,完成一个 outcome 的总成本仍然可能很高。对用户来说,这也直接影响体验:一个需要等待五分钟的 Agent,和一个几十秒内完成任务的 Agent,实际上是两个不同的产品。 对做 B2B AI 的创始人,需要先思考几件事:是否已经按完整任务追踪模型、CPU、工具调用和重试成本;客户支付的是一次模型调用,还是一个真正完成的工作;底层基础设施是否支持在不同模型、芯片和云平台之间切换。早期用单一供应商换取速度没问题,但如果业务开始规模化,基础设施选择最终会进入毛利率和交付能力。 所以真正值得重新计算的,不只是每百万 tokens 的价格,而是一个 AI Agent 从开始思考到真正把事情做完,究竟消耗了多少资源。
AI 产品的推理成本越用越高,企业怎么赚钱呢?
有个现象挺有意思:很多 AI 产品增长很快,但毛利是在往下走的。越是活跃的重度用户,成本越高,所以"最爱你的用户"和"最赚钱的用户"可能并不是同一批人。 目前大家的思路大题是两个方向:一是给用量设上限或阶梯价,二是让产品"越用越便宜",比如缓存、小模型分流、沉淀自有数据。第一条需要勇气,第二条需要时间~ 团队往往是被迫在两者间做选择。 抛给大家: 你会对最爱用产品的客户提出用量限制吗?还是担心这会把他们推向对手呢
当 AI 开始替客户完成工作,B2B 软件还应该seats收费吗?
很长一段时间,企业软件都是用“Seats×单价”计算收入的。但如果一个 AI Agent 能完成原本需要多个人处理的任务,客户使用的软件账号可能减少,交付的工作量却增加了。对软件创业者而言,这个问题就变成:你的收费单位,还能反映产品创造的价值吗? Intercom 的 AI 客服产品 Fin 提供了一个蛮有意思的案例。今年 9 月更新的官方说明是,Fin 按 outcome(结果)计费,每个结果 0.99 美元。但“结果”并不只指完整解决客户问题,也包括执行预先配置的流程后,将任务交接给人工或其他工作流。 这个细节是:按结果收费,首先要解决的,是双方如何认定结果。 一次交接可能已完成有价值的信息收集,也可能只是把问题推给人工。客户离开对话,可能代表满意,也可能代表放弃。Fin 的规则中就包含“推定解决”,并规定客户回到同一对话继续求助时,撤销此前的解决计费。计费规则本身,已经成为产品信任的一部分。 不过,这并不意味着所有 B2B 产品都应该改为按结果收费。Salesforce 的 Agentforce 提供按动作、按对话及按用户等购买方式,说明即使在同一产品体系内,不同场景也需要不同的计费单位。 那随之可以推理的是收费越接近业务结果,供应商就越需要承担交付和验证责任。客服工单是否解决,相对容易追踪;销售收入是否由某个 Agent 带来,则受到线索质量、销售跟进和成交周期等因素影响。结果难以归因时,强行承诺“按效果付费”,反而可能拉长采购谈判。 对做 B2B的创始人,需要先思考几件事:找出客户愿意付钱的最小工作单元;在PoC阶段确定成功、失败和返工的判定规则;把模型调用(微调)、重试及人工兜底全部计入单次交付成本。 所以真正值得重做 或重点思考的,不只是“古早”的定价策略,而是产品的交付边界。
Jev的效果还是要在不同场景去跑才知道对具体案例的ROI的影响
马来官方对中国AI应用的support landing
马来西亚正在把AI普及变成一场由政府主导的产品分发实验。 马来西亚政府自9月1日起向18至30岁的年轻人开放“AI for Rakyat”项目。完成指定学习模块后,10万名参与者可获得三个月免费订阅,涵盖马来西亚本土产品ILMUChat、Google的Gemini Enterprise,以及来自中国的WonderClip和MuleRun。 这项计划的商业意义,不只在于免费用户的数量。 对于试图进入东南亚的AI公司而言,政府支持的培训和普及项目正在成为一种新的市场渠道。相比单纯依靠广告投放,这类项目可以同时提供政策背书、用户教育和本地曝光,并帮助海外产品降低进入新市场时的信任成本。 马来西亚选择同时引入本地、美国和中国产品,也反映出他们在AI技术路线上的现实主义态度:不预先绑定单一国家或供应商,而是让不同来源的产品在实际使用中竞争。 这个动作也为中国AI公司提供了一个积极信号。它们进入东南亚,并不一定需要先赢下大型企业客户。政府培训计划、高校、行业协会和开发者社区,都可能成为建立早期认知和用户基础的入口。 不过,10万名免费用户与可持续收入之间,仍然存在明显距离。 三个月免费订阅可以快速提升注册量,却不能自动证明用户愿意长期使用,更不能说明企业客户会为此付费。真正需要观察的,是参与者完成培训后的激活率、使用频率、留存率,以及免费期结束后的转化情况。 对中国公司而言,获得政府项目席位只是进入市场的开始,有一定时代助推的作用。但能否把一次性曝光转化为长期业务,取决于后续产品是否可以建立完整的本地化路径。 首先,产品需要的不只是马来语界面,还包括符合当地工作习惯的模板、培训内容和客户支持。其次,公司需要与高校、培训机构及行业协会建立合作,把个人用户进一步连接至SME和企业场景。最后,免费项目结束后,应提供清晰的企业版本,并通过本地案例证明产品能够改善销售、营销、客户服务或内部运营效率。 政府项目可以帮助一家海外AI公司打开市场,却不能替代产品与市场的真正匹配。 但马来西亚这次计划传递出的强信号是,中国AI应用仍有机会进入由政府推动的主流生态,与美国和本地产品直接竞争。需要警惕的炒作同样明确:用户触达并不等于用户留存,免费订阅也不等于企业采购。 对希望进入东南亚的AI公司而言,关键问题不是能否拿到一张政府合作的入场券,而是入场之后,能否把政策背书转化为本地客户、真实工作流和持续收入。 是否可以抓住这张牌,即使同一赛道的不同玩家应该也有不同的打法,我们拭目以待。
对“身体的肿胀难受迫不及待想让娃出来”感同身受。疫情期间怀孕和生产,本身就比平常多了太多未知和恐惧~ 戴着口罩迎接新生命,还要在突如其来的剧烈宫缩中保持清醒和勇敢。妈妈真的是一种不可思议的存在。我的生产过程相对没有太多波澜,因为剖腹产提前做了准备,新加坡这边的疼痛管理还是很专业的,我基本没有太多不适,反而我老公在旁边流泪又担心。。有人说孩子逐渐长大,妈妈会忘记孕育和生产的疼痛,但我们应该会永远记得,是主动选择这一切让新生命降临。 另外非常期待《非洲野生兽的澳洲育儿日记》下一集
感谢分享!我家娃也是小月龄,还不能辅食,所以只能母乳喂养,我现在有种听天由命的感觉,希望他要么抵抗力好不被我感染,要么感染后尽快恢复🙏🙏
Covid期间的母乳喂养🤱
最近新加坡又一轮Covid盛行,不幸中的不幸还是被感染了,上周四测出Positive后和GPT聊了下是否可以用药。结论是如果还没有严重发烧呼吸困难,建议多饮水和休息。就这样熬过了两天后终于转为Negative。但咳到怀疑人生。。不知道大家感染Covid后都是怎么处理母乳喂养和用药的,期待交流🙏
好问题!已经有客户在问存在飞书/lark里的数据会不会被接入大模型作为底层训练集🫢
