这两年大模型很火,AI相关的岗位也越来越多。我最近换工作,面试了几家AI公司,大模型价格战是被问到最多的话题之一。
从2024年开始,大模型行业就掀起了价格战。各家大模型厂商纷纷降价,API调用价格一降再降,从最开始的几十块钱百万token,降到了几块钱,甚至几毛钱。价格战背后,是技术的进步、成本的下降,也是市场竞争的加剧。
面试的时候,面试官很喜欢问大模型价格战相关的问题,因为这能考察候选人对行业的理解、对技术的掌握、对商业的思考。我被问了很多次,也总结了一些经验。
这篇文章我想分享一下面试中被问到的大模型价格战相关问题和我的回答。从技术原理、成本结构、商业模式到行业趋势,聊聊大模型价格战的方方面面。如果你正在准备AI相关岗位的面试,或者对大模型行业感兴趣,希望这篇文章能给你一些参考。
先说明一下,本文的回答是我个人的理解和总结,不一定完全准确,仅供参考。面试的时候,最好结合自己的理解和最新的行业动态来回答。
问题一:大模型价格战的原因是什么
这是最基础也是最常被问到的问题。面试官想知道你对大模型行业的基本理解。
我的回答是,大模型价格战的原因,主要有四个方面。
第一,技术进步带来的成本下降。大模型的推理成本,这两年下降得非常快。一方面,模型本身在优化,比如模型压缩、量化、蒸馏、稀疏化等技术,让模型在保持效果的同时,体积更小、推理更快。另一方面,硬件也在进步,GPU的算力越来越强,价格越来越低,推理的单位成本在下降。
技术进步带来的成本下降,是价格战的基础。只有成本降下来了,厂商才有降价的空间。
第二,规模效应带来的边际成本下降。大模型的推理,有很强的规模效应。当调用量足够大的时候,可以通过批处理、动态批处理、连续批处理等技术,提高GPU的利用率,降低单位请求的成本。而且,调用量越大,越能摊薄固定成本,比如服务器的折旧、机房的租金、运维的成本等。
所以,厂商有动力通过降价来吸引更多的用户,扩大调用量,通过规模效应进一步降低成本,形成良性循环。
第三,市场竞争的加剧。大模型赛道很火,进入的厂商越来越多。国外有OpenAI、Google、Anthropic、Meta等,国内有百度、阿里、腾讯、字节、智谱、月之暗面、MiniMax等。厂商多了,竞争自然就激烈了。
为了争夺市场份额,吸引用户,降价是最直接、最有效的手段。特别是对于后来者来说,降价是快速抢占市场的利器。价格战就这样打起来了。
第四,生态建设的需要。大模型的竞争,不仅仅是模型效果的竞争,更是生态的竞争。厂商需要吸引开发者,让开发者基于自己的模型开发应用,形成生态。而降低API价格,是吸引开发者的重要手段。价格越低,开发者的开发成本越低,就越愿意基于你的模型开发应用,生态就越繁荣。
所以,厂商愿意通过降价,甚至亏本,来吸引开发者,建设生态。生态建起来了,未来才有更多的变现机会。
总结一下,大模型价格战,是技术进步、规模效应、市场竞争、生态建设共同作用的结果。这四个因素,互相促进,推动价格持续下降。
问题二:大模型的成本结构是怎样的
这个问题考察的是你对大模型成本的理解,是比较深入的问题。
我的回答是,大模型的成本,主要分为训练成本和推理成本两部分。
先说训练成本。训练一个大模型,成本是很高的,主要包括几个方面:
一是算力成本。训练大模型,需要大量的GPU。比如训练一个千亿参数的模型,可能需要几千张甚至上万张GPU,训练几个月。GPU的租赁费用或者折旧费用,是训练成本的大头。一张高端GPU,一天的租金可能就要几千块钱,上万张GPU训几个月,算力成本就是几千万甚至上亿。
二是数据成本。训练大模型,需要大量的高质量数据。数据的获取、清洗、标注,都需要成本。有些数据需要购买版权,有些数据需要人工标注,这些都不便宜。而且,随着模型越来越大,对数据量和数据质量的要求也越来越高,数据成本也在上升。
三是人力成本。训练大模型,需要一个专业的团队,包括算法工程师、数据工程师、运维工程师等。这些人才的薪资都很高,一个大模型团队,几十人甚至上百人,人力成本也是一笔不小的开支。
四是其他成本。比如机房的租金、电力的费用、网络的费用、软件的授权费用等。这些虽然不是大头,但加起来也不少。
训练成本是一次性的投入,模型训练好之后,就不需要再投入了。但训练成本很高,是大模型厂商的主要前期投入。
再说推理成本。推理成本,是用户调用模型API的时候产生的成本,是持续的、可变的成本。推理成本主要包括:
一是算力成本。推理的时候,也需要GPU。用户每调用一次API,都需要GPU来计算。GPU的成本,会分摊到每一次调用上。算力成本是推理成本的大头。
影响推理算力成本的因素有很多,比如模型的大小(参数越多,计算量越大,成本越高)、输入输出的长度(token越多,计算量越大)、GPU的利用率(利用率越高,单位成本越低)、批处理的效率(批处理越大,单位成本越低)等。
二是运维成本。推理服务需要7x24小时运行,需要运维团队来维护。服务器的监控、故障处理、版本更新、扩容缩容等,都需要运维人员。运维成本会分摊到每一次调用上。
三是其他成本。比如机房的租金、电力的费用、网络的费用等。这些也会分摊到每一次调用上。
推理成本是持续的,用户调用越多,推理成本越高。但推理成本有规模效应,调用量越大,单位成本越低。
总结一下,大模型的成本,训练成本是一次性的高额投入,推理成本是持续的可变成本。价格战主要降的是推理成本,因为训练成本已经投入了,是沉没成本,厂商更关注的是推理成本和收入的平衡。
问题三:大模型降价之后,厂商怎么赚钱
这个问题考察的是你对大模型商业模式的理解。
我的回答是,大模型降价之后,厂商的赚钱方式,主要有以下几种。
第一,靠规模赚钱。虽然单价降了,但如果调用量足够大,总收入还是会增加的。而且,调用量越大,规模效应越明显,单位成本越低,利润率反而可能提高。
这就是互联网行业常见的"薄利多销"模式。单价降一半,但调用量涨十倍,总收入就是原来的五倍,利润也会增加。所以,厂商有动力通过降价来扩大调用量,靠规模赚钱。
第二,靠增值服务赚钱。基础的API调用可以降价,甚至免费,但增值服务可以收费。比如,更高的并发、更快的响应、更长的上下文、更稳定的服务、专属的模型微调等,这些增值服务,可以收取更高的费用。
就像云服务一样,基础的云服务器可以很便宜,但高性能的、专属的、企业级的服务,可以卖很贵。大模型厂商也可以用这种模式,用低价的基础服务吸引用户,用高价的增值服务赚钱。
第三,靠企业服务赚钱。To C的API可以降价,但To B的企业服务,可以收更高的费用。比如,为企业提供专属的模型部署、私有化部署、定制化微调、数据安全保障、专属的技术支持等,这些企业级服务,客单价很高,是重要的收入来源。
很多大模型厂商,都在大力发展企业服务。企业客户对价格不敏感,更看重效果、安全、稳定和服务,愿意为这些付费。企业服务,是大模型厂商的重要利润来源。
第四,靠生态变现。大模型的生态建起来之后,有很多变现的方式。比如,基于大模型的应用商店,开发者在上面卖应用,厂商抽成;比如,大模型的插件市场,开发者卖插件,厂商抽成;比如,基于大模型的广告、电商、内容等,都可以变现。
生态变现,是更长期、更想象空间的商业模式。就像苹果的App Store一样,生态建起来了,赚钱的方式就多了。
第五,靠其他业务协同。很多大模型厂商,本身就有其他业务。比如,百度有搜索、广告、云服务;阿里有电商、云服务;腾讯有社交、游戏、云服务。大模型可以和这些业务协同,提升其他业务的效率和收入。
比如,大模型可以提升搜索的效果,增加广告收入;可以提升电商的推荐效果,增加电商收入;可以提升云服务的竞争力,增加云服务收入。这些协同效应,带来的收入,可能比大模型本身的收入还多。
总结一下,大模型降价之后,厂商可以靠规模、增值服务、企业服务、生态变现、业务协同等方式赚钱。价格战,不是不赚钱,而是换一种方式赚钱,换一个更长期的赚钱模式。
问题四:大模型价格战对行业有什么影响
这个问题考察的是你对行业趋势的理解和思考。
我的回答是,大模型价格战对行业的影响,主要有以下几个方面。
第一,加速大模型的普及和应用。价格下降,大大降低了大模型的使用门槛。以前,调用一次大模型API可能要几块钱,很多开发者和中小企业用不起;现在,调用一次只要几分钱甚至几厘钱,大家都用得起了。
使用门槛降低了,大模型的应用就会加速普及。越来越多的开发者会基于大模型开发应用,越来越多的企业会把大模型用到自己的业务中,越来越多的个人用户会使用大模型产品。大模型,会像水电一样,成为基础设施。
第二,加速行业洗牌,淘汰落后产能。价格战,会加速行业的洗牌。没有技术实力、没有成本优势、没有资金实力的厂商,会在价格战中被淘汰。因为价格战拼的是成本和资金,成本高、资金少的厂商,扛不住价格战,会被淘汰出局。
价格战之后,行业会向头部集中,形成几家大厂商主导的格局。小厂商要么被收购,要么转型做细分领域,要么退出市场。行业的集中度会提高,竞争会更加有序。
第三,推动技术进步和创新。价格战,会倒逼厂商不断创新,降低成本,提升效果。为了在价格战中获胜,厂商会不断优化模型,提升推理效率,降低推理成本;会不断研发新的技术,比如更高效的模型架构、更先进的训练方法、更智能的推理优化等。
价格战,不是单纯的降价,而是技术和创新的竞争。谁的技术更先进,谁的成本更低,谁就能在价格战中获胜。所以,价格战会推动整个行业的技术进步和创新。
第四,改变商业模式和竞争格局。价格战,会改变大模型行业的商业模式。以前,厂商主要靠API调用收费;现在,API价格越来越低,厂商需要探索新的商业模式,比如增值服务、企业服务、生态变现等。
商业模式的改变,也会改变竞争格局。以前,竞争主要是模型效果和API价格的竞争;现在,竞争变成了生态、服务、技术、成本等全方位的竞争。谁的生态更繁荣,谁的服务更好,谁的技术更先进,谁的成本更低,谁就能在竞争中获胜。
第五,带来新的机会和挑战。价格战,对行业来说,既是机会,也是挑战。机会在于,大模型普及了,应用场景多了,市场变大了,会催生很多新的机会,比如新的应用、新的服务、新的生态。挑战在于,竞争更激烈了,利润更薄了,对厂商的技术、成本、资金、运营都提出了更高的要求。
对于创业者和开发者来说,价格战也是机会。大模型的使用成本降低了,开发大模型应用的门槛降低了,越来越多的人可以基于大模型创业和开发。这会催生很多新的创业机会和创新应用。
总结一下,大模型价格战,会加速普及和应用,加速行业洗牌,推动技术进步,改变商业模式和竞争格局,带来新的机会和挑战。总的来说,价格战对行业的长期发展是有利的,它会让大模型更快地普及,让行业更快地成熟。
问题五:大模型价格战会持续吗,未来的趋势是什么
这个问题考察的是你对行业未来的判断和思考。
我的回答是,大模型价格战还会持续一段时间,但不会一直降下去,最终会稳定在一个合理的水平。
为什么说价格战还会持续呢?因为目前大模型的成本还有下降的空间,市场竞争还很激烈,生态建设还在进行中。
从成本来看,大模型的推理成本,还有很大的下降空间。模型优化技术还在进步,硬件还在升级,推理优化技术还在发展。成本下降了,就有继续降价的空间。
从竞争来看,大模型赛道的玩家还很多,竞争还很激烈。各家厂商还在争夺市场份额,争夺开发者,争夺生态。降价还是最有效的竞争手段之一。所以,价格战还会持续。
从生态来看,大模型的生态还在建设初期。厂商还需要通过降价来吸引开发者,扩大用户基数,建设生态。生态建起来之前,厂商有动力继续降价。
但为什么说价格不会一直降下去呢?因为成本是有底线的,厂商不可能一直亏本卖。
大模型的推理,有一个最低成本。这个最低成本,由硬件成本、运维成本、电力成本等决定。当价格降到接近最低成本的时候,就没有继续降价的空间了。再降,厂商就亏本了,亏本的生意是不可持续的。
而且,当价格降到一定程度之后,降价的边际效应会递减。比如,从10块钱降到1块钱,降幅90%,对用户的吸引力很大;但从1块钱降到1毛钱,降幅也是90%,但对用户的吸引力就没那么大了,因为1块钱已经很便宜了,再降也省不了多少钱。这时候,厂商再降价,对扩大用户量的帮助就不大了,反而会影响收入。
所以,价格战会持续一段时间,但最终会稳定在一个合理的水平。这个水平,应该是略高于推理的最低成本,厂商有合理的利润,用户也觉得便宜划算。
未来的趋势,我觉得有以下几个方面:
第一,价格会逐步稳定,竞争从价格转向价值。当价格稳定之后,厂商的竞争重点,会从价格竞争,转向价值竞争。比如,更好的模型效果、更丰富的功能、更优质的服务、更繁荣的生态等。价格不再是唯一的竞争因素,价值变得更重要。
第二,模型会分层,不同层级的模型有不同的价格。未来,大模型会分层,有旗舰级的大模型,效果最好,价格也最高;有中等规模的模型,效果不错,价格适中;有轻量级的小模型,效果一般,价格很便宜。不同的用户,可以根据自己的需求,选择不同层级的模型。这样,厂商既能满足不同用户的需求,又能提高利润率。
第三,推理优化技术会快速发展。为了降低成本,厂商会大力发展推理优化技术,比如模型压缩、量化、蒸馏、稀疏化、批处理优化、KV缓存优化、投机解码等。这些技术,能在保持效果的同时,大大降低推理成本。推理优化,会成为大模型厂商的核心竞争力之一。
第四,专用芯片会普及。为了降低推理成本,专用的AI推理芯片会越来越普及。比如,Google的TPU、亚马逊的Trainium和Inferentia、国内的各种AI芯片等。专用芯片,比通用的GPU更适合大模型推理,能效比更高,成本更低。专用芯片的普及,会进一步降低推理成本。
第五,应用层会爆发。当大模型的价格降到足够低,使用门槛降到足够低的时候,应用层会爆发。越来越多的开发者,会基于大模型开发各种应用,覆盖各个行业、各个场景。大模型,会像移动互联网一样,催生无数的创新应用和创业机会。应用层的爆发,会反过来推动大模型的进一步发展和普及。
总结一下,大模型价格战还会持续一段时间,但最终会稳定。未来,竞争会从价格转向价值,模型会分层,推理优化技术会快速发展,专用芯片会普及,应用层会爆发。大模型行业,会越来越成熟,越来越繁荣。
写在最后
以上就是我面试中被问到的大模型价格战相关问题和我的回答。
大模型价格战,是这两年AI行业最重要的事件之一。它不仅改变了大模型的价格,也改变了行业的竞争格局、商业模式和发展趋势。了解大模型价格战,对于理解AI行业的现状和未来,非常重要。
面试的时候,被问到大模型价格战相关的问题,不要只说表面的现象,要深入分析背后的原因、成本、商业模式、行业影响和未来趋势。展现你的思考深度和行业洞察力,这样才能给面试官留下好印象。
当然,大模型行业发展很快,今天的分析可能明天就过时了。所以,要持续关注行业动态,不断更新自己的认知。只有保持学习,才能跟上行业的发展。
最后用一句话来结束这篇文章:"价格战只是手段,技术和价值才是核心。"
愿你在AI行业的浪潮中,抓住机会,不断成长,创造价值。
评论(0)
暂无评论,快来抢沙发~
评论功能仅对会员开放,请先登录
登录