秋霞影视大全火山引擎谭待:大模型的超低定价,来自对技术的信心

秋霞影视大全 2024-05-16 18:27:01 来源: 原创

第1 飘雪影视大全免费观看视频在一起五年分手了是什么体验

第2 爱丫爱丫影院电视剧剑网三联动虹猫蓝兔七侠传

第3 伊人春色小伙泰山看日出被堵上不来下不去

第4 大地资源在线观看免费高清范志毅谈“村超”爆火原因

第5 秋霞网十余人超690分 老师激动要降压药

第6 老牛影视电影《消失的她》里何非到底是怎样的一个人?

第7 八戒,八戒影视剧在线观看上海地震

第8 黑色午夜实习律师第一个月工资发了474元

第9 5557影视山东高考分数线

第10 77影视新房子装修需要买家电,什么牌子的电视、洗衣机、冰箱比较好?太多了要怎么去挑选?

  “降价的基本逻辑是,我们有信心用技术手段降低成本,市场也需要更低价的大模型。”

  5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。

  豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

  据介绍,大模型推理成本的优化,技术上有很多手段。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决方案。

  其次是工程上的优化。大模型的调用量越大,优化推理成本的空间也越大。以前的模型都是单机推理,大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好,推理成本就会大大降低。

  谭待进一步解释说,豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片,这里有不同的负载,可以把不同任务混合在一起,互相错峰,通过智能调度把它们的利用率都跑得很高,就能极大地提升资源利用率,实现整体成本的优化。

  另外以字节内部业务为例,飞书的主要流量高峰在工作时间,抖音在下班后休闲时间的流量更高,这些不同业务的大模型推理,也能根据业务特点错峰使用,就可以降低成本。

  对于“大模型开始价格战”的说法,谭待认为,大模型市场仍在发展初期,远远没到激烈竞争的阶段。“池塘有多大,鱼就有多大,现在整个池塘还在培养的过程。”

  “一个人现在创业,如果要花1万块钱调用大模型,可能会觉得有点贵。我们把价格降到1%都不到,100块钱就能用起来,他的想法也就更容易尝试。”谭待表示,企业的AI转型充满不确定性,试错成本要尽量低,才能更快更多地实现大模型的应用落地,从而让整个行业受益。

推荐内容

精彩推荐

产品推荐

马斯克与扎克伯格隔空约架,科技圈大佬相约“铁笼大战”
¥
268.00
4.9分
有八千左右的游戏本推荐吗?
¥
1399.00
4.9分
雷佳音白玉兰视帝
¥
49.00
4.8分
大脑:这一歇就是四年
¥
1469.00
4.5分
绍伊古
¥
198.00
4.9分
这个炒菜机器人真的好用吗?
¥
3299.00
4.9分

最新评论

天天健康
你最近一次被宠物鄙视是什么时候?| 2023 LPL 夏季赛 RA 1:2 不敌 EDG,如何评价这场比赛?| 女儿高考630分单亲妈妈边笑边流泪| 河南考生分清华北大打电话抢人