豆包大模型定价开启“厘时代”火山引擎助推金融行业加速升级
发布时间:2024-05-21
  5月15日,在火山引擎原动力发布会上,字节跳动豆包大模型家族、火山方舟2.0、AI应用及AI云基础设施等一系列最新产品正式发布。   火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,字节跳动自研的豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿Tokens文本,生成3000万张图片。   “豆包主力模

  5月15日,在火山引擎原动力发布会上,字节跳动豆包大模型家族、火山方舟2.0、AI应用及AI云基础设施等一系列最新产品正式发布。

  火山引擎是字节跳动旗下云服务平台,据火山引擎总裁谭待介绍,经过一年时间的迭代和市场验证,字节跳动自研的豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一,目前日均处理1200亿Tokens文本,生成3000万张图片。

  “豆包主力模型的推理输入定价只有0.0008元/千Tokens,0.8厘就能处理1500多个汉字,比行业便宜99.3%。”火山引擎总裁谭待表示,大模型从以分计价到以厘计价,将助力企业以更低成本加速业务创新。“大模型的超低定价,来自对技术的信心。”谭待说,他强调,降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。

  除了模型的效果和成本,应用落地也非常关键。同日,谭待宣布火山方舟2.0平台正式上线个重要的大模型插件,帮助企业更好的实现应用落地。

  据悉,字节旗下的C端AI产品包括豆包(对话式AI助手)、扣子(AI开发平台)、河马爱学(AI学习助手)、猫箱(AI互动娱乐)、星绘(AI分身创作)和即梦(AI创作平台)。

  业务应用方面,主要用于办公智能助手、电商导购、售后客服、营销创作、数据智能分析、编程助手等业务场景,覆盖字节跳动内部50余个业务。

  其中,豆包大模型是字节跳动自主研发的大型语言模型,具有强大的语言理解和生成能力。豆包大模型提供多种版本,以适应不同业务需求,此次发布的豆包模型家族包括通用模型pro、通用模型lite、语音识别模型、语音合成模型、文生图模型等九款模型。

  而火山方舟2.0是火山引擎推出的升级版AI企业服务平台,它大幅提升了模型效果、核心插件、系统性能以及平台体验,为企业推进大模型的价值创造提供了更强大的支持。

  过去,火山方舟通过内测、邀测等各种方式,已经在多个行业进行了充分的实践,包括金融、消费、手机、汽车等等。

  以华泰证券为例,基于火山方舟,华泰证券构建了新一代的财富管理助手,提升了用户体验。该助手解决了传统技术无法对意图进行精准识别、无法与客户之间进行多轮交互的问题,加强了和用户的交互体验和一站式服务的能力。

  此前,传统证券客服体系存在产品形态孤立、意图识别泛化性不足、缺乏多轮会话理解能力等问题,导致客户使用体验不佳,未能充分形成一站式财富管理助手形式的服务能力。

  而基于火山引擎方舟平台,华泰证券构建了新一代的财富管理助手,提升了用户体验。该助手解决了传统技术无法对意图进行精准识别、无法与客户之间进行多轮交互的问题,加强了和用户的交互体验和一站式服务的能力。通过大模型、传统模型、业务交易流程的融合,充分发挥了数据要素的倍增和乘数效应,实现了更为高效的业务流程。

  火山方舟与华泰的合作充分证明了全栈AI服务在金融行业的应用潜力。随着技术的不断进步和应用场景的拓展,全栈AI服务将在金融行业发挥更加重要的作用,推动金融行业的智能化转型。

  谭待表示,目前的火山引擎的生态包括了IaaS(基础设施即服务)、PaaS(平台即服务)、SaaS(软件即服务)。他认为,在服务企业数字化转型的过程中,AI的到来把数字化往深、往广推进了。

  谈及用户场景落地情况时,他举例道,随着汽车与手机的交互日益自然,如在驾驶中导航、查询周边信息,无需分心操作手机,车载系统可即时响应需求。手机助手AI的应用受限于技术,未充分满足用户需求。他还表示,在其他场景如消费营销、金融服务中,智能体也展现出巨大潜力。

  “为实现AI技术的广泛应用,需提升技术并构建丰富的应用生态。这需要低代码生态的支持,降低开发门槛,激发群体智慧。同时,降低AI技术成本,使更多初创企业和小规模项目得以实施,促进AI时代的创新与发展。”谭待表示。

  发布会当天,火山引擎联合中国电动汽车百人会、一汽、吉利、长城、广汽、捷途、智己等20余家厂商,宣布成立汽车大模型生态联盟,致力于探索新一代人车交互形态、提升汽车全场景AI新体验。

  同时,火山引擎与OPPO、vivo、荣耀、小米、三星、华硕宣布成立智能终端大模型联盟。OPPO小布助手、荣耀MagicBook的YOYO助理、小米“小爱同学”,以及华硕笔记本电脑的豆叮AI助手等应用,均已接入火山引擎的大模型服务。

  目前,企业级AI应用开发平台扣子专业版已集成在全新升级的“火山方舟2.0”上,提供企业级SLA和高级特性。招商银行、海底捞火锅、超级猩猩、猎聘等企业,已经在扣子上搭建了智能体。复旦大学、浙江大学等名校也为课程和实验搭建AI“助教”。

  谭待表示,火山引擎致力于成为AI时代最开放和领先的云服务平台。全新升级的火山方舟2.0不仅提供了抖音、今日头条的搜索和内容插件等丰富的生态资源,还有着充沛的算力资源和极致弹性,保障客户的业务稳定。

  据其介绍,火山引擎算法团队也将为豆包大模型的企业客户提供支持,分享模型调优和数据处理的实践经验,与企业客户共同探索AI转型的智能未来。