文章来源：

作者：Esther

图片来源：由无界AI生成

大模型的性价比之战已经来到了新的阶段。

5月15日，2024火山引擎FORCE原动力大会上，火山引擎总裁谭待宣布，字节跳动内部自研的豆包大模型正式在火山引擎上对外开放服务。

豆包大模型在价格上主打“极致性价比”：豆包通用模型pro-32k版，推理输入价格0.0008元/千tokens，较行业价格低99.3%。一元钱能买到豆包主力模型的125万tokens，相当于三本《三国演义》的输入量。

谭待认为，降低成本是推动大模型快进到“价值创造阶段”的一个关键因素。过去一年时间中，许多企业已经从探索尝试大模型，到成功将大模型与核心业务流结合。不论是探索阶段的小场景试错环节，还是大流量的核心业务流结合环节，大模型成本高昂问题始终是制约大模型在千行百业落地的关键要素之一。

除了成本，企业大模型落地过程中还可能面临的模型效果差、信息安全、算法实践经验少等问题，大模型服务平台火山方舟2.0版本提出了更具体的解决方案，其平台模型效果、核心插件、系统性能和平台体验层面全面升级。

在大会前的采访中，火山引擎智能算法负责人、火山方舟负责人吴迪向机器之心透露，根据字节跳动内部的判断，当前阶段已经处在大模型规模化落地的爆发前夕，预计2024年年底或者2025年初，企业对大模型的调用量将出现一个陡峭上升、流量激增的拐点。

吴迪认为，在大模型整体落地走向拐点的过程中，模型效果、系统承载力以及性价比三个重要痛点将会更加明显，火山方舟未来也将在这三方面持续发力。

模型效果提升，支持日千亿级别tokens调用量

模型的性能和效果是制约许多企业创新场景的首要条件。作为大模型服务平台，火山方舟平台在模型上希望打造一个“精品模型商店”。根据吴迪的说法，跟去年相比，火山方舟平台在模型的上架上，呈现更加严谨和收缩的态势。“只选择最优秀的闭源大模型，以及能够持续发展的开源大模型”。

在这次的火山引擎FORCE原动力大会上，字节跳动内部的豆包大模型首次面世，而火山方舟将是豆包大模型的唯一使用入口。

字节跳动向外一次性推出了豆包大模型的全系列模型，包括豆包通用模型pro/lite、角色扮演模型、语音合成模型、语音识别模型、声音复刻模型、Function call模型、文生图模型以及向量化模型。

不同模型面向不同的场景需求。在通用需求上，豆包通用模型pro版能够提供更加专业且泛化的能力，窗口尺寸最大可达128K，全系列可精调，具备强理解、生成、逻辑和记忆力，在问答、总结摘要、创作、文本分类、角色扮演等通用场景具备全面通用的能力。而lite版，则面向更追求性价比的客户，更加轻量。

其他细分场景模型支持和加强单一细分场景的能力。比如，角色扮演模型极大地加强了模型在角色扮演方面的能力，能够支持老师、朋友、宠物等角色的扮演需求；语音合成模型拥有超自然语音合成能力，做到5s声音克隆，支持听书、陪伴交互等场景；语音识别模型，支持多语种复杂场景语言识别需求，相比小模型识别错误率降低30%，在音乐、科技、教育、医疗等垂直领域识别错误率降低50%以上。

经过过去一年的内部打磨，豆包大模型从1.0进化到3.0，在字节跳动内部被用于办公智能助手、电商导购、售后客服、营销创作、数据智能分析、编程助手等等50余个业务场景，日调用量达到1200亿tokens（约1800亿汉字），图片生成量超过3000万张。目前由豆包大模型支持的AI应用助手豆包APP累计下载量超过1亿，桌面+App双端月活用户量2600万，支持创建的智能体总量超过800万。

在采访中，吴迪向机器之心解释称，当前豆包大模型每日千亿tokens级别的量级是目前中国（大模型）市场上非常大的单日吞吐量。这意味着，豆包大模型以及火山方舟的平台已经经过了大流量的生产环境验证，因此即使面对流量非常大，对效果要求非常严苛的客户，被内部业务打磨后的豆包大模型也能够支持这类需求。

处理大流量的能力在大模型落地拐点到来后将非常重要。根据吴迪的预判，到了24年底或者到了25年的时候，企业在大语言模型的调用量上面将是今年的数十倍以上。随着企业将大模型纳入自己的核心业务流中，处理大流量的需求也会逐渐拓展。

“大模型的落地不是一件从帽子里拽出来兔子的一个魔法。要把大模型在企业的具体环境里面用好，来解决那些远高于公开评测集的困难问题，是需要有一定的算法协助的。”

在模型效果的提升上，除了模型本身的能力提升和场景聚焦，针对许多客户在工程落地上的困难，火山方舟还形成了专业的算法服务团队，可以在落地全过程，协助业务诊断、训练优化、问题解答，比如提示词工程，协助用模型和客户的数据去做一些精调和训练，保障项目落地。

目前，豆包大模型团队还在重兵投入，持续招揽研究型专家和高潜人才。在字节跳动招聘官网上搜索“豆包大模型”，即可看到该团队有大量职位在招，对大模型的坚决投入可见一斑。

系统承载力增强，完成分钟级千卡伸缩

在大模型被企业逐渐纳入核心流程的阶段，火山方舟还发现，面对更大体量的业务、更剧烈的流量波动，还需要更强的系统承载力，否则“有了模型，也跑不起来”。

吴迪总结称，所谓系统承载力，是充沛算力、模型优化能力以及系统调度能力的乘积。只有系统做到更加弹性、稳定、包容，才能接住业务的流量高峰期，并且为潮汐起落的流量匹配最佳的算力投入，实现成本节约。

根据大会的介绍，升级后的火山方舟在系统承载力方面的增强也体现在这三方面。在算力方面，拥有充沛的公有云GPU资源池，能够保障资源潮汐调度，流量高峰业务稳定；在优化方面，创建精调模型接入点后5秒即可使用，路由信息持久化保存，即用即达；在调度方面，能够分钟级完成千卡扩缩容，有效支撑突发流量和业务高峰。

通常而言，由于一般公司流量的高峰期相对集中，企业自建机房的情况下，平均每天GPU使用时间通常在8-10小时，在4-6小时的高峰期中，GPU用量可以做到效率最高，但是其他时间效率较低，平均成本会被拉高。

在一个具备更强承载力的系统下，火山方舟希望做到的是，在无限短的时间里，让算力流动到它该出现的地方，当客户流量爆发时，在毫秒级别的时间里，为这个时段的客户增加GPU算力；当流量下行时，同样快速地抽离算力。在保证客户延迟稳定的情况下，贴合其流量变化，从而最终实现创造最低单位算力成本。

另外，火山引擎在推理层面上做了大量优化，包括算子优化、通信优化、大的集群上主网和储存的优化，能够帮助适应异构硬件。

成本更低，大模型价格进入“厘时代”

在众多限制因素中，由于算力贵带来的整体大模型使用成本高昂的问题，不仅限制了更多企业在大模型落地方面的创新，也阻碍了企业将大模型落地场景规模化的进程。
QuestMobile数据显示，截至今年3月，基于大模型的AIGC行业用户量为7380万，尽管同比增长了8倍，也仅占移动互联网用户量的6%。

火山引擎总裁谭待认为，降低成本是推动大模型快进到“价值创造阶段”的一个关键因素。

会上谭待宣布，豆包大模型的定价大幅低于行业价格：豆包通用模型pro-32k版，模型推理输入价格仅为0.0008元/千tokens，而市面上同规格模型的定价一般为0.12元/千，是豆包模型价格的150倍。

另外，豆包通用模型pro-128k版本，推理输入价格为0.005元/千tokens，仅是GPT4-Turbo128K （0.07元/千tokens）定价的7%。

根据火山引擎公布的价格计算，一元钱就能买到豆包主力模型的125万tokens，大约是200万个汉字，相当于三本《三国演义》。

谭待表示，大模型降价，不能只提供低价的轻量化版本，主力模型和最先进的模型也要够便宜，才能真正满足企业的复杂业务场景需求，充分验证大模型的应用价值，从而催化出超越现有产品和组织模式的创新。

丰富的插件生态，嵌入抖音头条底层能力

在本次火山方舟的产品升级中，上述三大升级被认为是火山方舟的三个核心循环层，由这三个循环层共同作用下，能够帮助客户解决大模型落地中最重要的三大痛点。

除此之外，本次发布会上，火山方舟还重点提到了，2.0产品对插件生态的进一步丰富，更新后的平台将会上线三个凝结了字节跳动内部强项能力的插件——联网插件、内容插件以及RAG知识库插件。

• 联网插件能够提供头条抖音同款搜索能力，实时连接海量优质互联网数据，不断从新的数据和信息中学习，从而提高其性能和适应性，同时使用文本、图像、语音等多模态交互方式，并通过意图识别能力，提供更准确和全面的回答。
• 内容插件，能够提供头条抖音同源海量内容，支持多模态交互，提供基于意图的垂类内容信息检索，内容时效检索更强，帮助大模型深入理解、检索和生成内容。
• RAG知识库插件能够支持将企业的私域数据注入到大模型中，实现毫秒级百亿规模的高性能检索，秒级流式知识库索引更新。

根据吴迪的说法，这三大插件是内外部业务需求分析后，需求量最大的三种类型插件，这三大插件也同时利用了字节跳动本身的技术、内容、生态优势。

其中，RAG知识库插件中内嵌的豆包向量模型，来自抖音和头条两大产品的底层向量库引擎，能够支持200亿的库容量，面对10万次请求能够在3-5毫秒的延迟内完成。“这可能是国内唯一一家能够支持实时索引建库的知识库”，吴迪表示。

在抖音内部，这项能力被用来，在几毫秒到几十毫秒间，为用户从数十亿乃至上百亿的候选视频内容中，筛选出适合给他推荐的几十条内容。“从百亿个候选里找到Top100，这个能力是抖音的看家本领，（高速精准筛选）这跟企业知识库的底层需求是完全一致的”。

在企业的外挂知识库场景中，在技术上，通常需要对数十万篇文档进行切片、向量化。然后根据指令从数百万个切片中找到最相关的，这些切片经过排序之后进行大模型做总结和摘要，最后输出。在这一个完整流程中，对系统能力的要求与视频推荐系统筛选的要求具备的一致性是——都需要根据输入指令快速而准确地找到对应的内容。吴迪强调，这是许多企业都非常渴望的一种效率。

这三大主要插件之外，企业级AI应用开发平台扣子专业版也对外发布。在扣子可视化灵活编排智能体的能力基础上，扣子专业版提供企业级SLA和多种高级特性，使AI应用更易落地，让企业更专注于通过智能体创新，驱动业务增长。

拐点将至，大模型落地即将迎来流量爆发

大模型向千行百业落地的进程仍刚刚开启，吴迪在采访中坦言，截至目前，大语言模型的调用量级仍然不高，但是到2024年年底或2025年初，将会迎来爆发式的拐点。而拐点到来的必要条件，是许多充满活力的创业公司，或者很多强技术能力、强探索精神的企业已经逐渐找到把大模型用好的感觉了，比如汽车、教育、医疗等等行业的公司。

“现在在我眼中，没有竞争，只有合作和挑战”，他认为，无论是火山引擎还是其他的同赛道公司，在拐点到来前，大家需要一起去面对共同的问题：

• 如何让大模型渗透到千行百业，而不是停留在一些表面的POC（Proof of Concept，概念验证）testing？
• 如何共同将大模型技术推向新的高度？

“这是一个未来五年、十年、十五年的长期旅程。当模型效果、成本、系统这些问题都解决了，剩下的就是千行百业的客户需要针对自己的场景去想，未来的AI时代下，到底会发生什么事了。火山方舟只是能够帮助他们更快、更省地推进这个过程，帮助他们解除一些障碍。”

吴迪表示，在拐点到来前，火山方舟会继续顺应实际需求，在模型效果上取得更好的成绩、在系统上做到更加弹性和稳定、在成本上，进一步帮助企业降低难度，支持企业更加自信地尝试和快速迭代，更加无畏地实验和创新。

© THE END 

作者：念青，ChainCatcher

昨日，Tornado Cash 开发者、31 岁俄罗斯公民 Alexey Pertsev 在荷兰因在加密货币混合器平台上洗钱 22 亿美元被判5 年零 4 个月有期徒刑，Pertsev此前曾被关押八个月。这段时间将从刑期中扣除，剩下四年半的刑期。Pertsev 的律师将有 14 天的时间对法官的决定提出上诉。

行业内普遍认为，此案不仅是 DeFi 监管的分水岭，更会改变加密隐私的进程，对全球开源社区产生“寒蝉效应”，开源软件开发人员被判有罪，更标志着Web3智能合约开发者将受到传统框架法律的约束。

Alexey Pertsev案法官和检察官在判决中表示，“Tornado Cash的本质和功能是一种针对犯罪分子的工具”，“Tornado Cash 不仅仅是智能合约，更像一家公司一样运作”。

去年 8 月，Tornado Cash 联合创始人 Roman Storm和Roman Semenov 被控共谋洗钱罪和一项共谋违反《国际经济紧急权力法》的指控，这两项罪名的最高刑期均为 20 年监禁，此外两人还被指控共谋经营无照经营汇款业务，这项罪名的最高刑期均为 5 年监禁。

目前，Roman Storm 已在美国华盛顿州被捕，Roman Semenov 仍在逃。此外，Roman Storm 的审判定于 9 月 23 日进行。Alexey Pertsev 的判决将直接影响 Storm 的审判的审判结果。

值得一提的是，在昨日Pertsev被判刑后，加密社区仍在为Juicebox上“Free Alexey & Roman”的捐赠基金持续转账，有人留言“privacy is not a crime”“code is speech”“defend freedom”“XX stands with privacy and open-source public goods”等来为Tornado Cash的开发者以及“加密精神”声援。

Tornado Cash 案时间线

Tornado Cash上线于2019年8月，三位创始人分别是 Roman Storm、Roman Semenov 和 Alexey Pertsev，其主要创始团队为zkSNARK研究者，其中Alexey Pertsev还是安全审计公司Peppersec的核心成员。

以下为Tornado Cash案件相关事件的完整时间表（编译自 DL News，ChainCatcher有补充和改动）：

2019年

8 月 6 日：Tornado Cash 上线，使用户能够“100% 匿名地发送以太坊加密货币”。

9 月 13 日：美国外国资产控制办公室 （OFAC）对包括 Lazarus Group 在内的朝鲜网络组织实施制裁。

2020年

5 月 10 日：Tornado Cash完成了“可信设置仪式”将所有存款池的管理权限燃烧并更新了智能合约，Tornado Cash协议变成了不受任何一方控制的永久自动执行代码，Tornado Cash将其称为“世界上最大的可信设置仪式”共有1114人参与。

6 月 4 日：Tornado Cash 开发人员部署了一个可选的合规工具，供用户选择在需要时透露其交易历史记录。

9 月 25 日：黑客从 KuCoin 交易所窃取了价值 2.75 亿美元的加密货币。这是荷兰检察官与 Tornado Cash 连接的最大黑客事件之一。

2022年

3 月 23 日：Axie Infinity Ronin 侧链桥因黑客攻击而损失约 6.25 亿美元。这是迄今为止最大的加密货币黑客攻击之一，犯罪分子通过 Tornado Cash 洗钱。

5 月 6 日：OFAC制裁朝鲜网络犯罪团伙使用的第一个虚拟货币混合器 Blender。

6 月 24 日：Lazarus Group攻击了Harmony Horizon 桥，价值近 1 亿美元的被盗加密货币通过 Tornado Cash 传输。据荷兰检察官称，这是另一起利用Tornado Cash洗钱的重大黑客攻击。

8 月 8 日：OFAC对 Tornado Cash实施制裁，因其被用于洗钱 70 亿美元。

8 月 9 日：Tornado Cash网站已被关闭，项目代码存储库已从GitHub中删除，联合创始人Roman Semenov的GitHub帐户被暂停

8 月 10 日：Alexey Pertsev在荷兰被捕并在没有公开指控的情况下入狱。

10 月 12 日：关注加密货币政策问题的非盈利机构Coin Center就 Tornado Cash 制裁起诉OFAC。

11 月 22 日：荷兰检察官在法庭听证会上首次披露指控。

2023年

4 月 20 日：Alexey Pertsev出狱待审。

8 月 23 日：美国司法部指控Tornado Cash 开发者 Roman Storm，并制裁开发者 Roman Semenov。

8月25日，Tornado Cash 联合创始人 Roman Storm 已获保释。

12月7日，币安下架Tornado Cash 原生代币 TORN。

2024年

3 月 25 日至 26 日：Alexey Pertsev在荷兰斯海尔托亨博斯市接受为期两天的审判。

4 月 5 日：美国贸易协会向法院提交了为Roman Storm辩护的简报，并处理了针对他的每项指控。

5月14日：Alexey Pertsev 因洗钱罪被判处 64 个月的监禁。

9 月 23 日：Roman Storm将在美国接受审判。

审判的争议与焦点：智能合约开发者的身份边界

Tornado Cash案件审判的焦点在于，现行的反洗钱法是否适用于区块链/加密金融平台。

在审判期间，Pertsev 的辩护律师 Keith Cheng 表示，包括Tornado Cash开发者在内的任何人都无法阻止其他人使用开源智能合约代码。某个智能合约的贡献者是一个去中心化的组织，而不是像传统公司那样的单一负责人。

去年8月，Roman Storm 和 Roman Semenov 被美国起诉后，Coin Center（Coin Center 是关注加密货币政策问题的非盈利机构，从事研究与教育政策制定，并倡导监管方面对加密技术采取合理的监管方略）发文声援，表示Tornado Cash 最新指控与金融犯罪指导局 FinCEN 文件相互矛盾。

其核心观点认为，Tornado Cash开发者仅提供了“单纯的软件开发或通信服务”，并未从事“代表公众转移资金的业务”，司法机构不应将“服务提供者”与“资金转移者身份”混淆，Tornado Cash 对智能合约唯一的控制权是改变其中与隐私功能相关的密码学逻辑，而并不具备任何实际查看或移动用户资金的能力。

今年4月初，Coin Center在就Roman Storm在纽约南区正在进行的刑事案件中提交的法庭之友陈述中表示，希望法院删去检方对Tornado Cash的模糊和有偏见的描述，开源软件开发人员无法控制其他碰巧使用其工具的人的行为，而Tornado Cash代码发布受到美国宪法的明确保护。此外，Coin Center还认为此案的起诉陈述和判决“与从事单纯的开源软件开发、发布代码和演讲工作的人”利益攸关，并呼吁保障美国自由开发和发布软件的权利。

Roman Storm的律师在 3月底向美国纽约南区地方法院提交的文件中还提到，Tornado Cash 作为一个非托管的智能合约，用户对此全权拥有其资产的控制权，而无需依赖任何服务提供商或第三方委托持有。编写程式属于言论自由的范畴，因此受到美国宪法第一修正案的保护。

但在14日的审判中，法庭拒绝了这样的观点，他们认为，任何一种技术创新都不能超越防止平台帮助犯罪分子和受制裁实体隐瞒被盗资产来源的法律义务。检察官 Martine Boerlage 对Tornado Cash 的最终定性为其“不仅仅是智能合约，它像一家公司一样运作”。

美国司法部重申，其起诉书与 Tornado Cash 的计算机代码是否具有言论自由或是否受第一修正案宪法保护无关，被告并未因发布计算机代码而受到起诉，而是因利用它来促进有利可图的非法业务而受到起诉。

司法部进一步解释说，银行使用计算机代码来处理金融交易。如果该代码执行法律定义的货币传输器的工作，那么该代码不仅仅是言论自由，而是人们须确保以不违反货币传输法的方式实现的计算机代码。Tornado Cash 既是代码的一部分，也是言论的一部分，还是商业的一部分，整体而言，它是人类的创造物。Storm 不仅仅发布了代码；他经营了一个企业，多年来都做出了运营决策。Tornado Cash 的协议并不等同于 Tornado Cash 的业务。仅仅因为 Tornado Cash 有一些开源代码，并不意味着 Roman Storm 作为 Tornado Cash 业务所有者涉及该代码的所有行为都受到宪法保护。

请愿、抗议与捐赠

加密货币律师 David Lesperance 曾表示，从法律上讲，Alexey Pertsev 的案件对 DeFi 的未来比针对 SBF 和Do Kwon 的简单欺诈案件或赵长鹏未能制定所需的反洗钱协议更重要。正因为Tornado Cash 案件极具代表性，三位创始人得到了各种形式的支持。

加密社区特别是开发者群体的对 Pertsev 的被捕表示强烈抗议，除了各种社交媒体上的请愿和声援，此前荷兰法院外还有人发放支持 Alexey Pertsev 的海报。

22年8月，一些匿名加密用户甚至通过投毒”式攻击来抗议，通Tornado Cash将少量ETH打给了知名加密人物的地址，以此来表示对美国政府此轮制裁的不满。神鱼、孙宇晨、Coinbase CEO Brian Armstrong、艺术家Beeple等多位知名KOL被“投毒”。

此外，有加密社区成员于今年1月22日在众筹平台 Juicebox发起名为“Free Alexey & Roman”的捐赠活动，作为帮助 Tornado Cash 联创 Roman Storm 及开发者 Alexey Pertsev 免于法律惩戒的法律辩护基金。截至发稿前，该基金共收到834笔捐款，总金额达548.49ETH，约合160万美元。以太坊联合创始人 Vitalik、加密交易平台 Kraken 联合创始人 Jesse Powell 等都为基金提供了捐赠。

值得一提的是，在昨日Pertsev被判刑后，捐款的笔数突然持续增加，也有人留言“privacy is not a crime”“code is speech”“defend freedom”“XX stands with privacy and open-source public goods”等来为Tornado Cash的开发者以及“加密精神”声援。

 硬币的另一面

尽管Pertsev 本人一直强调自己只是一名程序员，没有任何犯罪意图。他对犯罪分子使用龙卷风现金隐瞒非法所得感到“失望”，但他对此无能为力。

法官在向Pertsev追问他是否足够严肃地对待犯罪行为时，调出了Pertsev 与联合开发者 Roman Storm 和 Roman Semonov 的群聊记录，Pertsev 对价值 6.25 亿美元的 Axie Infinity Ronin Bridge 遭到黑客攻击的消息做出了“哈哈”的回应。但Pertsev表示，这并不意味着他认为这很有趣，而是自己表达惊讶时的习惯。

此外，一个客观事实是，Tornado Cash从被制裁至今，仍是最大加密混币器。黑客和协议攻击者仍在不停利用这个工具进行洗钱。

一方面，Tornado Cash开发者的判决将使技术发展和隐私的未来受到威胁。另一方面，现实是，从法律的角度而言，技术不可能是中立，其必然建立在人与人之间的关系之上。