# Dataflow **URL:** https://1nfinite.ai/c/dataflow/19.md [Latest](https://1nfinite.ai/latest.md) · [Categories](https://1nfinite.ai/categories.md) · [Tags](https://1nfinite.ai/tags.md) --- ## [About the Dataflow category](https://1nfinite.ai/t/about-the-dataflow-category/43)
**Author:** [@肠哒哒](https://1nfinite.ai/u/%E8%82%A0%E5%93%92%E5%93%92)\ **Replies:** 0
Dataflow computing is a software paradigm based on the idea of representing computations as a directed graph, where nodes are computations and data flow along the edges. Dataflow can also be called stream processing or … --- ## [深入解析 TT-BUDA 架构及编译执行过程](https://1nfinite.ai/t/tt-buda/106)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 2\ **Last updated:** [August 13, 2025, 8:15am UTC](https://1nfinite.ai/t/tt-buda/106 "2025-08-13T08:15:20Z")
引言 前文（探索 Tenstorrent 的 AI 开发软件栈：TT-BUDA）介绍了tt-buda的整体架构和frontend部分，本文主要介绍Netlist和backend部分。如下图所示，右半部分内容，重点解析Netlist格式，以及backend如何根据Netlist生成可执行程序和路由文件。 图 1：tt-buda software stack overview（来源：Tenstorrent） Netlist分析 N… --- ## [Dataflow 芯片加速 RTL 仿真：CIRCT 项目总览](https://1nfinite.ai/t/dataflow-rtl-circt/137)
**Author:** [@hailong](https://1nfinite.ai/u/hailong)\ **Replies:** 2\ **Last updated:** [October 29, 2024, 5:36am UTC](https://1nfinite.ai/t/dataflow-rtl-circt/137 "2024-10-29T05:36:01Z")
引言 在现代芯片设计中，随着设计的复杂性不断增加，为确保设计在投入生产前达到预期的功能和性能标准，降低后期修复成本和风险，硬件仿真扮演着至关重要的角色。 为了打破传统处理器内存墙的问题和进一步缩短设计周期和降低成本，本文提出了一种新的硬件仿真思路：使用Dataflow芯片加速RTL（Register Transfer Level）仿真。为了验证这种新的仿真思路，正文中会先普及一些必要的知识背景，如CIRCT项目概述、相较于传统的硬件仿… --- ## [探索 TT-Metal：Tenstorrent 的 low-level 开发软件栈](https://1nfinite.ai/t/tt-metal-tenstorrent-low-level/117)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 0\ **Last updated:** [July 18, 2024, 7:17am UTC](https://1nfinite.ai/t/tt-metal-tenstorrent-low-level/117 "2024-07-18T07:17:44Z")
介绍 TT-Metal 全称 TT Metalium，是一个面向异构 CPU 和 Tenstorrent 设备集合的底层软件平台，它使用户能够直接访问 RISC-V 处理器、片上网络（NoC），以及 Tensix Core 中的矩阵和向量计算引擎。对于那些希望定制模型、开发新模型，甚至执行非机器学习代码的开发人员来说，TT-Metal 提供了极大的灵活性。平台中没有任何黑盒操作、加密的 API 或隐藏的功能，确保了开发过程的透明性和可控… --- ## [Tenstorrent partition部分的详细算法](https://1nfinite.ai/t/tenstorrent-partition/124)
**Author:** [@MbjYjbpivj](https://1nfinite.ai/u/MbjYjbpivj)\ **Replies:** 3\ **Last updated:** [August 16, 2024, 2:19am UTC](https://1nfinite.ai/t/tenstorrent-partition/124 "2024-08-16T02:19:23Z")
有没有 TT partition部分的详细算法，如何将网络模型的各个子图划分到各个core上计算，子图是根据什么算法划分的？ --- ## [深入TT-MLIR: Tenstorrent的mid-level编译器软件栈](https://1nfinite.ai/t/tt-mlir-tenstorrent-mid-level/125)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 0\ **Last updated:** [August 14, 2024, 8:52am UTC](https://1nfinite.ai/t/tt-mlir-tenstorrent-mid-level/125 "2024-08-14T08:52:26Z")
介绍 TT-MLIR 是一个为 Tenstorrent AI 加速卡设计的编译器项目。它基于 MLIR 项目，采用多层次中间表示（IR）方言，实现从高层抽象到底层硬件指令的平滑转换，MLIR 的模块化设计也使得其更易于维护和扩展。 TT-MLIR 将考虑兼容主流 AI 框架，如 OpenXLA 和 PyTorch（进行中），目前能够生成 flatbuffer 格式文件和 c 语言文件，其中 flatbuffer 文件将在 TT-Bud… --- ## [预告 | Dataflow 芯片和编译器从入门到进阶](https://1nfinite.ai/t/dataflow/88)
**Author:** [@小松鼠](https://1nfinite.ai/u/%E5%B0%8F%E6%9D%BE%E9%BC%A0)\ **Replies:** 4\ **Last updated:** [August 5, 2024, 1:44am UTC](https://1nfinite.ai/t/dataflow/88 "2024-08-05T01:44:04Z")
大家好！这里是 1nfinite 无限智域社区的第一个技术分享系列分享活动 — “Dataflow 芯片和编译器从入门到进阶”。本系列共 11 期，将由浅入深探讨 Dataflow 芯片和编译器的前沿技术，无论是小白还是大神，相信都能从这个系列中获得启发和收获。 预告 主题 第 1 期 探索 Dataflow 架构：从理论到芯片实现 第 2 期 Tenstorrent 数据流芯片 Grayskull 和 Wormh… --- ## [Tenstorrent 性能分析工具：profiler 和 benchmark](https://1nfinite.ai/t/tenstorrent-profiler-benchmark/120)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 0\ **Last updated:** [July 31, 2024, 6:25am UTC](https://1nfinite.ai/t/tenstorrent-profiler-benchmark/120 "2024-07-31T06:25:04Z")
介绍 本文将介绍在开发或使用 TT-Buda 和 TT-Metal 时可用的性能分析工具 – profiler 与 benchmark 工具。它们能帮助用户了解软件在硬件上的运行状态，以便进行软件分析和优化。 Profiler Tenstorrent 的 Profiler 分为两个部分：host 端和 device 端。Host 端使用了开源软件 Tracy，主要用于分析 C++ 和 Python 程序，在此不作详细介绍，感兴趣的读者… --- ## [深入 TT-Metal：自定义 Kernel 与跨核数据传输同步](https://1nfinite.ai/t/tt-metal-kernel/118)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 0\ **Last updated:** [July 24, 2024, 6:10am UTC](https://1nfinite.ai/t/tt-metal-kernel/118 "2024-07-24T06:10:40Z")
介绍 本文主要探讨 TT-Metal 框架的开发细节，重点包括自定义算子和跨核数据传输同步。为了更好地理解本文内容，读者需要具备一些前置知识，例如 Tenstorrent 硬件的基本原理和 TT-Metal 框架的基本组成结构。建议在阅读本文之前先阅读相关基础资料 Tenstorrent数据流芯片Grayskull 和 Wormhole解析 探索 TT-Metal：Tenstorrent 的 low-level 开发软件栈。 跨核数据… --- ## [探索数据流芯片的应用领域](https://1nfinite.ai/t/topic/114)
**Author:** [@小松鼠](https://1nfinite.ai/u/%E5%B0%8F%E6%9D%BE%E9%BC%A0)\ **Replies:** 0\ **Last updated:** [July 17, 2024, 2:23am UTC](https://1nfinite.ai/t/topic/114 "2024-07-17T02:23:49Z")
背景 在探索 Dataflow 架构：从理论到芯片实现中我们了解了冯诺伊曼架构和数据流架构的主要组成，同时在执行模型，并行处理能力和能效等方面对比了两种架构的优劣势。而在Tenstorrent 数据流芯片 Grayskull 和 Wormhole 解析中我们了解了 Tenstorrent 数据流芯片 Grayskull 和 Wormhole 的具体硬件实现，知道了为了满足人工智能日益增长的计算需求，解决 AI 大模型应用中的内存墙问题，… --- ## [探索图编译器：实现高效的图计算](https://1nfinite.ai/t/topic/110)
**Author:** [@anqi](https://1nfinite.ai/u/anqi)\ **Replies:** 0\ **Last updated:** [July 10, 2024, 9:06am UTC](https://1nfinite.ai/t/topic/110 "2024-07-10T09:06:40Z")
前言 在当前的数字化时代，图编译器（Graph Compiler）在AI、高性能计算等领域大放异彩，成为支撑算力根基的关键技术。图编译器通过把计算任务表示为计算图（Computational Graph），同时利用MLIR编译器框架将其分析并优化，将高层次的代码转换为图结构并部署在相应硬件平台，从而显著提升计算性能和效率。结合往期对Tenstorrent RISC-V 数据流芯片及相关软件栈的介绍，本文将系统阐述针对数据流芯片加速的图编… --- ## [算子的从上而下映射：从算子到自定义指令](https://1nfinite.ai/t/topic/108)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 0\ **Last updated:** [June 26, 2024, 10:08am UTC](https://1nfinite.ai/t/topic/108 "2024-06-26T10:08:20Z")
前言 算子是深度学习计算图中的基本单元，负责执行各种数学和逻辑操作。在深度学习系统中，算子的实现对性能和效率有着至关重要的影响。为了解决多种硬件平台上的兼容性问题，Tenstorrent 算子的实现分为四个层次：用户层算子、基本算子、高层次算子（High-Level Kernel, HLK）和低层次算子（Low-Level Kernel, LLK）。本文旨在通过对这四个层次的详细解析，帮助读者理解 Tenstorrent 算子从设计到执… --- ## [探索 Tenstorrent 的 AI 开发软件栈：TT-BUDA](https://1nfinite.ai/t/tenstorrent-ai-tt-buda/102)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 0\ **Last updated:** [June 13, 2024, 8:43am UTC](https://1nfinite.ai/t/tenstorrent-ai-tt-buda/102 "2024-06-13T08:43:48Z")
引言 TT-Buda 是一个高层次软件栈，它可以兼容各种人工智能框架，并采用自顶向下的方式，生成可执行文件以便在 Tenstorrent 硬件上运行人工智能模型。 整体架构 整体架构分析 AI模型在tt-buda架构下的编译执行过程如下图所示： 图 1：tt-buda 编译执行过程（来源：Tenstorrent） 流程分三个部分： 根据AI模型生成计算图 计算图转换成Netlist（网表） Netlist映… --- ## [Tenstorrent数据流芯片Grayskull 和 Wormhole解析](https://1nfinite.ai/t/tenstorrent-grayskull-wormhole/100)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 0\ **Last updated:** [June 5, 2024, 5:15am UTC](https://1nfinite.ai/t/tenstorrent-grayskull-wormhole/100 "2024-06-05T05:15:15Z")
概述 Tenstorrent成立于2016年，总部位于加拿大多伦多，致力于满足人工智能快速增长的计算需求，拥有有趣的硬件架构以及软件堆栈。由于其CEO是传奇人物Jim Keller而备受关注。 产品路线图 目前，Tenstorrent 已推出两款 AI 加速器产品，Grayskull 和 Wormhole，并计划推出两款 CPU+ML 解决方案产品，Blackhole 和 Grendel。这些产品将为用户提供多样化的选择，以满足不同的… --- ## [探索Dataflow架构：从理论到芯片实现](https://1nfinite.ai/t/dataflow/97)
**Author:** [@saturn](https://1nfinite.ai/u/saturn)\ **Replies:** 1\ **Last updated:** [May 30, 2024, 5:35am UTC](https://1nfinite.ai/t/dataflow/97 "2024-05-30T05:35:40Z")
引言 Dataflow架构 Dataflow架构是一种计算架构，它通过数据流动来驱动计算过程，而非常规指令流动。与传统的冯·诺依曼架构不同，Dataflow架构强调并行(流水)处理和数据驱动的执行模型。 定义与基本概念：在Dataflow架构中，程序被表示为一个数据流图(Dataflow Graph)， 其中节点代表计算操作，边代表数据依赖关系。每个节点在其所有输入数据准备好后立即执行，并将结果传递给下游节点。 Datafl…