说到如何设计一个AI加速器，很多工程师都会给出不同的答案，但归根结底还是要在一个先进的工艺芯片上排列组合几十亿个晶体管。然而，目前超大规模AI推理仍然面临着许多挑战，如成本和复杂性高，传统架构下的性能、功耗和可编程性不能不能满足超大规模的要求。
初创公司Esperanto作为去年才开始腾飞的初创公司，计划用RISC-V来解决这个问题。世界语成立于2014年，其董事长戴夫迪策尔(Dave Ditzel)曾在英特尔负责下一代微处理器架构的设计。
世界语的工作方向是基于开放架构RISC-V，开发高性能、高效率的计算解决方案。为此，他们构建了ET-SoC-1，一个千核RISC-V处理器，这也是他们开发的第一个AI加速器。
ET-SoC-1/EsperantoET-SoC-1的名字暗示它不是传统的SoC，而是一个芯片上的超级计算机适用于超大规模数据中心。它包含近1100个RISC-V内核和近240亿个晶体管。
需要指出的是，ET-SoC-1是一个AI推理加速器，而不是训练加速器。据首席执行官阿特斯威夫特介绍，该芯片采用TSMC 7nm工艺，并且在特定任务下能耗效率可以提升100倍。
在其他关键任务上，ET-SoC-1 的性能远高于传统的CPU加GPU方案。例如，在模拟测试中，当它用于推荐网络时，其性能提高了50倍，在图像分类中，其性能提高了30倍。
虽然这些暂时只是纸面测试参数，但这样的性能和功耗无疑能给AI客户带来巨大的吸引力。据了解，这款芯片直到2021年第二季度才正式发布，预计2022年初开始量产。
这是因为世界语在验证上花了很多时间。作为一家初创公司，世界语采用了架构、硬件、软件联合设计的方式，这样既节省了时间，又能保持规格的不断变化。
因此，世界语在验证团队上投入了大量的精力，并率先采用了新的ZeBu FPGA仿真方案，以期减少检错和调试的时间。ET-SoC-1芯片架构/EsperantoET-SoC-1采用了Esperanto开发的两种RISC-V核，即4个ET-Maxion(超标量乱序核)和1089 ET-Minion(顺序多线程核)。
ET-Maxion是一个可以运行Linux的大核心，核心频率超过2GHz。用作ET-SoC-1的控制CPU，ET-Minion用于矩阵乘法等重机器学习的数据处理。
作为一个核心频率超过2GHz的10级流水线RISC-V核心，ET-Maxion原本是伯克利大学Boom V2开源核心的一个分支，但世界语进行了大刀阔斧的改进。在SPEC2006测试下，其性能已经超越Cortex-A57，但仍逊于SiFive最近公布的Cortex-A72和P550。
虽然是小核，但ET-Minion也是64位RISC-V核。在ET-SoC-1中，32个ET-Minions和4MB L2 SRAM形成Minion Shire 。
总共34个郡通过网格连接在一起，额外的ET-minion用作服务处理器。世界语用一千多个ET-Minion实现了强大的浮点性能。
一些传统加速器只支持INT8运算，而ET-SoC-1在FP16或FP32上可以表现出不错的优势。冰川点v2/世界语Art Swift带六个ET-SOC-1提到，脸书推出的开源AI板冰川点v2可以携带六个ET-SOC-1，这样就可以直接连接到现有的开源计算项目(OCP)设备上。
此卡包含6558个RISC-V内核和192GB LPDDR4X DRAM，带宽822GB/s，功耗低。估计这款设计板的峰值性能可以达到800 TOPS(INT8)以上。
在软件层面，世界语还提供了对C、Pytorch、TensorFlow等常用机器学习框架的支持。机器学习模型只需要使用脸书就可以在多个ET-SoC-1芯片上运行的开源编译器。
结论RISC-V虽然在传统CPU和GPU市场还没有完全崛起，但是凭借其独特的优势，已经在AI加速方面迅速领先。这种千核设计实际上已经应用于Arm等架构，但是很多数据中心和超级计算机还在尝试使用RISC-V作为加速器。
RISC-V凭借其开放性、扩展性和自主性，没有像Arm那样从最底层到最高层发展市场，而是低端和高端都抓到了。一旦消费市场开始普及RISC-V生态，那么RISC-V就有希望在整个市场与Arm争霸。
标签：RISCET-SoC世界语