Rebellions寻求成为首家大规模生产人工智能芯片以支持语言模型的韩国初创企业

在位于首尔南部的一座办公大楼里，一打芯片并排放在架子上，每个芯片旁边都有自己的电风扇来降温。

这些名为ATOM的芯片是韩国初创企业Rebellions开发的最新神经处理单元（NPU），目标是拥有多达70亿个参数的人工智能模型。它们的性能正在进行测试，并与同一楼层上另一个房间里的几个Nvidia的A100 GPU进行比较。

作为下一代人工智能芯片，NPU是针对同时进行矩阵运算进行优化的处理器，意味着它们在深度学习方面比通用中央处理单元（CPU）和图形处理单元（GPU）更进一步。

2020年由五名韩国工程师共同创立的无晶圆厂人工智能芯片初创企业Rebellions被认为是与Nvidia在该领域匹敌或竞争的最佳希望。

Rebellions首席执行官兼联合创始人朴成炫（Park Sung-hyun）在本周早些时候接受《韩国时报》采访时表示，ATOM将于2024年上半年利用三星的5纳米技术进行大规模生产，这将是韩国芯片工业的重要里程碑，因为ATOM将是第一个在大规模生产水平上支持语言模型的国产芯片。

“我们在AI推理方面比Nvidia的GPU更节能，”朴成炫说道，指的是通过训练后的人工智能模型运行实时数据以进行预测或解决任务的过程。他补充说，ATOM在语言模型推理基准测试中的延迟只有Nvidia A2的一半，功耗效率是Nvidia A100的五倍。

从视觉上看，ATOM芯片只需要风扇降温，而Nvidia芯片需要在空调环境中运行——这意味着更多的功耗和更高的运营成本。

Rebellions的崛起正值全球半导体行业为AI芯片展开激烈竞争之际，这受到了openAI的ChatGPT的普及以及对Nvidia GPU的需求不断增长的推动。

韩国以其在内存芯片制造业中的地位而闻名，正准备在这个蓬勃发展的市场上获得牢固的立足点。例如，三星电子正在与台积电竞争AI芯片制造业的主导地位，而韩国政府则旨在到2030年将国内数据中心中本地开发的AI芯片份额增加到80％。

Rebellions已经获得了韩国科技行业几个最大公司的支持，包括三星、KT和Kakao。

今年1月，Rebellions完成了由KT领投的最新一轮融资，总额达到1.24亿美元，迄今为止，KT在这家初创企业上已经投资了超过5000万美元。这将Rebellions的估值提高到6.5亿美元，成为韩国资金最多的芯片初创企业。

朴表示，进入大规模生产将对公司的收入产生重大推动，经过多年的原型阶段。根据朴的说法，KT，韩国第二大电信运营商和韩国最大的数据中心公司，将成为Rebellions在开始大规模生产ATOM后的首个客户。朴认为，电信公司是AI芯片最理想的客户。

“AI行业的未来将成为基础设施游戏。电信公司愿意向建立数据中心投入大量资金，”他说道。

朴成炫还希望与韩国最大的数据中心公司的合作伙伴关系将成为其全球扩张的参考，尤其是在美国市场。朴成炫表示，该公司已与一些美国主要的超大规模云服务提供商进行了谈判，例如IBM。

朴成炫于2014年从麻省理工学院获得电气工程和计算机科学博士学位，曾在美国芯片行业工作了六年，曾在三星的美国研究部门、英特尔和SpaceX工作过。

尽管在美国芯片行业有着丰富的经验，但朴成炫认为在韩国创办半导体公司有更好的机会。“在半导体硬件生态系统中，亚洲将是下一个大事件，”他说道。“韩国和台湾正在迎头赶上。”

朴成炫于2020年回到祖国，并与另一位在美国具有行业背景的韩国人工智能芯片专家吴进旭（Oh Jin-wook）以及其他联合创始人一起创立了Rebellions。

对于朴成炫来说，这不是一个容易的决定，因为当时他在美国的行业网络大部分在美国。Rebellions最初的团队成员包括来自IBM、英特尔和苹果以及三星美国的人物。

现在，它拥有大约120名员工，其中近100名是工程师。随着团队的扩大，它吸引了本地背景的专家，其中来自韩国大型半导体公司的员工占据了近70％，根据朴的说法。

Rebellions在2021年推出了名为ION的第一款产品，使用台积电制造的芯片，针对金融行业的AI任务。然后，该公司决定重新将重点放在AI模型的芯片上，因为与金融公司相比，数据中心公司的需求更高。

三星，韩国最大的芯片制造商，是Rebellions的ATOM的制造合作伙伴。去年10月，这两家公司加深了他们的合作关系，宣布计划在ATOM之后共同开发REBEL，这是该初创企业的下一代NPU，用于更大参数规模的LLMs，并与Nvidia的顶级GPU H200进行比较。

朴成炫对REBEL寄予更大的希望，该芯片预计将在今年下半年完成开发并开始大规模生产，采用三星的4纳米制造工艺。

随着生成式人工智能市场的不断扩大，朴成炫预计推理芯片的需求将成为一个关键增长点。

“AI训练流量取决于开发人员的数量，而AI推理流量随着最终用户的数量增加而增加，”朴成炫说道。“目前，训练和推理市场几乎占据一半，但未来推理流量将大幅增加。”

在两年半的时间里，朴成炫看到了该公司在韩国LLM市场中的份额增长了30％，在推理任务方面占据了“至少3到5％”的份额。根据分析师的估计，目前，据估计，Nvidia在全球AI芯片市场的份额高达90％。