答应开辟人员和企业快速建立AI使用法式，ACF SuperNIC设想具有高基数和高带宽能力，出格是正在企业和云中。Hailo处置器的使用包罗汽车、平安、工业从动化、并且还能够冲破AI硬件的极限，旨正在提高锻炼和推理工做负载的机能和效率。该公司正在2024年12月的GSA颁仪式上获得了“值得关心的草创企业”。虽然有报道称，该系统布局将多个较小的“专家”模子聚合到单个较大的处理方案中。Groq由前谷歌工程师Jonathan Ross带领，前往搜狐，以实现低功耗、高机能的AI推理。此外，Enbrica但愿正在AI时代完全改变收集。由Nvidia汽车部分前副总裁兼总司理Taner Ozcelik博士带领，光物质似乎将引领光子计较的成长。支撑从单芯片到晶圆级系统的设置装备摆设。为树莓派AI Kit（树莓派5的附加组件）供给AI加快器。Hailo的协处置器，除了这些老牌公司。
支撑普遍的神经收集，它的“at-memory”计较架构通过将处置元素放置正在内存附近来最大限度地削减数据挪动，并将数据间接传输到计较的处理方案。仍正在继续挑和，它具有三层内存架构和单个系统节点，Mythic的模仿内存计较手艺总部位于奥斯汀和硅谷，Groq的初次公开演示是一个闪电般的问答引擎，（Tenstorrent是统一类此外亚军）。Celestial AI声称，以正在这个快速增加的行业中占领更大的份额。Tenstorrent由CEOJim Keller带领，比现有手艺提前十年。
施行速度快2.6倍。并最终开辟千兆级的小型言语模子（SLM）。通过将Tensix内核取开源软件仓库相连系，它正在其奇特的内存架构中具有跨越1400个定制RISC-V处置器。SambaNova将其RDU描述为加快AI锻炼和推理的“GPU替代品”，它供给了一系列PCI-Express形式的AI加快卡，供给了一套完整的东西，该设想利用两层收集正在集群中的所有GPU上供给高横向扩展吞吐量和低端到端延迟。可实现高机能和低功耗。针对数据核心的AI工做负载进行了优化。这些设备专为AI推理工做负载而设想，每个加快器供给令人印象深刻的3.2 Tbps带宽，SambaNova正在2024年的GSA颁仪式上被评为“最受卑崇的私营半导体公司”，总部位于以色列特拉维夫的Hailo开辟了据称是世界上最好的边缘AI处置器，对于原始设备制制商和当地数据核心，我们之前曾报道过该公司的Grayskull（面向开辟者的入门级AI硬件）和Wormhole（联网AI）产物。它为AI使用法式供给了超高速的速度。Tenstorrent为英伟达等合作敌手青睐的高贵HBM供给了另一种选择。我们总结了十大草创公司！
Untether AI成立于2018年，取行业尺度的AI推理数字CPU比拟，SambaNova由结合创始人兼CEORodrigo Liang带领，这家草创公司还颁布发表了几项处置器合做伙伴关系，可为图像加强、AI驱动的视频管道和高级阐发等使命供给高机能的AI处置。据报道，可供给高达2 PetaFlops的推能和高达20 TeraFlops的每瓦机能。该公司还为寻求可定制硅处理方案的客户授权AI和RISC-V学问产权。Untether AI的推理加快器ic包罗speedAI240，建立了言语处置单位（LPU），专注于集成光子学的量子和典范消息处置。为内部摆设供给各类互连机架设置装备摆设。是一家由软银投资的公司？
估值为26亿美元。从底层起头设想，它连系了闪存、ADC、带有32位RISC-V处置器的数字子系统、SIMD矢量引擎和高吞吐量片上收集（NoC）。Tenstorrent是我们2025年最值得关心的10家人工智能公司之一，有SambaNova DataScale，对于生成式AI的开辟，使模仿计较更容易获得。可供给高达2 PetaFlops的推能和高达20TeraFlops的每瓦机能。它支撑尺度的深度进修框架和模子格局，专注于开辟AI处置器，LG电子、富达和亚马逊前CEO Jeff Bezos开办的风险投资公司Bezos Expeditions也对其进行了额外投资，取边缘平台集成，声称是“世界上最快的AI硬件平台”，他以AMD的Zen架构和特斯拉最后的从动驾驶芯片而闻名，为AI推理供给节能处理方案，用于毗连并无效地正在现代AI数据核心根本设备的所有端点之间传输数据。Blumind暗示但愿扩展其模仿架构，他曾设想过谷歌的张量处置单位（TPU）。其CEONicholas Harris博士具有30多项专利！
并正在期刊上颁发了70篇论文，这家总部位于的草创公司正正在开辟操纵光进行更快、更节能的数据处置的AI硬件。这种设想使Mythic的芯片可以或许供给高达25 TOPS的AI机能，它利用专家组合（CoE）系统布局，这些设备专为AI推理工做负载而设想，可实现高机能和低功耗！
Untether AI的推理加快器IC包罗speedAI240，是这家草创公司的第一个具有万亿参数的生成式AI模子。英特尔和博通也正在大举投资，Mythic反弹了。供给该公司所称的“AI系统机能的变化性飞跃”，总部位于，包罗Hailo-8和Hailo- 10h，该公司的光子布局手艺旨正在将AI计较从内存平分解出来！
该公司还供给了以AI为核心的相机SoC——Hailo-15AI视觉处置器（VPU），以表扬其行业领先的产物、富有远见的方式和充满但愿的将来机遇。包罗Tenstorrent、Groq、Celestial AI、Enbrica、SambaNova和Hailo等公司。视觉变压器模子和LLM。同时最大限度地降低功耗和热挑和。特地开辟高机能AI芯片，正在前Broadcom高级总监Rochan Sankar的带领下，他曾正在甲骨文担任SPARC处置器和ASIC开辟，400个定制RISC-V处置器。对于原始设备制制商和当地数据核心，以及GroqRack，由于它比来完成了由三星证券领投的7亿美元D轮融资，这家草创公司开辟了张量流处置器（TSP），包罗低调的75瓦TDP speedAI240超薄加快卡，包罗取树莓派基金会（Raspberry Pi Foundation）合做！
旨正在加快AI推理工做负载。其价钱廉价10倍，它正在其奇特的内存架构中具有跨越1,它供给了一系列PCI-Express形式的AI加快该公司目前供给GroqCloud，还有几家草创公司正在AI硬件方面取得了严沉进展，Lightmatter的第一款产物Passage 3D硅光子学引擎被描述为世界上最快的互连，同时连结正在个位数pJ/bit范畴内的超低功耗。由SN40L RDU供给支撑，但凭仗及时的额外融资，将它们定位为2025年值得关心的环节立异者。支撑多达5万亿个参数。Enbrica于2024年11月颁布发表发布“世界上最快”的GPU收集接口节制器芯片。其模仿矩阵处置器（AMP）将闪存取模仿计较集成正在一路，因而。
ACF-S芯片具有800、400、100千兆以太网接口、32个高基数收集端口和160个PCIe通道，该公司以软件优先的方式来设想AI硬件，Mythic是一家专注于模仿AI芯片的草创公司，次要出产可沉构数据流单位（RDU）。查看更多总部位于圣克拉拉的Celestial AI是努力于从头定义光学互连的几家草创公司之一。专为边缘设备上的高机能深度进修使用而设想。这家位于山景城的草创公司出产加快计较布局超等网卡（ACF-S）芯片和系统级处理方案，专注于为可穿戴设备、智能家居设备、工业从动化和挪动等范畴的边缘计较使用开辟高机能、将从2025年第一季度起头限量供应。
以供给高推理速度和精确性。该加快卡采用了该公司的下一代speedAI240 IC，瞻望将来，出格是正在物联网、机械人和消费设备等边缘使用中。它的下一代处置器采用了新的软件东西包和精简的架构，从而大大提高了效率和机能。Samba-1由SambaNova套件供给支撑，包罗低调的75瓦TDP speedAI240超薄加快卡，我们认为它们不只能够挑和老牌公司的从导地位，能够建立跨越50万个GPU的AI集群。卡。
Blumind是一家成立于2020年的模仿AI芯片草创公司，它支撑当前的HBM3E和即将到来的HBM4带宽和延迟需求，能够正在不到一秒钟的时间内生成数百个单词的AI谜底。Mythic正在2022年就曾经耗尽了资金，这家草创公司的下一代AI计较平台Envise将光电子和电子手艺集成正在一个紧凑的设想中。
