哈佛辍学华人,挑战英伟达:一张显卡,能顶20张H100?

哈佛辍学华人,挑战英伟达:一张显卡,能顶20张H100?
2024年06月28日 13:37 科技创新plus

英伟达有多牛,不用多说了,曾经一度超过苹果、微软,成为全球第一市值企业,如今还排全球第三,市值高达3万亿美元。

英伟达为何这么牛,是因为成为了AI风口上的猪,其AI芯片拿下了全球90%的市场份额,目前完全是供不应求。同时英伟达毛利率高,利润也高,再加上大家对AI未来的看好,于是市值就这样被炒作了起来。

当然,英伟达并不是没有对手,比如AMD、Intel都在搞AI芯片,国内还有华为、摩尔线程、海光等等厂商,也在搞AI芯片,都是英伟达最重要的对手。

另外,还有一些人,从其它角度搞AI芯片,不做这种通用GPU芯片,做专用AI芯片,来与英伟达竞争。

比如近日,一家初创公司Etched,就推出了全球首款大模型推理专用ASIC芯片--Sohu芯片。

这款芯片一上来,就将英追达的H20秒的渣都不剩了,按照说法,一张Sohu,可以顶20张英伟达的H100芯片,700亿参数的Llama 3吞吐量,达到了每秒500000(五十万)tokens。

这个性能,甚至比英追求发布的最强黑卡GB200快一个数量级,关键是还更便宜。

所以这款Sohu一推出,在网上就爆发出了山崩海啸般的热度,因为它简直就是英伟达杀手啊,有这样的芯片,别人还买什么H100,买什么GB200呢。

Etched是由两名哈佛辍学生Gavin Uberti和Chris Zhu在2022年10月份创办的,至今才2年不到的时间,但目前已经融到了上亿美元,很多机构都看好它们,而创办者Chris Zhu是一名华人。

据称目前众多的大企业,均投资了Etched,因为其AI芯片的性能太强大了。

不过,虽然它的性能很强大,但要值得注意的是,Sohu是一颗ASIC,也就是专用集成电路(Application-Specific Integrated Circuit),功能明显不如GPU这种通用型AI芯片强大,只能解决某项专业问题。

Sohu在AI上也只支持一种算法Transformer,其它的算法都不行,只能用于推理,不能用于训练。

所以这样的芯片,只能在Transformer算法推理上,挑战英伟达,在更多的使用场景下挑战不了英伟达。

但不可否认的是,仅凭这一个能力,也能够抢到英伟达的很多份额,毕竟目前AI领域,主流的算法就是Transformer,所以Sohu就够了。

以后有更多的算法出来,那就针对性的做另外的ASIC芯片就好,专芯专用,也没什么不可以的,你觉得呢?

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部