AI新星Groq横空出世，凭借其始创的LPU芯片和令东说念主瞠目惊奇的处理速率a盘b盘c盘是什么意思，成为了科技界的新宠。
近期，风投基金Social Capital首创东说念主兼CEO Chamath Palihapitiya 和Groq首创东说念主兼CEO Jonathan Ross在RAISE AI峰会上张开了一场对谈，言语内容包括，Groq刻下的发展、对于AI将来的想考，英伟达和Groq间的对比，Groq的上风等等。
Ross暗意，AI推理的资本激昂，他的公司因此有益为大模子提供了“超快”、更低廉的芯片弃取，到来岁年底，将部署150万个LPU ，而旧年英伟达整个部署了50万个H100，150万意味着Groq可能占宇宙上一半的推理计议能力，以下为对谈重点：
Groq在30多天内取得了7.5万开发者，而英伟达用了7年才达闪开发者规模达到10万，开发者对于AI应用的发展至关进军。英伟达擅长AI试验但在推理方面存在局限。Groq的芯片在推理速率和资本上齐稀有倍上风。将来推理市集的份额将从咫尺的5%增长到90-95%。Groq不使用HBM等先进但供应有限的器件，而是通过转换架构杀青性能普及，幸免受制于供应链。AI推理对延长非常敏锐，必须截至在300毫秒以内，而咫尺的系统经常需要几秒甚而更长。每100毫秒的改善可带来8%(桌面)到34%(出动)的用户参与度普及。英伟达在试验领域是杰出人物，但推理还莫得明确赢家，想在两个市集齐到手非常勤苦。将来1-2年，Groq将部署150万个推理芯片，可能占全球一半的推理算力，突出各大云计议厂商的总和。硅谷AI东说念主才争夺十分强烈，薪酬资本天文数字。Groq的嘱咐之策是招募资格丰富的工程师，让他们学习AI常识。大语言模子就像是想维的千里镜，揭示了智能的宽广，一初始可能令东说念主注重，但最终咱们会意志到它的秀美，并意会我方在其中的位置。以下为AI翻译的对谈原文
Chamath Palihapitiya：起原，很怡悦来到这里。我有一些札记，是以要确保咱们能涵盖整个内容。我想借此契机先容一下乔纳森。显豁，你们中的许多东说念主齐传闻过他的公司，但你们可能不知说念他的创业故事，老师说，他在硅谷照旧服务了25年。这是你能听到的最私有的发祥故事和首创东说念主故事之一。咱们将谈谈他在谷歌和Groq所取得的配置。咱们会比较一下Groq和英伟达，我认为这可能是东说念主们应该了解的最进军的时刻计议身分之一。咱们将磋磨软件、硬件，并给出一些数据和重点，我认为这些数据和重点令东说念主印象深刻。
是以我想从你每周齐会作念的事情初始，那即是你宽泛会在推特上发布一些开发者方针。今天早上的情况如何？为什么开发东说念主员如斯进军？你能听我试试这个测试吗？
Jonathan Ross：咱们的开发者数目达到了7.5万，这是咱们推出开发者截至台后30多天的数字。比较之下，英伟达用了7年时辰才达到10万名开发者，而咱们只用了30多天就达到了7.5万。这很进军，因为开发者正在构建整个应用。因此，每一个开发者齐对你可以领有的用户总和产生了成倍的影响，一切齐与开发者干系。
Chamath Palihapitiya：让咱们回首一下，在这种布景下这不是整夜之间的告成故事，这是在荒凉中跋涉了8年，坦率地说还伴跟着许多舛错，这才是伟大企业家的符号。
皇冠信用网如何注册但我想让巨匠听听这个故事，Jonathan，也许你们齐传闻过那些从大学辍学创办价值数十亿好意思元公司的企业家。Jonathan可能是唯独一个高中辍学并创办了一家价值10亿好意思元公司的东说念主。让咱们从你的布景初始，因为你成为企业家的说念路非常弯曲。
Jonathan Ross：正如我提到的，我高中辍学最终找到了一份要领员的服务。我的雇主注重到我很机灵，告诉我尽管辍学也应该去大学上课。
是以我莫得细致入学，而是初始在亨特学院旁听。然后我得到了一位锻真金不怕火的领导。在那里阐扬可以，转学到了纽约大学然后我初始学习/博士课程，但如故本科生，自后我又辍学了。
Chamath Palihapitiya：从时刻上讲，你有高中证书吗？Jonathan Ross：莫得。我也莫得本科学位。
Chamath Palihapitiya：那么你是如何从纽约大学到谷歌的呢?
Jonathan Ross：事实上如果不是纽约大学，我想我不会去谷歌。这很意旨，尽管我莫得学位，但我正值去了谷歌的一个行动。谷歌的一个东说念主认出了我，因为他们也上过纽约大学，他们保举了我。是以即使你莫得毕业，你也可以在大学里建立一些很棒的东说念主脉，但那是我通盘上博士课程的东说念主之一。
Chamath Palihapitiya：当你第一次去谷歌，你在作念什么样的服务？
Jonathan Ross：告白，但主如若测试，咱们在构建雄壮的测试系统。如果你认为建立坐褥系统很难，测试系统必须测试坐褥系统所作念的一切，因此，每一个告白查询，咱们齐要进行 100 次测试，但咱们莫得坐褥系统的预算。咱们不得不编写我方的线程库。咱们不得不作念各式浪漫的事情，这在告白行业是想齐不敢想的，但本体上这比坐褥系统自己更难。
谷歌饱读动职工在旧例服务时辰之内花20%的时辰作念他们认为能让谷歌受益的方式，在那里你可以作念任何你想作念的事情。我称它为 mci time，只须不是在服务时辰，你就可以在 20% 的时辰里服务。但我每天晚上齐会上去和语音团队通盘服务。这和我的主要方式是分开的，他们给我买了一些硬件。
我初始作念一个叫TPU的副方式。它的资金来自一位副总裁所说的"小金库"或剩余资金。从来莫得东说念主盼愿它会告成。本体上还有另外两个方式在研发AI加快器，从来莫得东说念主盼愿它们会告成，这给了咱们作念一些真实反常的、直不雅的和转换的事情所需的掩护。
皇冠客服飞机：@seo3687Chamath Palihapitiya：退一步说。当这些词还莫得被使用的时候，你想在AI中束缚什么问题？在你看到契机的时候，谷歌又在试图作念什么？
Jonathan Ross：这一切始于 2012 年。其时，从未有机器学习模子在职何任务上胜过东说念主类。语音团队试验出了一个能比东说念主类更好地转录语音的模子。问题是他们无力将其参预坐褥。因此，一位非常闻名的工程师Jeff Dean向指令团队作念了一个演示，惟有两张幻灯片。
第一张幻灯片是个好音问。机器学习见效了。第二张幻灯片，坏音问。咱们职责不起。他们必须将谷歌的整个全球数据中心空间加多一倍或两倍。平均每个数据中心的资本为10亿好意思元,20到40个数据中心，因此需要200到400亿好意思元。这只是是用于语音识别。如果他们想作念其他事情，比如搜索告白,资本会更高。这在经济上是不可行的，这即是推理的历史，你试验它，然后你无法职责将其参预坐褥。
Chamath Palihapitiya：在这样的布景下，你作念了什么？是什么让TPU成为本体到手的方式之一?？
Jonathan Ross：最进军的是，Jeff Dean注重到，浪费谷歌大部分CPU周期的主要算法是矩阵乘法。咱们决定加快这少许，但让咱们围绕它构建一些东西，咱们建造了一个雄壮的矩阵乘法引擎。
在作念这件事时，还有另外两个竞争团队，他们选择了更传统的方法来作念相似的事情。其中一个由图灵奖得主指令，然后咱们建议了所谓的脉动阵列，我难忘那位图灵奖得主在指摘TPU时说，想出这个决策的东说念主一定很老，因为脉动阵列照旧不再流行了。本体上是我建议的，我其时只是不知说念脉动阵列是什么，有东说念主不得不向我解释这个术语，这只是作念这件事的可想而知的方式。
是以教授是，如果你知说念如何去作念，你可能会知说念如何用邪恶的方法去作念。让那些不知说念什么该作念什么不该作念的东说念主参与进来是很有匡助的。
Chamath Palihapitiya：跟着TPU的膨胀，谷歌里面可能有许多招供。你为什么要消释这些?
Jonathan Ross：整个大公司最终齐会形成政事化？当你领有如斯告成的东西时，许多东说念主齐想领有它，总有更资深的东说念主初始争抢它。转到了谷歌X团队，快速评估团队，即是在谷歌X建议整个浪漫想法的团队，我在那里玩得很激昂，但莫得任何东西形成坐褥系统。
我想重新到尾再作念一次真实的事情，我想把一些东西从看法形成作品。我初始向外看，那即是咱们相见的时候。
Chamath Palihapitiya：但问题是，你有两个想法。一个更多的是让我构建一个图像分类器，你认为你可以突出其时最好的ResNet，然后你有这个硬件旅途。
Jonathan Ross：发生的事情是,我也建立了最高性能的图像分类器。我注重到整个的软件齐是免费提供的。TensorFlow是免费提供的，模子是免费提供的，很昭彰机器学习AI将是开源的，即使在那时，那是2016年。
我只是无法遐想围绕它建立一个企业，这将是一个冗忙的芯片业务。构建它们需要很永劫辰，如果你构建了一些转换的东西并推出它，任何东说念主齐需要4年才能复制它，更无谓说超越它了。是以这嗅觉是一个更好的方法，它是原子，你可以更容易地将其货币化。
那将只是坚贞的拼字筹码。制造这些芯片需要很永劫辰，如果你制造出转换的产物并推出市集，那么四年后才会有东说念主师法你的产物。更无谓说超越它了。因此，我合计这种方法更好。你可以更容易地杀青货币化。就在那时 Tpu论文问世了我的名字出咫尺里面东说念主们初始筹商你问我会有什么不同的作念法
就在阿谁时候，TPU论文发表了。我的名字在上头，东说念主们初始筹商它。
Chamath Palihapitiya：其时我也在投资环球市集。在环球市集上有点浪漫。PiChai在新闻稿中谈到TPU，我非常战抖，我认为谷歌不应该建造我方的硬件。他们一定知说念一些咱们其他东说念主不知说念的事情。
咱们需要知说念这少许以便咱们可以为宇宙其他地区买卖化。我可能在几周后遭受了你，那可能是我作念过的最快的投资。我难忘要津时刻是你莫得公司。咱们不得不在支票开出后成立公司，这是一个十足愚蠢的迹象，或者在15或20年后，你会看起来像个天才，但后者的可能性非常小。
你创办了这家公司，告诉咱们其时在Groq作念出的盘算推算决策，凭证你其时的了解，因为那时的情况与咫尺大不相通。
网站以其丰富的博彩经验和良好的口碑在博彩行业中拥有很高的知名度，为广大博彩爱好者提供最优质的博彩服务和最多样的博彩游戏，让用户能够享受更多元化的博彩体验。Jonathan Ross：再说一次，当咱们初始融资时，本体上并不是100%细目咱们会在硬件方面作念一些事情。我想你问过一些问题，比如你会作念些什么不同的事情。我的复兴是软件，因为咱们在谷歌可以制造这些芯片，但谷歌的每个团队齐有一个有益的东说念主在手工优化模子。
我合计这太浪漫了就在那时然后咱们初始从英伟达聘任一些东说念主，他们就说，不，你不解白咱们亦然这样作念的，这即是它的服务方式。咱们亦然这样作念的。咱们有这些叫作念内核的东西，CUDA内核。是的，咱们手工优化它们。咱们只是让它看起来咱们莫得这样作念。但规模，就像你们整个东说念主意会的算法和大O复杂度，这是线性复杂度。对于每个应用要领。你需要一个工程师，英伟达咫尺在他们的生态系统中有5万东说念主。
是以咱们在前6个月专注于编译器。咱们不容在Groq使用白板，因为东说念主们一直试丹青芯片的图片。
咱们不知说念它会是语言。但灵感来自我作念的临了一件事是让DeepMind的AlphaGo软件在TPU上运行，看到这少许，很昭彰推理将是一个规模问题。其他东说念主一直在将推理视为，你拿一个芯片在上头运行一个模子。它运行任何东西。但AlphaGo发生的事情是咱们移植了软件。尽管咱们有170个GPU对比48个TPU,48个TPU如故以十足相通的软件赢了100场中的99场。这意味着计议将带来更好的性能。细察力是让咱们构建规模化推理。咱们内置了互连，咱们为规模而构建。
这即是咱们咫尺所作念的。当咱们运行这些模子之一时咱们稀有百或数千个芯片在孝顺，就像咱们在AlphaGo中所作念的那样，但它是为此而构建的，而不是拼集起来的。
我认为这是一个很好的跳板，许多东说念主认为这家公司值得许多尊重，但英伟达照旧勤苦服务了几十年。他们显豁建立了一个令东说念主难以置信的业务。但在某些方面，当你深入了解细节时，业务被稍许歪曲了。
Chamath Palihapitiya：那么你能先理解一下吗?英伟达在那里天生擅长?它在那里更多地试图变得优秀?
Jonathan Ross：经典的说法是你不必跑赢熊，你只需要跑赢你的一又友。
英伟达在软件方面突出了整个其他芯片公司，但他们不是一家以软件为先的公司。他们本体上有一个非常精巧的方法，正如咱们磋磨过的。但他们有生态系统，这是一个双面市集。如果你弃取基于内核的方法，他们照旧赢了，莫得追逐者，因此咱们弃取了无内核决策。但他们非常擅长的另一种方式是垂直整合和前向整合。英伟达一次又一次地决定要普及堆栈，不论客户在作念什么，他们齐初始作念。
举例我认为是Gigabyte或其他一些PCI板制造商最近通知，尽管他们80%的收入来自英伟达，英伟达的板卡是他们制造的，但他们退出了这个市集。因为英伟达朝上出动并初始作念一个利润率更低的事情。
我认为另一件事是英伟达在试验方面非常出色，他们作念出的盘算推算决策包括像HBM这样的东西，果然是围绕其时的宇宙，一切齐是对于试验的。莫得任何真实的履行宇宙应用，你们中莫得东说念主真实在田园构建任何东西，在那里你需要超快的推理，我认为这是另一个。
咱们一次又一次地看到,你会把100%的计议花在试验上。你会得到一些裕如好的东西用于坐褥。然后它会翻转到大致5%到10%的试验和90%到95%的推理。但试验的量将保抓不变。推理将大规模增长。是以每次咱们在谷歌取得告成，一会儿间咱们就会遭受灾祸,咱们称之为告成灾祸,咱们无法职责得起裕如的计议用于推理,因为它会立即加多10倍、20倍。
如果你把这10倍、20倍乘以英伟达起原的束缚决策的资本，你就会指摘一个雄壮的金额。是以也许向巨匠解释一下什么是HBM,为什么这些系统就像。但英伟达刚刚通知B200,复杂性和资本。本体上，如果你试图作念一些事情。复杂性跨越了堆栈的每个部分，但有几个组件的供应非常有限。
www.crownstakeszonezonezone.com英伟达照旧锁定了这些市集，其中之一即是HBM，这是高带宽内存，这是取得性能所必需的。因为你运行这些应用要领的速率取决于你读取该内存的速率。这是最快的内存。供应有限，它只用于数据中心。他们不成像其他部件那样涉及出动开荒或其他东西的供应,何况还有封装基板。此外,英伟达是宇宙上超等电容器的最大买家,以及各式其他组件,电缆,电缆,400 Gbps的电缆,他们齐买断了。
如果你想竞争,不论你盘算推算的产物有多好。他们照旧买断了整个供应链多年。
Chamath Palihapitiya：那你怎么办?
资金流动ug环球直营网Jonathan Ross：你不使用他们使用的相通的东西，这即是咱们的用武之地。
od体育官网app苹果下载那么你如何盘算推算芯片?如果你望望起原的束缚决策,他们正在使用某些东西,他们显豁取得了告成,你会怎么作念?这只是一个十足正交和不同的时刻赌注吗?或者有什么非常具体的东西,你说咱们不成依赖相似的供应链,因为咱们最终会被动退出这个行业。
本体上,一初始有一个非常简便的不雅察,那即是大多半芯片架构在性能上的各异很小,比如15%就被认为是了不得的。
新加坡金沙赌场咱们意志到,如果咱们只是好15%,莫得东说念主会改用一个十足不同的架构。咱们需要5到10倍,因此,你追逐前沿时刻所取得的小百分点是不足轻重的。是以咱们使用了一种较旧的时刻,14纳米,它莫得得到充分欺诈。咱们莫得使用外部内存。咱们使用了较旧的互连,因为咱们的架构需要提供上风,它需要如斯强劲,以至于咱们不需要处于前沿
Chamath Palihapitiya：是以你今天如何估计速率和价值?给咱们一些你与其他东说念主运行这些东说念主可能正在使用的Llama、Mistral等模子的比较。
Jonathan Ross：是以咱们从两个方面进行比较。一个是每好意思元的tokens数,一个是每用户每秒的tokens数。每用户每秒的tokens数是体验。这即是辞别所在。每好意思元的tokens数是资本,然后虽然还有每瓦特的tokens数,因为电力咫尺非常有限。如果你把咱们与GPU进行比较,咱们宽泛快5到10倍,像苹果对苹果那样,莫得使用投契解码和其他东西。
是以咫尺,在1800亿参数的模子上,咱们每秒运行大致200个tokens,我认为这不到英伟达行将推出的下一代GPU的50个。你刻下的一代比B200好4倍。而在总资本方面,咱们大致是当代GPU的1/10。每个token。我想让这少许深入东说念主心,资本的1/10。我认为这的价值真实归结为,你们将去领有想法,非凡是如果你是风险投资界和生态系统的一部分,你筹集资金,像我这样的东说念主会给你钱,但愿你理智地投资。
在曩昔十年里。咱们进入了一个非常负面的周期,咱们给初创公司的每一好意思元中,简直有50好意思分会再行回到谷歌、亚马逊和Facebook的手中。你把钱花在计议上,把钱花在告白上。这一次,东说念主工智能的力量应该是,你可以以1/10或1/100的资本建立公司。但如果你再次把钱运且归,就不可能杀青,只不外此次是运到英伟达,而不是其他东说念主。是以咱们会奋发确保这是一种低资本的替代决策。几周前,英伟达发布了一个紧要的公告。他们展示了向右上方的图表。他们展示了雄壮的芯片,他们展示了雄壮的封装。告诉咱们B200的情况,并将其与你咫尺正在作念的事情进行比较。
起原,B200在工程上是一个名胜,复杂进度、集成进度、硅中不同组件的数目,他们花了100亿好意思元开发它。但当它发布时,我收到了一些来自英伟达工程师的音问,他们说,咱们对他们宣称的30倍性能感到有点难受,因为它远莫得那么高。行为工程师,咱们合计这有损咱们的简直度。30倍的说法。让咱们来望望。有一张图片理会,从用户体验来看,每秒最多可达50个tokens,模糊量为140个,这就给出了价值或资本。如果你将其与上一代产物进行比较,那即是说,如果你用50除以30,用户每秒得到的tokens不到2个,这将是很慢的,对吧?莫得任何东西运行得那么慢。
然后从模糊量的角度来看,这将使资本高得难以置信。
咱们意志到，如果咱们的性能提高了 15%，莫得东说念主会改用判然不同的架构。咱们需要的是 5 到 10 倍的普及，因此，追逐前沿时刻所取得的微小普及并不进军。因此，咱们使用了一种较老的时刻，即 14 纳米时刻，这种时刻欺诈率很低。咱们莫得使用外部存储器。咱们使用了较老的互联时刻，因为咱们的架构需要提供上风，何况需要压倒性的上风，以至于咱们不需要处于起原地位。是以。
Chamath Palihapitiya：为什么你咫尺不理解这个辞别?因为我认为这是一个很好的地点,让东说念主们真实意会试验和推理之间有雄壮的各异。需要什么,为什么你不界说各异,然后咱们可以对比事情将走向何方。
Jonathan Ross：最大的辞别是,当你在试验时,你试验的tokens数目是以月来估计的。比如,这个月咱们可以试验若干tokens?如果一个批次需要一秒、十秒或一百秒并不进军,每月有若干个批次,在推理中,进军的是你每毫秒或几毫秒可以生成若干tokens,对吧?不是以秒为单元,也不是以月为单元。
Chamath Palihapitiya：那么,可以说英伟达是试验的典范吗?然后可以说,在推理方面还莫得一个真实的规模化赢家,咫尺还莫得。你认为会是英伟达吗?
Jonathan Ross：我不认为会是英伟达。
Chamath Palihapitiya：但具体来说,为什么你认为它不适用于阿谁市集?尽管它显豁在试验中见效。
Jonathan Ross：为了裁减延长,咱们必须作念的是,咱们必须盘算推算一个全新的芯片架构。咱们必须盘算推算一个全新的收罗架构,一个全新的系统,一个全新的运行时,一个全新的编译器,一个全新的编排层。咱们必须抛弃一切，它必须与PyTorch和其他东说念主本体开发的东西兼容。
可以试玩的博彩网站咫尺咱们指摘的是类固醇上的转换者窘境。很难消释其中一个,如果你告成地作念了其中一个,那将是一家非常有价值的公司。但要扔掉整个这六个简直是不可能的。何况,如果你想连续试验,你还必须调遣你现存的东西。咫尺,你必须为收罗、芯片、收罗、一切齐有一个十足不同的架构,用于试验和推理。
假定今天的市集是100个试验单元或95个试验单元,5个推理单元。我应该说,这大略是大部分收入和好意思元的来源。4到5年后会是什么面目?
事实上,英伟达最新的收益中40%来自推理，它照旧初始攀升。它最终将达到90%到95%。这一轨迹将赶快升起,因为咫尺咱们有了这些开源模子,每个东说念主齐在免费提供。你可以下载一个模子并运行它，你不需要试验它。
出生于宁夏的韩练成家境贫寒，在马鸿逵陆军招兵买马之时，顶着韩圭璋的中学毕业文凭，成为了马鸿逵麾下的一员。1929年，在蒋介石和冯玉祥决裂之时，马鸿逵被蒋介石收买，韩练成也顺势成为了蒋介石的手下。
曾被蒋介石称为“国之宝贝”，被宋美龄谬赞“常胜将军”的韩复榘，收到张学良密电，邀请他“共商国是”。
构建灵验的应用要领的一个问题是,你必须要么意会,要么能够使用CUDA与你相助。这甚而不足轻重,因为你可以径直移植。
Chamath Palihapitiya：是以也许向巨匠解释在推理市集中能够快速替换这些模子的进军性,以及你认为这些模子将走向何方。
Jonathan Ross：对于推理市集,每隔2周驾驭,就会有一个全新的模子需要运行。这很进军。要么它在各个方面缔造了最好质料顺次,要么它在特定任务上阐扬出色。如果你在编写内核,简直不可能跟上。事实上,当Llama 270亿参数模子发布时,它细致得到了AMD的复古,然则,咱们本体看到的第一个复古是在大致一周后杀青的,咱们在大致2天内就杀青了。
是以阿谁速率,就像咫尺,每个东说念主齐在为英伟达硬件开发。是以默许情况下,任何发布的东西齐可以在那里服务。但如果你想让任何其他东西服务,你就不妙手动编写这些内核。记取,AMD有官方复古,如故花了大致一周时辰,对吧?
如果你今天正在创建一家公司,你显豁但愿能够凭证需要从Llama切换到Mistral,再切换到Anthropic，你要切换到最新的
Chamath Palihapitiya：行为一个看到这些模子运行的东说念主,你对这些模子的质料有什么看法，你认为其中一些公司将走向何方，或者你看到了什么？有的作念得好，有的作念得差吗？
Jonathan Ross：他们齐初始相互追逐，初始出现一些进取式的发展。一初始，GPT-4遥遥起原，它起原其他东说念主大致一年的时辰。咫尺，Anthropic照旧奋发蹈厉。咱们看到 mistral 在各方面齐取得了可以的收获。
因此，一个意旨的自得是，尤其是 mistral 公司，照旧能够用更小、更低廉的模子运行来接近质料，我认为这给了他们雄壮的上风。我认为，Cohere 在一种优化模子上的作念法也很意旨。因此，东说念主们正在寻找利基。在最高端，一定会有几款产物是最好的。但咱们看到的是，许多东说念主衔恨运行这些模子的资本。它们简直即是天文数字。你无法用它们为用户膨胀应用。
Chamath Palihapitiya：OpenAI照旧公布或潜入了特斯拉和其他几家公司的GPU总量。你可以倒推推理市辘集有多大，因为跟着你们的规模扩大，推理市集果然只可由它们来复古。你能让东说念主们了解一下东说念主们正在为之奋斗的规模吗？
Jonathan Ross：Facebook通知，到本年年底，他们将领有非常于 65 万 H100 的GPU。到本年年底，groq将部署10万台咱们的LPU，在模糊量和延长方面齐突出H100。咱们很可能会达到Facebook的水平。到来岁年底，咱们将部署150万个LPU ，旧年，英伟达整个部署了50万个H100。是以 150 万意味着groq可能领有的生成式AI推理能力将突出整个超大规模云服务提供商的总和,可能占宇宙上一半的推理计议能力。
Chamath Palihapitiya：太棒了。请谈谈硅谷的团队栽植。在 "你可以去特斯拉服务，你可以去谷歌服务，OpenAI服务"的布景下，要找到真实的东说念主工智能东说念主才有多难？
皇冠hg86a
Jonathan Ross：趁机说一下,你有一个意旨的事情,因为你最初的芯片,你试图找懂Haskell的东说念主。是以告诉咱们,在硅谷组建一个团队来作念这件事有多难,不可能。
是以如果你想知说念如何作念到这少许,你必须初始变得有创意,就像你想作念好的任何事情一样,不要径直竞争。但这些薪酬是天文数字,因为每个东说念主齐认为这是一个赢家通吃的市集。我就像,这不是对于我要成为第二名吗?我会是第三名吗?他们齐在说。我必须成为第又名。如果你莫得最好的东说念主才,你就出局了。
咫尺,邪恶在于。许多AI筹商东说念主员在AI方面很锐利,但他们如故有点青涩。他们很年青。对吧?这是一个新领域。我老是建议东说念主们去雇佣那些最有资格、最蛮横的工程师,他们知说念如何按期委用东西,让他们学习AI,因为他们学习AI的速率会更快。
在线博彩平台排行榜然后你将能够把AI筹商东说念主员培养成具有20年坐褥代码部署资格的东说念主。
Chamath Palihapitiya：你一个月前在沙特阿拉伯与沙特阿好意思公司同台亮相,通知了一些大交游。你能不成告诉咱们这样的交游是怎么回事?就像阿谁市集的发展标的是什么?这是你在与亚马逊、谷歌和微软竞争吗?是这样的吗?
Jonathan Ross：这不是竞争。本体上是互补的。通知的内容是咱们将与阿好意思数字公司通盘达成交游。咱们还莫得通知具体规模,但就咱们要部署的计议量而言,规模会很大。总的来说,咱们照旧达成了交游,让咱们突出了150万个LPU目的的10%。勤苦的部分是第一笔交游。
一朝咱们通知了许多其他交游正在达成,然则这些交游的规模是它们比Meta领有的计议量还要大,许多科技公司。咫尺,他们认为他们有这样的上风,因为他们锁定了供应。他们不但愿有另一种弃取存在。是以咱们本体上正在与那些将领有比超大规模云服务商更多计议能力的东说念主达成交游。
Chamath Palihapitiya：这是一个浪漫的想法。临了一个问题。每个东说念主齐惦记AI意味着什么。你从事这个行业照旧很永劫辰了,临了谈谈你的不雅点,咱们应该想考什么,以及你对AI将来的看法,咱们将来的服务,整个这些东说念主们宽泛惦记的事情。
Jonathan Ross：是以我时常被问到,咱们应该发怵AI吗?我的复兴是,如果你记忆伽利略,一个堕入窘境的东说念主,他堕入窘境的原因是他发明了千里镜,执行了它,并宣称咱们比每个东说念主遐想的要微细得多,咱们应该是天地的中心。事实阐明咱们不是,千里镜越好,就越昭彰咱们是微细的。在很猛进度上,大型语言模子就像是想维的千里镜。很昭彰,智能比咱们大得多。这让咱们感到非常微细。这很可怕。但跟着时辰的推移,当咱们意志到天地比咱们遐想的要大时,咱们民风了这少许。咱们初始意志到它有多好意思,咱们在天地中的位置。我认为这即是将要发生的事情。咱们将意志到智能比咱们遐想的愈加宽广,咱们将意会咱们在其中的位置。咱们不会发怵它。
这是一个很好的收尾方式。Jonathan Ross,列位。谢谢巨匠。非常感谢。有东说念主告诉我Groq的真义是带着同理心深入意会a盘b盘c盘是什么意思,这体现了这个界说。
风险指示及免责条件 市集有风险，投资需严慎。本文不组成个东说念主投资建议，也未计议到个别用户特殊的投资目的、财务气象或需要。用户应试虑本文中的任何意见、不雅点或论断是否合适其特定气象。据此投资，职责安闲。