埃隆·马斯克(Elon Musk)的ai现在可以以“闪存”速度做出响应,据说在引入新功能(例如对其他AI模型的支持)时,每秒回复大约1256.54个令牌。
Grok AI的响应时间实际上是直接的,NVIDIA等公司无法实现的GPU处理器。速度从4月Grok的每秒800个令牌的记录提高了。

Grok的网站引擎默认为Meta的开源Llama3-8B-8192 LLM,但它也支持较大的Llama3-70B,某些Gemma(Google)和Mismtral模型,并且会很快添加更多。
现在,用户可以通过按下麦克风图标来向Grok Engine发出问题,而不是输入它们。Grok采用Whisper大V3(OpenAI)(OpenAI)最近的开源自动语音识别和翻译模型,将用户的声音转换为文本。然后将该文本用作LLM的提示。
这种体验至关重要,因为它表明了LLM聊天机器人对程序员和非程序员的速度和自适应。 Grok的首席执行官乔纳森·罗斯(Jonathan Ross)认为,一旦客户看到在Grok的快速发动机上操作LLM的容易程度,他们的吸引力就会提高。
例如,该示例显示了可以快速完成哪些其他琐事,例如创建工作职位或文章并在旅途中更新它们。
GROK AI速度含义
格罗克(Grok)受到关注,因为它声称能够比竞争对手更快,更经济地完成AI任务。它将其归因于其语言处理单元(LPU),该单元比类似任务的GPU效率要高得多,部分原因是LPU线性函数。
尽管实施AI应用程序时,GPU对于模型培训至关重要 - “推理”是指模型的活动,但它们要求更高的效率和较低的延迟。
像其他推理提供商一样,Grok为开发人员提供了一个构建程序的控制台。 Grok允许在OpenAI上构建应用程序的开发人员将其应用程序迁移到几秒钟内采用一些简单的操作。
GROK AI幻觉
Grok AI的最新功能是在观察到同一AI之后的幻觉新闻在X上(以前的Twitter)。 Grok AI Chatbot在制作了有关克莱·汤普森(Klay Thompson)在加利福尼亚州萨克拉曼多(NBA)没有这样做的虚假新闻后,在四月份趋向于4月。
实际上,对于金州勇士的得分后卫来说,这是一场糟糕的比赛,他在10中以10的比分“射击砖”。
这是在上赛季的NBA比赛之后进行的,勇士队前往萨克拉曼多在季后赛中与国王队战斗,并有机会参加冠军。
然而,战士得分后卫克莱·汤普森(Klay Thompson)的夜晚糟糕透顶,在地板上射出了0的0,在地板上射出了0,在三分线中射出了六分,在他的32分钟的比赛时间内被称为“射击砖”。
格罗克(Grok)将其误解为一种破坏和暴力行为,并报道了汤普森(Thompson)在萨克拉曼多(Sacramento)的虚构和捏造的犯罪横冲直撞。
许多X用户同时利用了机会嘲笑Grok和“第6次Klay”,证明了虚假的新闻犯罪并显示了汤普森当晚的数字。为了回应格罗克的故事,另一个用户声称在展示一个受伤的人的照片时被砖头击中。
