中职教材 网站建设,上海装修公司电话,定制跟模板网站有什么不一样,网站代码 上传 wordpress 空间Mistral AI: Guillaume Lample, Arthur Mensch et Timothe Lacroix.
ChatGPT 的霸主地位已被三位来自法国的天才所颠覆#xff01;如上图这三个人#xff0c;其中一位曾在 DeepMind 工作#xff0c;另外两位来自 Meta#xff0c;他们联手为 AI 领域带来了革命性的变革
我…
Mistral AI: Guillaume Lample, Arthur Mensch et Timothée Lacroix.
ChatGPT 的霸主地位已被三位来自法国的天才所颠覆如上图这三个人其中一位曾在 DeepMind 工作另外两位来自 Meta他们联手为 AI 领域带来了革命性的变革
我们可以想象一下一家仅成立 8 个月的公司如今已经在这短暂的时间里震撼了整个 AI 行业。
他们推出了新型 AI 模型不仅与 ChatGPT 一较高下甚至超越了市场上所有的竞争对手让公司的估值接近了20亿美元。
更难能可贵的是他们没有借助任何夸大其词的宣传片或大规模市场活动就取得了这样的成就。 现在让我们来详细了解这些法国创新者是如何改变现状的以及我们如何能从他们的突破中获益。
首先我们不妨先来看一张与 ChatGPT 竞争的顶尖 AI 模型比较表。 LMSys Leaderboard
这张表透露了一些挺有意思的信息。
比如说ChatGPT 在不同版本间似乎有所退步。
还有一些分数排列得似乎有些不协调让人感到困惑。
但最引人注目的要数那些被标上“Mixtral”等名字的小黄线——这些名字让人联想到风。
乍一看这些模型的排名并不显眼甚至有些偏低。
然而这样的初步印象却忽视了它们背后所蕴含的革命性影响力。
要知道评估一个语言模型 (LLM) 的性能有很多方法并非只有一条路可走。
基准测试即向 LLM 提出一系列问题来测试其能力是其中一种方法。
比如考虑一个哲学问题需要用到恰当的词汇来替换。
问题在于尽管模型理论上能在这些基准测试中取得高分但在实际应用中它们的表现可能并不如预期。
这种情况并不罕见就像 Google 的 Gemini 模型它们在 MMLU 基准测试中得分很高但在实际使用中效果却不如 ChatGPT-4这可能是因为训练过程中数据集的泄露。
尽管基准测试能提供一定的指导作用但在实际应用场景中人类的直觉仍然是评估模型效果最可靠的标准。 大语言模型排名更新2024年1月27日
从最近一周前大模型排行榜来看Google Gemini Pro 现在在大语言模型排名中位居第二。Mistral 发布了 Medium 版本在性能上超越了 Mixtral 8x7b。
那么我们如何对这些 AI 模型进行排名呢
一种常见的方法是采用类似于国际象棋 ELO 评分系统的评分机制。这涉及到对不同模型的回答进行比较并根据表现给予相应的分数。
这就引出了前文提到的排名表这是一种广为人知的模型评级方式。
在这份榜单中你可以看到AI模型界的佼佼者包括位于榜首的专有模型 GPT-4紧随其后的是 Anthropic 的 Claude该公司由前OpenAI成员创立以及各种版本的 GPT-3.5。
再往下看我们发现了Google最近推出的Gemini Pro。这些都属于专有的AI模型。
但我们真正感兴趣的是开源模型。
这些模型通常规模较小计算需求也更低我们可以免费下载到本地使用还可以用我们自己的数据进行再训练。
直到不久前唯一能与ChatGPT及其衍生模型相媲美的唯一真正竞争对手是 LIAMA 2它是 Facebook 模型经过精细调校后的一个优化版本。
然而两个月前排名图表上出现了代表 Mistral 等模型的小黄线。
Mistral 的推出方式颇为独特。当时还鲜为人知的 Mistral 账户发布了一条推文里面只有一个磁力链接一种通过网络分享文件的方式没有提供任何背景信息或宣传资料。
点击链接之后就会出现一个有70亿参数的模型。
在这里理解模型的参数规模至关重要——就像拳击中的体重级别参数数量在这个例子中是数十亿代表了模型的规模。更大的模型需要更多的计算资源和更高级的硬件支持。
例如GPT-3 和 GPT-4 这样的大型模型可能拥有超过 1000 亿个参数需要庞大的服务器基础设施来运行。
相比之下像 LIAMA 2 这样的小型模型提供了不同规模的版本最大版本拥有 700 亿参数尽管如此运行它仍然需要相当强大的硬件。
Mistral 推出的 70 亿参数模型的出现改变了游戏规则。
起初大家会因其规模较小而持怀疑态度但很快发现这个模型的表现异常出色。尽管参数数量相对较少但它在排行榜上跻身前十名甚至挑战了那些拥有 700 亿参数的顶尖模型。Mistral 的最新版本Sterling LM 7b Alpha不仅超越了 GPT-3.5 的各种变体甚至超越了 LIAMA 2 的 700 亿参数版本。 参数数量适中的Mistral排名前十挑战即使是最好的70-billion-parameter模型。
这一进展激发了社区的热烈反响大家纷纷下载、实验并改进这个模型。
Mistral 的小巧体积也意味着它可能没有那么庞大的互联网知识库这可能会让它更容易“产生幻觉”或“捏造”信息。
不过它的小巧体积也使得它能够在 Mac 和一些 iPhone 设备上本地运行极大地提升了可用性。
就在半个多月前又一场革命性的变革诞生了Mixtral 8x7b 的推出。
这个模型采用了“专家混合”技术即模型的不同部分专注于不同的领域比如数学、编程、文学。
这种架构与 GPT-4 类似它允许模型在不需要相应的计算能力的情况下也能享受到一个 8 x 7 模型的优势。
简而言之你可以用一个 140 亿参数模型的计算成本享受到一个 560 亿参数模型的优势。 Mixtral 8x7b 的表现非常出色——它就像是轻量级选手在重量级比赛中大放异彩
最近Mistral 还推出了Mistral Medium可以通过他们的云平台使用。
通过初步对比 Mistral Medium 和 GPT-4 显示尽管 GPT-4 可能因为追求“安全”和“政治正确”而受到限制影响了其性能但 Mistral Medium 却能提供更精确、更实用的回答。
Mistral 的创新正在重塑 AI 领域的格局
Mistral 成功开发出了更小巧、更高效的模型能够与 GPT-4 这样的行业巨头一较高下这为 AI 的普及化铺平了道路为开发者和企业开辟了新的可能性。
这家公司值得密切关注尤其是随着他们在 AI 领域的不断突破。
总结
随着 Mistral 的创新不断涌现我们看到了 AI 领域的新篇章正在被书写。这些小巧而高效的模型不仅在性能上挑战了行业巨头更是在可访问性和实用性上迈出了重要一步。Mistral 的 Medium 版本和 Mixtral 8x7b 的推出不仅展示了 AI 的新高度也为开发者和企业提供了前所未有的机遇。在这个快速变化的时代Mistral 的故事提醒我们创新的力量是无穷的而 AI 的未来正等待着我们去探索和定义。让我们拭目以待看 Mistral 如何继续在 AI 的舞台上引领风潮我们期待更多类似Mistral的企业能够通过创新推动整个行业前行为人类社会带来更多价值。
