米国カリフォルニア州パロアルトに本社を構えるSambaNova Systemsが、新たに「Sambaverse」を発表しました。Sambaverseは、開発者が複数のオープンソースの大規模言語モデル（LLM）を簡単に比較できるテスト環境とAPIを提供します。
本記事では、Sambaverseの概要、技術的特徴の説明と、著者の使用した感想について紹介していきますのでぜひ最後までご覧ください！
ARCHETYP Staffingでは現在クリエイターを募集しています。
エンジニア、デザイナー、ディレクター以外に、生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください！
ボタンから募集中の求人一覧ページに移動できます。
Sambaverseの概要と技術的特徴
Sambaverseとはどんなサービスかというと、開発者が何百ものオープンソースの大規模言語モデル（LLM）を試し、任意のアプリケーションに対する応答を直接比較できるユニークなプラットフォームです。Hugging Faceで公開されている人気モデルを一つのプロンプトで同時に比較でき、リアルタイムでその結果を確認できます。SambaNova Systemsの共同創業者兼チーフ・テクノロジストであるクンレ・オルコトン氏は、現在の定量的ベンチマークの限界を指摘し、質的評価の重要性を強調しています。オープンソースコミュニティによって開発された強力なエキスパートモデルの中から、最適なモデルを選ぶためにSambaverseは大いに役立つと述べています。
技術的には、独自のComposition of Experts（COE）モデルアーキテクチャーを採用しており、複数のモデルを単一のインターフェイスで比較することが可能です。このシステムは、3層のメモリとデータフローアーキテクチャーを備えており、SambaNovaのSN40Lシステム上で最適に動作します。Samba-1で利用可能なこのアプローチは、企業や政府機関が必要とする性能、拡張性、プライバシー、およびアクセス制御を提供しており、開発者はリアルタイムでの推論とモデル評価を迅速かつ効率的に行うことができます。
自分に合ったLLMを探すのに、複数のLLMモデルを同時に比較できるのはユーザーとして非常に魅力的ですね！
実際に使用してみた
説明だけ聞いてみてもピンとこないと思いますので、実際に著者が使ってみました！
まずはこちらのページからSambaverseにログインします！
ログインすると以下の画像のようにプロンプトを入力する項目と、比較したいLLを選択できる項目が出てきますので、比較したいLLMを選択してみてください。
今回著者は「gemma-7b-it」「llama-2-13b-chat-hf」の２つを選んで比較してみました。
「gemma-7b-it」は特定のタスク（翻訳、テキスト生成、質問応答など）に対して高い性能を発揮するとされており、「llama-2-13b-chat-hf」はチャットや対話形式のタスクで高い性能を発揮するとされています。また、両方とも多言語対応が可能なLLMとなっています。
今回入力したプロンプトは、「リアクトの意味を教えてください」としてみました。こちらは著者がシンプルに調べたいと思っていたことをそのまま入力しました。
このプロンプトに対して生成された結果がこちらです。
「gemma-7b-it」は英語でJavaScriptについて説明がありました。一方で、「llama-2-13b-chat-hf」は
英語のreactの意味を日本語で説明してくれました。両方とも翻訳が得意とありましたが、日本語のプロンプトに対して日本語で返答を返した「llama-2-13b-chat-hf」の方が、翻訳能力には優れているという推測を立てることができます。
この２つを比べるだけでも、LLMの回答はモデルによって大きく異なることが分かります。契約する前にSambaverseを使って比較できると、自身と相性のいいLLMを探すのに有効であることが、実際に使ってみて分かりました！
まとめ
いかがだったでしょうか？
たくさんのLLMが発表される昨今の「大LLM時代」において、全てのサービスを追っていくのには限界があります。そんな時に利用できそうなサービスが、今回紹介したSambaverseです。現段階では56個のモデル比較が可能ですが、今後もその数は増えるかもしれません！情報量が多すぎると諦める前に、このようなツールを使って効率よく情報収集するのもアリではないでしょうか？
ARCHETYP Staffingではクリエイターを募集しています！
私たちはお客様の課題を解決するweb制作会社です。現在webサイト制作以外にも、動画編集者や生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください！
また、アーキタイプではスタッフ１人１人が「AI脳を持ったクリエイター集団」としてこれからもクライアントへのサービス向上を図り、事業会社の生成AI利活用の支援及び、業界全体の生成AIリテラシー向上に貢献していきます。
生成AIの活用方法がわからない、セミナーを開催してほしい、業務を効率化させたいなどご相談ベースからお気軽にお問い合わせください！
ボタンから募集中の求人一覧ページに移動できます。
