世界初!Sakana AIが自動で基盤モデルを開発できる技術を利用して生み出された画期的なモデルの紹介

日本を拠点とするAIベンチャーであるSakana AIが、世界初となる基盤モデル開発の自動化技術「進化的モデルマージ」を開発しました!
本記事では、Sakana AIの取り組みや開発されたモデルの概要について詳しく解説していきますので、ぜひ最後までご覧ください!

ブログはこちら
論文はこちら

ARCHETYP Staffingでは現在クリエイターを募集しています。
エンジニア、デザイナー、ディレクター以外に、生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください!

ボタンから募集中の求人一覧ページに移動できます。

進化的モデルマージの概要

Sakana AIの「進化的モデルマージ」技術を用いることで、複数の既存AIモデルを「親」として、モデルの特徴や機能を組み合わせ、新たな「子」モデルを自動的に生成することが可能になります。より簡単に説明すると、既存のモデルを組み合わせて、新しい基盤モデルを構築することが自動化できるようになりました。では、この自動でモデルを作れることの何がすごいかと言いますと、従来は、新しいAIモデルを開発する際には、大量のデータに基づく長時間の学習と膨大な計算コストが必要でしたが、進化的モデルマージを活用することで、既存のモデルを再利用し、新しいモデルを「訓練する」ことなく迅速に開発することができる点です。
この技術は、非英語圏の言語処理や、異なる領域間の知識を融合するモデルの開発において、大きな可能性があり、Sakana AIはすでに、数学的推論が可能な日本語言語モデルや、日本文化に特化した画像言語モデルなど、特定のニーズに応えるモデルを開発しています。さらに、進化的モデルマージの応用は、AI開発のデモクラタイゼーションを促進することにも繋がります。開発コストの削減とプロセスの自動化により、スタートアップ企業や研究機関でも、大規模なリソースを持たない状況でも、高度なAIモデルを開発し、活用することが可能になります。

引用元

Sakana AIのモデルを紹介

先ほどのセクションで、すでに開発されたモデルを紹介しましたが、より詳細に3つのモデルを解説していきます!

数学的推論が可能な日本語LLM「EvoLLM-JP」
EvoLLM-JPは、日本語での自然言語理解と数学的推論を組み合わせた言語モデルです。
英語の数学モデルと日本語の言語モデルを融合させることにより、数学の問題を日本語で解く能力を有しています。このモデルは、従来の大規模な言語モデルが持つ全般的な言語処理能力と数学的推論能力を、7Bパラメータの比較的小規模なモデルで実現していることが特徴です。

日本語で対話可能な画像言語モデル「EvoVLM-JP」
EvoVLM-JPは、英語の画像言語モデル(VLM)と日本語の言語モデルを組み合わせ、日本語での画像説明や質問応答が可能なモデルです。
日本文化に関する知識も組み込まれており、「鯉のぼり」など日本特有の文化的要素を理解し、適切に説明できます。

高速日本語画像生成モデル「EvoSDXL-JP」
EvoSDXL-JPは、拡散モデルに基づく画像生成技術を活用し、進化的モデルマージを適用することで開発された、わずか4ステップで高品質な画像を生成できるモデルです。特に日本語のテキストを入力として、具体的な画像を生成する能力に優れています。

以上が3つのモデル紹介になります。EvoLLM-JPとEvoVLM-JPはGitHubで公開されていますのでぜひ試してみてください。また、EvoVLM-JPはデモも公開されています。

GitHubはこちら
デモはこちら

実際に説明しづらそうな画像をアップロードしてみたところ、わかりやすく説明してくれました!

Sakana AIの今後の展望

Sakana AIは、今後も技術をフル活用して、さらに研究に注力していく方針です。
具体的には、進化的モデルマージ技術の応用範囲を拡大し、言語処理のみならず、画像認識や自然言語理解、ロボティクスなど、他のAI技術領域への適用を目指しています。また、国際的な研究コラボレーションを積極的に推進し、世界中の研究機関や企業と共同で、AI技術の進化を加速させることも計画しています。さらに、開発されたAIモデルのオープンソース化により、世界中の開発者が自由にアクセスし、利用できる環境を整えることで、AI技術の民主化を図る取り組みも進められています。
このようにして、Sakana AIは、技術の進化だけでなく、社会全体の持続可能な発展に貢献することを目指しており、その過程でAIがもたらす未来が、より明るく、よりアクセスしやすいものになることを期待しています!

まとめ

いかがだったでしょうか?
この記事を通じて、Sakana AIが開発した「進化的モデルマージ」技術とその可能性についてご理解いただけたと思います。
Sakana AIだけでなく、様々な企業の進化はスピードは早いですが、引き続き動向を追っていきましょう!

ARCHETYP Staffingではクリエイターを募集しています

私たちはお客様の課題を解決するweb制作会社です。現在webサイト制作以外にも、動画編集者や生成AI人材など幅広い職種を募集していますのでぜひチェックしてみてください!
また、アーキタイプではスタッフ1人1人が「AI脳を持ったクリエイター集団」としてこれからもクライアントへのサービス向上を図り、事業会社の生成AI利活用の支援及び、業界全体の生成AIリテラシー向上に貢献していきます。
生成AIの活用方法がわからない、セミナーを開催してほしい、業務を効率化させたいなどご相談ベースからお気軽にお問い合わせください!

ボタンから募集中の求人一覧ページに移動できます。

クリエイター登録して、案件情報を受け取る!

クリエイター登録