Glows.ai:ヘテロジニアスコンピューティングで AI 計算基盤を構築

AI 開発に必要な計算量が増え、計算リソースの確保が多くのチームにとって課題となっています。Glows.ai はヘテロジニアスコンピューティングを採用し、幅広いハードウェアに対応しています。Elastica 技術を使うことで、異なる種類の計算リソースを 1 つのインスタンスに統合できます。
幅広いハードウェアに対応
Glows.ai は AI 向けの TPU や NPU に加え、NVIDIA H100、H200、GeForce RTX 4090 GPU、Apple シリコンをサポートしています。ユーザーはワークロードに合う計算リソースを選べます。
Apple 独自のチップも利用できます。Glows.ai は仮想化された OSX 環境を通じて Apple シリコンの GPU アクセラレーターを提供し、このハードウェアを必要とする AI アプリケーションにも計算リソースを用意します。
Elastica 技術:異なるハードウェアを 1 つのインスタンスに統合
Glows.ai 独自の Elastica 技術は、ヘテロジニアスな計算リソースをほぼゼロの遅延で統合します。ユーザーは同じインスタンス内で複数のアクセラレーターを組み合わせ、用途に応じて TPU、GPU、CPU などを割り当てられます。
この構成により、ハードウェアの利用率を高めながら、種類の異なるハードウェアで同じワークロードを処理できます。小規模な推論から大規模なモデル学習まで、単一のハードウェア構成に縛られず、タスクに合わせてリソースを配分できます。
Glows.ai は、規模の異なる AI ワークロードに応じたハードウェア構成を提供します。小規模な推論にも大規模なモデル学習にも設定を調整でき、計算需要に合うリソースを無駄なく使えます。
次のステップ:個人向け計算リソース管理
現在、ユーザー自身が計算リソースを管理できる次世代の個人向けアクセラレーター管理システムを開発しています。画面からリソースの割り当て、タスクのスケジュール、性能の監視を行えます。すでに所有しているハードウェアも管理対象に加えられるため、追加コストを抑えられます。システムはタスクに応じてリソースを割り当て、適したハードウェア環境で処理を実行します。
今後の計画
AI 開発には計算基盤に加え、データ、モデル、監視のためのツールが必要です。私たちはこれらの開発ツールを増やし、改善を続けます。研究者がインフラの管理に費やす時間を減らし、研究やアプリケーション開発に集中できる環境を目指します。
AI 技術の進歩には、研究コミュニティーとの協力が欠かせません。Glows.ai は、開発者が AI アプリケーションをともに作れる計算環境を提供し、皆さんと新しい使い方を探していきます。
Glows.ai の詳細:
- ウェブサイト:https://glows.ai
- Discord:https://discord.gg/glowsai