クイックスタート：Glows.ai で LLAMA3.1 を実行する
チュートリアル
LLaMA は Meta が開発した自然言語処理（NLP）モデルです。70 億から 650 億パラメーターまでのモデルがあり、多言語テキスト生成、対話型 AI、言語推論などのタスクを処理できます。
コミュニティとプラットフォームの統合により、LLaMA を実行するための環境が用意されています。事前学習済みモデル、計算リソース、操作ツールが含まれており、以下の手順で環境を設定して WebUI を開けます。
ステップ 1：Glows.ai にログインして環境を起動する
-
登録してログインする Glows.ai にアクセスし、アカウントを登録してログインします。
-
環境を起動する ダッシュボードで LLAMA タスクテンプレートを探します。クリックすると、必要なリソースと依存関係が設定されます。 注意： Glows.ai では Llama 3.1 を 2 種類の構成で提供しています。
- 8B：コンシューマー向け GPU での導入と開発に適しています。
- 70B：大規模な AI ネイティブアプリケーション向けです。70B 構成には 2 Unit Qty NVIDIA GeForce RTX 4090 GPUs 以上が必要です。
ステップ 2：Llama 3.1 にアクセスする
Llama 3.1 の環境には次の方法でアクセスできます。
- VNC（Port 5901）
My Instances>Access>VNC Portを開き、VNC Command などの必要な情報を確認します。- 詳しい手順は、VNC で Glows.ai のコンピューティングリソースに接続する方法を参照してください。
- HTTP WebUI（Port 8080）
- URL を開きます：
https://tw-03.access.glows.ai:24527?token=iOuz4vDMME - 画面からテキストを入力し、音声パラメーターを調整できます。
- SSH アクセス（Port 22）
-
SSH では、コマンドラインからバックエンド環境にアクセスして高度な操作を行えます。
-
SSH コマンド：
bash
ssh user@<your-instance> -p 22
- パスワード：Glows.ai ダッシュボードのインスタンス詳細を参照してください。
ステップ 3：結果を保存して連携する
- 出力をエクスポートする
- WebUI から生成内容をローカルデバイスへ保存できます。
- ほかのシステムと連携する
- 大規模なテキスト処理や業務ワークフローとの連携には、Glows.ai の API デプロイツールを使って Llama 3.1 をアプリケーションやサービスへ組み込みます。