生成AI
はじめに 事前準備：Docker Desktop と WSL2 環境の導入 WSL2 および Linux ディストリビューションの有効化・インストール 1. 管理者権限で PowerShell を開く 2. WSL機能のインストール 3. Ubuntuのインストール Docker Desktop のインストールと起動 1. …
はじめに vLLM を起動 1. Python 仮想環境に接続 2. 実行される Python バージョンの確認 2. vLLMを起動 Open WebUI Open WebUI とは Open WebUI を起動 1. Python 3.12 用仮想環境の作成 2. Python 仮想環境に接続 3. 実行される Python バージョンの確認 4…
はじめに Windows で動作する vLLM について GPUについて NVIDIAドライバをインストールする 1. ダウンロード 2. インストールと動作確認 Python環境を準備する 1. Python バージョンの確認 2. Python 3.13 用仮想環境の作成 3. Python 仮想環境に接続 4. 実…
はじめに なぜ vLLM × Azure ML なのか 全体構成 Hugging Face モデルを safetensors で取得 1. Hugging Face へのログイン認証 2. モデルへのアクセス認証 3. ダウンロード vLLM 用コンテナの資材を用意 1. Dockerfile（vLLM GPU 用） 2. フォルダ構造の確…
はじめに なぜ ACA Serverless GPU × vLLM なのか 全体構成 Hugging Face モデルを safetensors で取得 1. Hugging Face へのログイン認証 2. モデルへのアクセス認証 3. ダウンロード vLLM 用コンテナの資材を用意 1. Dockerfile（vLLM GPU 用） 2. フォル…
はじめに ローカルでモデルを準備する（Windows 11） 1. GGUF（Ollama）モデルの場合 2. OpenVINO（Transformers）モデルの場合 推論 API をコンテナ化する（FastAPI） 1. コンテナ化をするためのフォルダ作成 2. OpenVINO が変換して作った 完成品（model.x…
はじめに Ollama によるWindows 11 ローカルAI環境構築手順 前提条件（推奨） Ollama のインストール 1. winget でインストール 2. サインアップ 3. 動作確認 Hugging Face から GGUF モデルを取得 1. GGUFモデルの公開状態を確認 2. GGUFモデルのダウンロー…
はじめに ノートPCのスペック vLLM はノートPCで動くのか？ ノートPCで現実的に使える選択肢（vLLM 以外の代替策） 1. Hugging Face Transformers（CPUモード） 2. GGUFモデル（llama.cpp / Ollama） 3. Intel OpenVINO（Intel CPU最適化） 4. CPU環境で選ぶ…
はじめに なぜ LLM の推論には GPU が必要なのか vLLM が対応している GPU（2026 年時点） 対応 GPUの例（NVIDIA CUDA） CUDA 以外の対応・非対応環境の例 Azure の GPU SKU と vLLM の対応表 図解：vLLM と GGUF（llama.cpp 系）の違い アーキテクチャの違…
はじめに vLLM とは何か？ 技術のジャンル名（総称）ではない vLLM は LLM を高速に動かすための推論エンジン 主な特徴： Hugging Face とは何か？ Hugging Face は 【モデルとデータの巨大なプラットフォーム】 なぜ Hugging Face が標準になっているのか？…
はじめに 1. 生成AIにおける「データ」とは何か？ weights は「巨大な知識をぎゅっと固めた数字の集まり」 2. 生成AIにおける「ロジック」とは何か？ ロジックは「入力された数字を別の数字へと変換するルール」 3. 生成AIにおける「コントロール」とは何か…
はじめに こんにちは！ Microsoft の Imagen Cup をご存じですか？ もし、高校時代までにアプリコンテストに参加した経験があれば、18歳以上の学生を対象にした世界的なイベントで、テクノロジーを通じて新しいソリューションを創造し、仲間たちと共に競い合…
前回：hatsune.hatenablog.jp はじめに 前回の投稿を書いているときに、Voice Live APIを使って、「You can add Azure Speech in Foundry Tools capabilities such as noise suppression, echo cancellation, and advanced end-of-turn detection」が可能と…
aitour.microsoft.com 2026年3月24日に東京ビックサイトにて「Microsoft AI Tour Tokyo」が開催されます。 私も Microsoft MVP として Connection Hub のサポートをボランティア予定です。 AIに関すること、ぜひ、会場でお話ししましょう！
