はつねの日記

Kinect, Windows 10 UWP, Windows Azure, IoT, 電子工作

2026-09-27から1日間の記事一覧

第6回:ローカルで作ってAzureで動かす!シームレスなLLM推論基盤の構築(ACR / ACA)

はじめに ローカルでモデルを準備する(Windows 11) 1. GGUF(Ollama)モデルの場合 2. OpenVINO(Transformers)モデルの場合 推論 API をコンテナ化する(FastAPI) 1. コンテナ化をするためのフォルダ作成 2. OpenVINO が変換して作った 完成品(model.x…