AI foundry

 他に色々なニュースが多くてあまり目立っていないが、MicrosoftからAI founaryというライブラリというかSDKなど一式がリリースされていた。使いやすさはさることながら、ローカルLLMを簡単に試すには良いツールだと思う。おそらく、Mac版も同時リリースというところを見ると、おそらくMS365のCopilotで使うための基礎技術だと思う、

Windowsで使う場合は、Copilot+ PC以上のスペックが必要らしい、最近のMPUチップでない限り、GPUやら何やら必要なので40万円くらいしそう。Macなら、小さい言語モデルなら、M2 Mac Book Airメモリ16GBもあれば十分みたいだ。Macはbrewでインストールできるので、とても簡単に試せます。

 メモリのサイズでGPUを使うかどうか自動判別されるようなので、メモリが多いほど良いみたいだが。。。

https://learn.microsoft.com/ja-jp/azure/ai-foundry/what-is-azure-ai-foundry

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です