Artificial Intelligence llama.cppとvLLMのメモリ区分の違い
きちんと対応付けできるのもあるけど、対応付けできないのもあるらしい。Model Weight及びKV Cacheは既に過去の記事で説明してるとおりなので割愛すると、llama.cppにおいてComputer bufferと呼ばれるものは、そ...
Artificial Intelligence 
Artificial Intelligence vLLMの設定を固める
vLLMをいい加減触らないとなーと言い出してもう何年経っただろう。気づけばちょっと掠るぐらいしか触ってない。何ともかっこ悪い話なんだけど、色々知らないことが多すぎるなぁと実際触れてみて感じるばかり。最終的に固まったConfigこういう設定で...
dify LLM推論処理時間の長さに待てないDify
最近、ドキュメントレビューツールを弄りつつしてると、こんなエラーが出るようになり、これの修正にかなりの時間を要したので備忘録としても記事化しときます。Failed to transform agent message: req_id: 22...
Artificial Intelligence Intel Arc Pro B70で発生したXeのCCS、BCSリセットを追う
トラブルの概要2026年9月18日、日常使いしてるMuse Glimmer 30Bの能力テストを行ってみたいなーと思い、以下の診断ツールを使用としているとき、障害が発生しました。ちょうどエージェント動作の評価をしてる最中に応答が返らなくなり...
dify langGeniusさん、マジか？
1.17.1へのアップグレードに必要なこと1.17.1のアップグレードに際し、またもやWeaviateユーザに悲しいお知らせ。Weavateのアップグレードが必要になったようです。しかも今回以下のバージョンに段階的に引き上げるという操作が必...
Artificial Intelligence 皆さんお待ちかね！？ Qwen3.8-27Bの実力を見てみる。
Hardware Intel GPUもPower制御できるらしい
Intel ARC PRO B70では、外部からの電源制御介入は出来ないと言う話を噂で聞いてて、その点については覚悟してたんですが、意外や意外、ちゃんとパワー制御が出来ることが分かりました。XPU Managerを通じて行うことが出来るよう...
Hardware Intel GPUの監視を行う
かなりVibe Codingでやっつけたので説明は雑ですが、一応できました。緑色は元々仕込んでたNVIDIA向けGPUのかんしテンプレートから引っ張った情報。青いグラフは今回実装したものになります。xpu-smiを仕込むまず大前提として、X...
Artificial Intelligence 早速Intel ARCがトラブった件
おいマジか勘弁してくれ事案発生ある日アクセスしようとしたところですね、サーバが固まってるんすよ。こんなログ吐いて。ERROR CRITICAL: Xe has declared device 0000:03:00.0 as wedged.E...
Artificial Intelligence Intel ARC PRO B70でMuse Glimmer 30Bを動かす（性能）
普段使いMuse Glimmer 30Bが4ビット量子化で動くぞー！ﾔﾀ───ヽ(･∀･)ﾉ───!!さて、Linux環境でやっとこさ無事に導入できたIntel ARC PRO B70（今後ARC B70と呼称）でMuse Glimmerを...