Artificial Intelligence llama.cppとvLLMのメモリ区分の違い
きちんと対応付けできるのもあるけど、対応付けできないのもあるらしい。Model Weight及びKV Cacheは既に過去の記事で説明してるとおりなので割愛すると、llama.cppにおいてComputer bufferと呼ばれるものは、そ...
llama.cpp
Artificial Intelligence 
dify LLM推論処理時間の長さに待てないDify
最近、ドキュメントレビューツールを弄りつつしてると、こんなエラーが出るようになり、これの修正にかなりの時間を要したので備忘録としても記事化しときます。Failed to transform agent message: req_id: 22...
Artificial Intelligence Intel Arc Pro B70で発生したXeのCCS、BCSリセットを追う
トラブルの概要2026年9月18日、日常使いしてるMuse Glimmer 30Bの能力テストを行ってみたいなーと思い、以下の診断ツールを使用としているとき、障害が発生しました。ちょうどエージェント動作の評価をしてる最中に応答が返らなくなり...
Artificial Intelligence 皆さんお待ちかね！？ Qwen3.8-27Bの実力を見てみる。
Artificial Intelligence 早速Intel ARCがトラブった件
おいマジか勘弁してくれ事案発生ある日アクセスしようとしたところですね、サーバが固まってるんすよ。こんなログ吐いて。ERROR CRITICAL: Xe has declared device 0000:03:00.0 as wedged.E...
Artificial Intelligence てんやわんやの大改造-GPUの組み替え
WindowsマシンからLinuxマシンへの転換を図るあれからWindowsマシンにIntel ARC PRO B70を入れて動かし始めたわけですが、ここで悲劇が一つ起きましたです。なんと、Windowsの地雷を踏みました。それはこれ。引用...
Artificial Intelligence Intel ARC PRO B70をのっけた。そして・・
Intel ARC PRO B70着荷しました。2026年9月2日水曜日。来ました来ました。お荷物が。Intel ARC PRO B70でございます。開梱しますと、内容はこんな風になっておりました。1つは本体、1つは 8pin x2→12p...
Artificial Intelligence llm-jp-4-33b-thinkingに触れてみる
llm-jp-4というモデルを再び取り上げる以前、llm-jp-4のアーキテクチャ という記事や アーキテクチャの違いで何が変わるのか？ などで紹介したこともあって、これからちゃんと調べよと思いますなどと言いながら、気づいたら結構長い時間が...
Artificial Intelligence Qwen3.8-27Bに触れた
待望のSLMとなるか？Qwen3.8のコンパクトモデル登場！まさかの2026年8月15日、終戦記念日の午前0時にリリースされました、Qwen3.8-27Bでございます。これより前に登場したQwen3.8-Maxに相当するんじゃないかと言われ...
Artificial Intelligence Gemma-4-12b-it Audio Transcriptを試す
Llama.cpp付属のWeb-UIで実現可能Gemma-4-12b-itでは、それまで外付けエンコーダーを必要としていたものがモデルの中に組み込まれ、特に意識することなくオーディオ書き取りが行えます。私がオーディオ書き取りの機能をモデルを...