Artificial Intelligence llama.cppとvLLMのメモリ区分の違い
きちんと対応付けできるのもあるけど、対応付けできないのもあるらしい。Model Weight及びKV Cacheは既に過去の記事で説明してるとおりなので割愛すると、llama.cppにおいてComputer bufferと呼ばれるものは、そ...
CUDA
Artificial Intelligence 
Artificial Intelligence Intel Arc Pro B70で発生したXeのCCS、BCSリセットを追う
トラブルの概要2026年9月18日、日常使いしてるMuse Glimmer 30Bの能力テストを行ってみたいなーと思い、以下の診断ツールを使用としているとき、障害が発生しました。ちょうどエージェント動作の評価をしてる最中に応答が返らなくなり...
Artificial Intelligence てんやわんやの大改造-GPUの組み替え
WindowsマシンからLinuxマシンへの転換を図るあれからWindowsマシンにIntel ARC PRO B70を入れて動かし始めたわけですが、ここで悲劇が一つ起きましたです。なんと、Windowsの地雷を踏みました。それはこれ。引用...
Artificial Intelligence Intel ARC PRO B70をのっけた。そして・・
Intel ARC PRO B70着荷しました。2026年9月2日水曜日。来ました来ました。お荷物が。Intel ARC PRO B70でございます。開梱しますと、内容はこんな風になっておりました。1つは本体、1つは 8pin x2→12p...
おきもち カーネルを入れ替えたらPodman→Docker-CEに戻さざるを得なくなった
ぽちりました。今日、こいつをぽちりました。決意しました。もう後には引けません。決定打は消費電力の低さです。チップでおよそ230W、ボード全体で290Wではありますが、電源コネクタとしては6pin x2と言うとっても不思議な代物です。こいつな...
Artificial Intelligence llm-jp-4-33b-thinkingに触れてみる
llm-jp-4というモデルを再び取り上げる以前、llm-jp-4のアーキテクチャ という記事や アーキテクチャの違いで何が変わるのか？ などで紹介したこともあって、これからちゃんと調べよと思いますなどと言いながら、気づいたら結構長い時間が...
Artificial Intelligence NVIDIAのCEOがX.comにアカウント作ったみたい。
NVIDIAの革ジャンCEO（Jensen Huang氏）がこの度x.comにアカウントを作ったらしいということですっごく盛り上がっている。以下はその初投稿。その内容は、以下の通り。私の最初の投稿として、@NVIDIA が署名した、オープン...
Artificial Intelligence 一部GPUを買い換えました
我が家のワークステーション、GPUにはRTX3050, GTX1660Superの2枚で構成されていますが、最近特にGTX1660Superの使い道がやっぱり厳しくなってきました。RTX3050だけだと使えないモデルがあるし、2枚で補い合う...
Hardware CPUを交換したよ
本日CPUを交換しました。左は既存であったIntel Xeon E5-1630v3、右は新しく載せ替えたIntel Xeon E5-2690v4です。ヤフオク！さんにて、なんと5,000円でXeon E5-2690v4を購入しました。新品当...
Artificial Intelligence 環境構築：CUDA入れていきましょ
とりあえずはCUDA導入に必要なことGPUはそろえたんで、次はそれを認識するための導入手順を抑えときましょということで書いています。必要な手順、実はここにだいたい書かれています。ほかのプラットフォーム・OSに関する情報もありますので、参考に...