LLM

Artificial Intelligence

YomiyasuをDifyで使用する

Qwenって出力の品質は良いけど、ちょっと文章がね・・と思った貴方へこんなプロダクトがあります。これ、非常に便利で、実際プロダクト名の通り「読みやすく」なるAgent Skillの1つです。非常に更新ペースが速く、既にv2.4.0が登場して...
Infrastructure

エンバーゴが破られたのは

エンバーゴとはエンバーゴ(embargo)とは、脆弱性の詳細と修正版のリリースを、事前に合意した「協調公開の日時」まで、全員が内密に保つという約束です。これが重要な理由はたとえば「PoCコード、つまり実際に攻撃が成立した攻撃コードが巷に出回...
Artificial Intelligence

LLMと実世界:エージェントはどうやって実世界に干渉するのか?

LLMが実世界に干渉するとき、何が必要か?LLMは現在、人間の作業の一部を肩代わりするぐらいに実行力を持ち、様々なところで活躍をしています。しかし、思い出してほしいのですが、当初我々の目の前に登場したChatGPTなどは、あくまでチャットボ...
Artificial Intelligence

勉強会イベント新しいの行ってきた

これに行ってまいりました。どちらかと言うと座談会に近いイベントだったのですが、凄く勉強になったというのは、私は殆ど外部LLMをちゃんと(?)使ったことはないんですよね。だから・・キャッシュというものの定義がイマイチ良く分からないサブスクリプ...
Hardware

我が家のある意味本当のメインマシン

Hewlett Packard Zbook-14u G6というノートパソコン現在、私のメインマシンとして動いてくれてるのは、HP Zbook-14u G6というノートパソコンです。スペックはそんなご立派なものではなく。スペックは以下のような...
Artificial Intelligence

llama.cppとvLLMのメモリ区分の違い

きちんと対応付けできるのもあるけど、対応付けできないのもあるらしい。Model Weight及びKV Cacheは既に過去の記事で説明してるとおりなので割愛すると、llama.cppにおいてComputer bufferと呼ばれるものは、そ...
Artificial Intelligence

vLLMの設定を固める

vLLMをいい加減触らないとなーと言い出してもう何年経っただろう。気づけばちょっと掠るぐらいしか触ってない。何ともかっこ悪い話なんだけど、色々知らないことが多すぎるなぁと実際触れてみて感じるばかり。最終的に固まったConfigこういう設定で...
dify

LLM推論処理時間の長さに待てないDify

最近、ドキュメントレビューツールを弄りつつしてると、こんなエラーが出るようになり、これの修正にかなりの時間を要したので備忘録としても記事化しときます。Failed to transform agent message: req_id: 22...
Artificial Intelligence

皆さんお待ちかね!? Qwen3.8-27Bの実力を見てみる。

Hardware

Intel GPUの監視を行う

かなりVibe Codingでやっつけたので説明は雑ですが、一応できました。緑色は元々仕込んでたNVIDIA向けGPUのかんしテンプレートから引っ張った情報。青いグラフは今回実装したものになります。xpu-smiを仕込むまず大前提として、X...