昔取った杵柄

VertexAI Searchを使うために(2)

まさかMCPサーバを作ることになるとは・・認証トークンの寿命は1時間しかないVertexAI SearchのAPIについて、作った後のApplication Propertyを参照すると、以下のような内容になっている。ぶっちゃけいうと、以下...
昔取った杵柄

VertexAI Searchを使うために

意外とめんどくさいっす。VertexAI Search使うの。そういう意味だと、SerpAIで行けるのであれば、それを使ったほうが幸せ・・・・かも・・・しれぬ(がくっ)まず、VertexAIを構成するこれ自体の構築手順は至極全うで、以下のよ...
昔取った杵柄

KVキャッシュとは

先の投稿でKVキャッシュの容量について話題を出したので、これを掘り下げて解説することにしました。トランスフォーマー型LLM/SLMにおける基本的な動き基本的にこの手のLLM/SLMはこんな動きをしてる。AIモデルは、特にBi-Directi...
昔取った杵柄

延々と「ちょまてよ!」を繰り返すQwen3.5

今日、半分試運転の意味でllama.cppを自宅マシンに突っ込みまして。そしてQwen3.5-2Bモデルをぶち込んでみました。ざっくり速度評価:正直奇跡だと思った今回の場合、大体トークン処理速度は 6 toks/s なので決して遅くはないで...
昔取った杵柄

Google Custom Search EngineもVertex AI Searchもわからないんで。

こんなしょーもないワークロードツールを作りました。タイトルのあれはいったい何?って話なんですが、そもそも新しく作るGoogle Custom Search Engineって一般Web検索がもうできなくなってるんですね。そういう風にCSE側の...
日々徒然

割と勘違いされていること

私自身、話を聞いてびっくりすることなんだけど、以下のような印象を持たれていたりする。リモートワークを望んでやってそう会話は苦手そう人と触れ合うことも苦手そういいえ、実際には私はこれです。人と会話するのは大好きですリモートワークよりオンサイト...
昔取った杵柄

Dify-なんか増えとる(エージェント制作時)

あれ、エージェントを作る画面の中で知らない欄が増えている・・・( ゚Д゚)ドキュメントというやつ。そうか、もういっそのことコンテキストに書物を突っ込む仕様も加わったのか・・・確かに無理やりナレッジに突っ込んでも幸せになれないケース増えたもん...
昔取った杵柄

Dify-ナレッジ投入で早速躓く

タイムアウトは大きめに設定をさて、起動したDifyにとりあえずArxivで拾ったナレッジを取り込みたく操作してみれば「ああ、やっぱあの頃の環境は相当贅沢やったな」ということに気づく。DB処理がことごとくタイムアウトしておる。なので、まずは....
昔取った杵柄

Difyを基本構成したときのリソース消費

なぁーにぃー?やっちまったな!さぁ、無謀にも12年前の2014年にヤフオクで購入した、PRIMERGY TX140 S1に対して、Difyというツールをインストールしました。一応動きましたのよ。実家の屋根裏部屋で40度を超す熱気の中10年以...
日々徒然

昔の鉄板が今となっては

GPT-4当たりが出るころ、当時よくやっていたプロンプトの書き方としてペルソナ設定というものを最初に記述し、その中で「あなたは大変優秀な〇〇です」とか書くのが鉄板と言われてたのだけど、どうやら今は違うようで。この記事の中でどうも、そうしたペ...