フリーランス活動がぼちぼち始まりました。

おきもち

こんな私にも仕事はあるようだ

「メンヘラで神経筋疾患持ちかつオカマなおっさん」といういろいろめんどくさい系コンプリートした人間ではありますので、「まず転職はねぇな」と始めたフリーランスではありますけれども。

こんな私でもニーズはあったみたいで、会社を残念な形で辞めちゃった私にも一応AIウォッチャー・リサーチャーとしての仕事がありまして。とある企業さんに対して、今細々と記事執筆をしていたりします。とりあえず1か月目は事務処理含めて完了。2か月目の仕事にじわじわ取り掛かってます。

実は今から2年前、前職において1年ちょっと一緒に仕事した大先輩が居りまして。
その方が転職されてとある企業でフル稼働なさって居りまして。仕事を辞めてしまった私に声をかけてくれまして。その方は私のLLMに対する視野をがっつり広げてくださった大恩ある方なんですね。
こうして声をかけてくださったことに対しても本当に感謝です。ビジネスフィールドでは私のノウハウは一切役に立たないんだと思ってましたから。

今後、どこまで大手を振って歩けるかは正直分かりませんです。とりあえず妻に対して今までと変わらぬ生活レベルを提供し続けるべく、いろいろあれこれ調べまわって、つかんだ技術的な内容をうまいこと解釈しながら検証し、発信し続ける・・そして誰かの役に立っていくべく引き続き努力を積み上げていく所存です。

それにしても・・妻が義母に「フリーになったんだよ」という報告をしたらしいんですが(妻の実家もまた自営業のクリーニング屋をやっておりまして)、義母から「まぁ、独立なさったのね」と言われて率直に「あ、そうか、普通の業界だとこれ『独立』かぁ」と思ったそうですw。私の場合はどちらかと言うと「フリーターっぽいプータロー」なイメージでフリーになりましたのでね(苦笑)

ローカルLLM界隈に対する違和感

ローカルLLMって私自身は「オンプレミスで推論基盤や学習基盤を使う人たち」と言う想定をしてまして、それが自宅のデバイスにも踏み込んでいく領域を含めて考えております。が、最近x.comを見てるとどうも

「札束で殴って自宅ラボをくみ上げていく領域」

みたいに見えていてなんだか違和感を感じることがあります。特にここ最近はDGX-Sparkシリーズ値上げ前ということもあってえらくそこら辺の声が大きく聞こえたり。

どこか数年前ぐらいからちらちら聞こえる「自宅ラボ自慢」「自宅ラック系」に似たような傾向を感じていてそこが違和感の震源なのかな?とか思ったり。私が指一本ぐらいは突っ込んだ「自宅ラック系」って、自宅でエンプラサーバを設置する際のノウハウや技術を共有する場だったはずなんですが、いつの間にかラックが何架あるか?とかどんだけごっついストレージ入れてるか?が自慢になってしまい、「中古で仕入れた奴にで動かせるFeatureは何があった」とか「◎◎のコンポーネントが壊れると近所迷惑だから気をつけろ」とか、そういう話は全く出てこず「あれ?」みたいに思うことがあったり。今のローカルLLM界隈はそういう所に対する違和感を感じます。

例えばそもそもえらくぶっといCopperな線をPeer to Peerでつないでるけどそれ、どんなプロトコルでつないでるのかとか、そういう所をノウハウとして主張してもいいんじゃない?とか、技術的にどんなふうにそのデバイスは見えるのか?とか、そういう話をしてもいいじゃない?とか思うんすよね。(RoCEとか動いてんのか?とか+ (o゚・∀・) + ワクワクテカテカ +しちゃうじゃないかっ)

ただでさえ電源廻りで怖いポイントはいっぱいあるのだから、どういう風に気配りをしてますよとかそういう話があってもいいぢゃない?とか。

でもそういうのなしに「うちには2枚のGPUがある」とかだとそれこそ単なる金持ち自慢にしかならない。いったい彼らは何を重視して自宅にそんなご立派なものを導入しまくってるんだろうかとか、そういうのはないんだろうかなとか思いながらタイムラインを眺め読みしています。私の考えが古すぎるのかな?だとしたら時代に取り残されてしまったのかなぁ・・とかあれこれぼんやり考えながら。

そういう意味でこんなブログは良いなーとか思いながら自分も頑張ろうと思ってるところです。とはいえ、お仕事の兼ね合いで今は公開できないネタしかやってないんだけれどもショボ──(´・ω・`)──ン

ポンコツだけど使える。RTX 3060×2で動かすローカルLLMエージェントの実感
RTX 3060 12GB×2で動かすローカルLLMエージェントの実感。Gemma-4-26B E4BとHermesを使い、ポンコツだけど小間使いや相棒として使えるローカルAIの距離感を整理しました。

こちらは我が家よりもグラボ1枚分立派な @kinkuman_net さんが営んでるブログなんですけど、ハード面の扱いに関してとても丁寧に解説してくださってたりするのでお勧めです。

それにしても、作った記事どこに載るんかなぁ・・・ポートフォリオとして当ブログから記事紹介してもいいよーって了承は得ているので、乗ったらポインタ張ってみようかなーとは思ってます。

コメント

タイトルとURLをコピーしました