Hardware

Artificial Intelligence

Hermes Dashboardを使いたいよ

Hermes Desktopが使えないのでつい最近Hermes Desktopがリリースされて便利だという話は聞いたものの、悲しいかな私のノートPC環境があんまり贅沢でもなく、セットアップ時にエラーを吐いたりして全く先に進まないもんだから、...
Artificial Intelligence

RTX3060とGemma-4-12b

GeForce RTX 3060は意外にやる子過日、まさかの3万YEN切る価格で入手したRTX 3060ですが、実は以前会社員時代に最初に会社で購入したGPUでもあります。2022年当時の相場だとおよそ80,000JPYでしたね。このころは...
Artificial Intelligence

一部GPUを買い換えました

我が家のワークステーション、GPUにはRTX3050, GTX1660Superの2枚で構成されていますが、最近特にGTX1660Superの使い道がやっぱり厳しくなってきました。RTX3050だけだと使えないモデルがあるし、2枚で補い合う...
Artificial Intelligence

論文翻訳品質確認をしてみたよ。

Hy-MT2-1.8Bの実力を測ってみたTencentが公開した中で、軽量モデルであるHy-MT2-1.8Bについて評価をしてみました。Tencentは中国企業の中でもかなり初期段階からDeepLearningの画像系処理でもろもろ取り組ん...
Artificial Intelligence

LFM2.5-8B-A1Bというモデルを見てみる

超高速に答えを返すモデルLFM2.5-8B-1Aはそのモデル名を見てわかるように、総パラメータ数は8B(実際は8.5B)、アクティブパラメータは1B(実際は1.5B)のMoE(Mixture of Experts)モデルです。実はこの前身と...
Artificial Intelligence

Hermes Agentでモデルを変更したいよ

今回は、Customモデルしか登録してない環境上でGemini APIの環境設定を追加しますです。環境設定まず、環境設定から修正します。$ vi ~/.hermes/.env$ vi ~/.hermes/.env以下の箇所、GOOGLE_A...
Artificial Intelligence

Hermes Agentなるものに触れてみたよ

最近いろいろささやかれてる中で、Hermes Agentというツールがあり、要はここ最近登場してるClaudeCodeだったり、Codexだったりーなものに似たようなものってざっくり理解してるのだけど、これを投入してみたなど。冒頭文を日本語...
Artificial Intelligence

override-tensorで、指定した層だけをCPUにオフロードする手法

うちのブログをご覧になってくださる人からフィードバックが!なかなか書きっぱなしでフィードバックが返ってこない私のこのブログなんですけれども、有難いことにX.comでディープラーニングモデルのことを色々リサーチなさってるきしださん(が当ブログ...
Hardware

ZABBIXでNVIDIA-GPUを監視する際の注意事項

ZABBIXでは、NVIDIA-GPUを監視することが可能なのは会社員時代からよく理解しているんですが、そのプラグインの設定がUbuntu側の仕様に沿ってないらしいので備忘録として掲示します。参考URLは以下の通りです。本記事で記述している...
Artificial Intelligence

ガチでスクラッチから作ってみたいそんなあなたに

今、X.com上でこんなリポジトリが盛り上がってます。これ、何が入ってるかと言いますと、スクラッチでTransformerを使用したLLMを事前学習から始めるためのキットが詰まっています。全体構成全体構成は以下のようになっています。trai...