
これまで、このnoteでは2019年1月以降、2000個以上もの記事を書いてきました。そしてその全てで、公開時にタグを自分で考えていたのですが、そもそもこういう作業は生身の人間がやるよりも、生成AIがするほうが向いていますよね。
ということで、これからは生成AIにnoteと個人ブログ
の記事公開時に付けるタグを考えてもらうことにします。
記事の文章そのものをクラウドサービスのAIに渡してしまうと、勝手に学習材料に使われてしまうので、これについてはローカルPCに入れたLLMを使います。新しい情報が必要なわけではないですし、それほどものすごく演算が必要な作業でもないでしょうから。
Windows11でLLMを使っていた(酷使しすぎてPCを壊してしまった)時は、WSL2上にdockerとPortainerを入れて、OllamaでLLMを動かしていました。今はMXLinuxを使っているので、Windowsの時よりもdockerを使うのは楽になっていますが、このためだけに常時起動させるのも鬱陶しいので、AppImage版のLM-Studioを利用してみます。
メインPCのGPUがGeforce1050(4GB)なので、大したLLMは使えませんが、Gemma3 4bモデルでもこの程度の処理なら問題ありません。
もっと早くこういう使い方をすれば良かった・・・。
コメントを残す