AIを使っていてわかっていることは、最終的にはコストが問題になると思われる点
で、多少性能は落ちても低コストで使用できる。且つ、データの外部流出したくないというニーズは多くなると思う。
現状ローカルLLMでそれは実現できるんだが、性能がどんなもんかとか、設定はどんな感じかとかがよくわからんので、とりあえず設定してみた。
LLMはollamaというアプリを使うと簡単にDLして使える
https://ollama.com/
ただ、コレだけだとローカルで、プロンプトを使うので使い勝手が悪い
で、WEBI/Fとして、openwebuiというアプリを用意する。
自宅サーバーにdockerが入ってるので、そこに入れて、メインマシンのollamaと連携する
https://hub.docker.com/r/openwebui/open-webui/tags
意外と簡単につながった。
現状gemma4 26Bを使って実験してる。
性能は、いかんせんグラボが4060ti 8GBなので、まあまあだ。
ただ、情報が外部流出しないで、このくらいいければまぁ良いんじゃないかと思う
もうちょっといろいろ弄ってみるかな
ほとんど使ってなかったGiteaを停止した。
これで現在自宅サーバーで稼働しているのは、
HP用のnginxとapache、メモ用のmattermostだけになったのか。。
growiも止めちゃったし、ほとんど動いてないな。。
元々、昔作ったあれこれを後で見返すために残しておいたものなんだが、昨今のAIのおかげで昔のものを見返すことがほとんどなくなったというのが大きい
時代かなと思うが、こいつに登録されているものが外部流出するといろいろ洒落にならないことを考慮すると、止めたうえで闇に葬るのが一番だと思ったわけだ。
仕事の愚痴
新人が7月から1人いたんだが、10月末でギブアップと言ってきた。
意味が分からん。正直全くできないので、業務と全く関係ない作業をやってもらって指導するとか、議事録書かせて指導するとかしてた。
正直AIにやらせた方が効率的なので、新人にさせる仕事がないのが正直な所
最近の若手は失敗経験がないので、経験不足を突いて指導すると折れることがあるらしい
面倒な事だ。。
うち外資なのに新人を教育してあげるとか、どうなってるんだ。。
ハンターをやるためにアストロのコンパネを復元させてPCでやってみるという試みはうまくいった。
ついでにスト6をちょっとやってみたのだが、とりあえずオンライン対戦は怖いところですなぁ。クラッシックで普通にフルコンボ入れてくるブロンズとかいるのかー
昼間から夕方にかけてのキッズと戯れているのが僕的には良い感じだと思った。
ちょろっと動かす程度でとりあえず満足したので、オフラインに引きこもるかな
リビングのPCでやりたいんだが、いかんせんグラボが高くて今買うべきか非常に悩みどころではある。
