ヨドバシに行ったらGPUの棚にRTX 3050 6GBくらいしかなくてすごいなーと思ってたのだけど、よく考えたら6GBを足すだけで結構いろいろできるんじゃないかと、買って挿してみました。 ヨドバシにウォシュレットを買いに行ったついでにGPUの棚を覗いてみたら、…

AIがコードを書くのでプログラマ(or エンジニア)が不要になるという話が出てくるようになりましたね。 けど、プログラマ不要論って、プログラミング言語が現れて以来、10年に1度くらいのペースで表れている話です。10年前の2015年あたりにはちょっと途切れて…

OpenCodeというオープンソースのコーディングエージェントから、GLM 4.7が無料で、しかもアカウント登録もなしで試せたので、やってみました。 コーディングエージェント、便利そうだけど課金がすごそうだし・・・と思ってた人も気軽に試せます。 https://op…

Mac上のLM StudioでLLMを動かすとき、MLX版とGGUF版があって、最近はMLX版のリリースが速いしMLXに発展してほしいし出力速度も速いし、ということでMLX版をなるべく使うようにしてたのですが、プロンプト処理がGGUF版に比べてかなり遅いようです。 そのため…

久しぶりに、Railsについて「設定より規約だなぁ」という発言を目にして、「規約よりアノテーションがいいし、AIに不利」みたいなツッコミをしたわけです。 ということで、どのようにAIに不利かまとめてみます。 一応、いまのRailsについてはAIがかなり学習…

音声言語モデルを試したい、とふと思って、そしてLM StudioあるのでGGUFで動かしたいと思ったけど、LM Studioは音声モデルに対応してないしGGUFに対応したモデルも少なくてハマったのでまとめ。 GGUFのある音声言語モデル 結局、Voxtral 3BとQwen2.5 Omni 7B…

NVIDIAから新しいモデル、Nemotron 3 Nanoが出ていました。30BのMoEでアクティブパラメータは3B。つまり30B-A3Bです。 試してみたら、かなり賢いんだけど、コーディングの長いやりとりをしてたら過去のコードをうろ覚えになってて変な挙動をしてました。 ど…

LLMにやさしいSui言語が話題だった。 で、「ヤサシクナイヨ」とか書いてたのだけど、それならSui言語にやさしいLLMを作ってみるのはどうか。 LLMにやさしい言語SuiはLLMにやさしくなさそう - きしだのHatena まあ、ファインチューンという金槌を持ってウロウ…

GLM 4.6Vが出てるのでMLXの4bit版を試してみました。 106BのMoEでアクティブパラメータは12B。画像や動画に対応しています。画像エンコーダーもあるので全体では108B。 ライセンスはMIT。 zai-org/GLM-4.6V · Hugging Face GLM-4.6V: Open Source Multimodal…

LLMにやさしい言語という謳い文句の言語、Suiが話題。 けどこれ、LLMにあまりやさしくなんじゃなかろうか。 https://github.com/TakatoHonda/sui-lang 9月にこういうエントリを書いてます。 AI専用のプログラミング言語は現れない - きしだのHatena ここで理…

昨日、Mistral 3シリーズがリリースされました。モデルは675BのMistral 3 Largeと、3B、8B、14Bという手ごろなサイズのMinistral 3です。このMinistral 3でコーディングや画像認識、3Bモデルのファインチューニングを試してみました。 そこそこ使えて画像認…