Re:[1494] gpt-oss:20b入れてみた。
> Ollama使ってgpt-oss-20b入れてみた。
LM Studioより良さそうだね、今度暇を見て入れてみよう。
120bは必要メモリ80GBとかいうから流石にねw
gpt-oss-20bは動かすだけなら内蔵GPUでも動くらしいから、画像生成AIよりは軽いんだね。
LM Studioより良さそうだね、今度暇を見て入れてみよう。
120bは必要メモリ80GBとかいうから流石にねw
gpt-oss-20bは動かすだけなら内蔵GPUでも動くらしいから、画像生成AIよりは軽いんだね。
gpt-oss:20b入れてみた。
Ollama使ってgpt-oss-20b入れてみた。
https://digeon.co/blog/ollama-gpt-oss-local-llm#hecdec40004
いい感じに動いてる。
gpt-oss-20bに、120bは動くか聞いたら全く無理だってw
gpt-oss-20bならRTX 3060 Ti以上あればビジネス用途で「リアルタイム」に近い速度が得られるとのこと(gptの受け売りw)
https://digeon.co/blog/ollama-gpt-oss-local-llm#hecdec40004
いい感じに動いてる。
gpt-oss-20bに、120bは動くか聞いたら全く無理だってw
gpt-oss-20bならRTX 3060 Ti以上あればビジネス用途で「リアルタイム」に近い速度が得られるとのこと(gptの受け売りw)
Re:[1490] そういえば・・・
> 前から思ってたんだけど、エスコンフィールドってAMAの実家の近くか?
エスコンフィールドのすぐ隣が私の通ってた北広島高校、なので実家から徒歩圏内です。
もう少し近ければ駐車場でも作って一稼ぎできたんだけどねw
エスコンフィールドのすぐ隣が私の通ってた北広島高校、なので実家から徒歩圏内です。
もう少し近ければ駐車場でも作って一稼ぎできたんだけどねw
そういえば・・・
前から思ってたんだけど、エスコンフィールドってAMAの実家の近くか?
なんか、昔書いてた年賀状の住所が北広島だった記憶が・・・
なんか、昔書いてた年賀状の住所が北広島だった記憶が・・・
Re:[1486]
>Pixel10aが出たら買おうかと思ってたんだけど、今Pixel10買った方が良いのか悩み中
あ-、5070 Ti Superと同じく出ない、もしくは出てもショボくて高いなんて可能性もあるねー
>ローカルAI動かすならグラボのメモリ12G以上必須ってのは本当なの?
俺が使っている画像系の、Stable Diffusionは、GTX1060 6GB でも動くっちゃ動く。
(Stable Diffusionを動かすにはNVIDIA製GPUでVRAM 8GB以上が最低ラインと言われてる)
汎用LLMは、これから入れるつもりだが、gpt-oss-20bとかでなければいけるんじゃないかな。
Google Gemma 3n E4Bとかなら、Stable Diffusionよりも軽いらしい。
>メモリ8Gと12Gの差がどこまであるんだろうかと…
俺も調べたけど一概には言えないっぽい。
どんな用途のLLMを使うかにもよるらしい。
https://soroban.highreso.jp/article/techblog-aigpu
一般的には、GPT-OSS-20Bみたいな大型言語モデルはメモリの容量で、画像生成AIはGPUの演算性能とVRAMの速さらしい。
あ-、5070 Ti Superと同じく出ない、もしくは出てもショボくて高いなんて可能性もあるねー
>ローカルAI動かすならグラボのメモリ12G以上必須ってのは本当なの?
俺が使っている画像系の、Stable Diffusionは、GTX1060 6GB でも動くっちゃ動く。
(Stable Diffusionを動かすにはNVIDIA製GPUでVRAM 8GB以上が最低ラインと言われてる)
汎用LLMは、これから入れるつもりだが、gpt-oss-20bとかでなければいけるんじゃないかな。
Google Gemma 3n E4Bとかなら、Stable Diffusionよりも軽いらしい。
>メモリ8Gと12Gの差がどこまであるんだろうかと…
俺も調べたけど一概には言えないっぽい。
どんな用途のLLMを使うかにもよるらしい。
https://soroban.highreso.jp/article/techblog-aigpu
一般的には、GPT-OSS-20Bみたいな大型言語モデルはメモリの容量で、画像生成AIはGPUの演算性能とVRAMの速さらしい。
Re:[1484] Re:[メモリ高騰]
> 私は駆け込みでスマホ買った。(AQUOS R10が値下がりしてたんで)
スマホも来年はヤバいと言われてるよね
Pixel10aが出たら買おうかと思ってたんだけど、今Pixel10買った方が良いのか悩み中
> でも、私のRTX 4070 Ti Superの後継、RTX 5070 Ti Superは発売がヤバいらしい。
ローカルAI動かすならグラボのメモリ12G以上必須ってのは本当なの?
グラボマイニングが終了した今、ゲームはPS5でいいやって場合グラボの用途としちゃLLMだと思うんだけど、メモリ8Gと12Gの差がどこまであるんだろうかと…
RTX 5070 Ti Superの24Gまではちょっと手が出ないんだけどねー
> ちなみに、2025年7月の、DDR4 PC4-25600 16GBx2枚の値段は12000円弱。
DDR5の高騰でDDR4対応のCPUやマザボの引き合いが復活してるのはまだしも、DDR3対応の中古CPUやマザボも値上がってるとか、ちょっと異常だよね
> 月曜までは、12万前後でRTX3060のモデルが買えた。
アマゾンでDDR5の32Gが2.3万で出てて、おっ安いなと思って少し後に見たらもう売り切れw
まー2027年には値下がりに転じるだろうというのを信じて、今は踊らされないように心がけてますw
スマホも来年はヤバいと言われてるよね
Pixel10aが出たら買おうかと思ってたんだけど、今Pixel10買った方が良いのか悩み中
> でも、私のRTX 4070 Ti Superの後継、RTX 5070 Ti Superは発売がヤバいらしい。
ローカルAI動かすならグラボのメモリ12G以上必須ってのは本当なの?
グラボマイニングが終了した今、ゲームはPS5でいいやって場合グラボの用途としちゃLLMだと思うんだけど、メモリ8Gと12Gの差がどこまであるんだろうかと…
RTX 5070 Ti Superの24Gまではちょっと手が出ないんだけどねー
> ちなみに、2025年7月の、DDR4 PC4-25600 16GBx2枚の値段は12000円弱。
DDR5の高騰でDDR4対応のCPUやマザボの引き合いが復活してるのはまだしも、DDR3対応の中古CPUやマザボも値上がってるとか、ちょっと異常だよね
> 月曜までは、12万前後でRTX3060のモデルが買えた。
アマゾンでDDR5の32Gが2.3万で出てて、おっ安いなと思って少し後に見たらもう売り切れw
まー2027年には値下がりに転じるだろうというのを信じて、今は踊らされないように心がけてますw
AMA
2026/01/04(Sun) 23:09

