中野 亮太 (@ryoterm) header
中野 亮太 (@ryoterm) profile picture

本業と直接関係ない事ばかり書き込みます。 ゴルフ練習場向けダッシュボードwebシステムGitHubにて公開中 https://nitter.gq/t.co/EKmRa3NP9h

愛知県
Joined February 2010
Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)Photo by 中野 亮太 (@ryoterm)
今日は同業の経営者の集まりの会があったので、チラッと最近の情報漏洩の話を切り出してみた。 実質、委託先が管理しているので、漏洩するのを指を咥えて見ているしかないという悲しいオチと、自社で管理しないといけないと動き始めていたという話を聞いて、個人的に妙に納得してしまった。
1
69
昨夜、ローカルLLMを回してデモ(検証用とも)用月次レポートを生成してたのだけど、体感速度が 軽量なdenseモデル(gemma4)>strata(UD-Q4_K_XL、thinkオフ)>strata(IQ3_S)>Qwen系denseモデル(3.8 27Bとか、llm-jp4.1) だった件。 これも検証が必要だね。。 (strataが遅かったのはthinkingだけど)
2
287
⑨TownsOS2.1....(異端だというのは認識しております
Windows XP(日本語版)発売25周年😆! ということで、皆様が初めて購入したPCのOSは? ① MS-DOS/Windows 3.1 ② Windows 95/98/2000/Me ③ Windows XP ④ Windows Vista ⑤ Windows 7 ⑥ Windows 8/8.1 ⑦ Windows 10 ⑧ Windows 11 ⑨ その他
1
91
さすがVRAM112GB構成は違ったw ただ、StrataもProject Mayaも改善が速いので、記事にするのも大変そう(速度面でも変わってしまうので)
【西川和久の不定期コラム】GPUモリモリVRAM 112GBで「DeepSeek-V4.1-Flash」を動かしてみた pc.watch.impress.co.jp/docs/…
1
1
141
中野 亮太 retweeted
【西川和久の不定期コラム】GPUモリモリVRAM 112GBで「DeepSeek-V4.1-Flash」を動かしてみた pc.watch.impress.co.jp/docs/…
1
24
6
104
28,333
Strata 0.2.14(0.1.60)でエンジン部分が変わったと聞いて、とりあえず公式ベンチを実行。 2枚使用時におけるPrefillの改善が大きいけど、1枚時(5070Ti)もガッツリ早くなっているので、1枚運用は変わらず…かな。
1
2
14
1,133
肉体的疲労と気持ちに余裕がないとダメダメになることが、改めて発覚した3日間。 迷惑かけすぎです。。
44
中野 亮太 retweeted
今年の冬は大晦日まで「暖冬」となります。皆さま謹んで、宜しくお願い申し上げます。 #第77回NHK紅白歌合戦 #TMRevolution #西川貴教
1,193
37,482
2,454
328,994
8,212,778
インターネット老人会がハッスルしそうなネタを・・・。 えぇ、①(2MB)でございます。
おはようございます!ドスパラです💻✨ 初めて買ったPCのメモリ容量は? ①256MB未満 ②256MB〜1GB未満 ③1GB〜4GB未満 ④4GB〜16GB ⑤それ以上 本日もよろしくお願いします!
1
2
103
取り崩すって、どれだけ無茶な積み立てしたんだろうね。 ここはコーヒーでも飲んで、心を落ち着けながら放置プレイの一手でしょう。
【話題】新NISA、20代以下の取り崩し率が約2倍に ・つみたて投資枠の売却率は2025年に9.1%、70代の6.3%を上回り全世代で最高 ・売却理由は利益確定が最多、結婚や転勤で現金が必要になり売った例も
57
これを見るとRTX5080だけがプレミア価格化してしまっているのかなと思います。(いや、RTX5070Tiも十分に高くなってしまったと思います)
ローカルLLM用GPU、RTX 5080とRTX 5070 Tiを比較 同じ16GB VRAMで、生成速度の差は約1%(184.68 vs 182.43 tok/s)。 実勢最安は¥338,000と¥230,800で、1 tok/sあたり ¥1,830 vs ¥1,265。 モデルが16GBに収まるなら、5070 Tiがコスパ良好! 5080が効くのは、長い入力や複数人での同時利用(プロンプト処理 約+13%)。 ※価格は国内通販の最安(11/3時点・税込) #ローカルLLM #RTX5070Ti #RTX5080
1
2
284
noteにベンチ結果をまとめていた時、「実効メモリ速度で頭打ちしたのでは?」とAIにも言われた。 スペック値だけ鵜呑みにして、肝心のメモリ速度を計測していなかった手落ち💦
これGen5x16(64GB/s)でプレフィル速度向上が頭打ちになってるのはメインメモリ側の帯域の方がボトルネックになったからかもしれないね
1
58
後手だけどメインメモリの帯域を図ってみた。 実効値はPCIeの公称値まで到達していなかった・・・。頭打ちと言ったけど、このあたりがあるかも。(ただ自分の環境ではこれが限界。PCIe5.0x16の結果は参考値で。)
28
5060TiもPCIe5.0x8(スロットはx16)に挿してテストした結果を追加。Strataの結果だけど、Maya(2枚GPU利用時)をエージェントに使った時に時間がかかっていたのも、モデルの大きさの他にこれが効いていたのかも。 OCuLink変換ボードはPCIe5.0のM.2スロットに挿しているのに仕様上Gen4 x4止まり。ううむ。
1
4
1
16
1,950
StrataでPCIe帯域の影響調査が中途半端だったので、PCIe5x16接続のRTX5070Tiをgen4~2へ変えて追加調査。 StrataはGPU1枚の方が早いのでは?というのは、OCuLinkが大きく影響してたなと実感(「おま環」でございました)
4
24
7
150
31,477
追記。 StrataでRTX5060Ti使用時、decodeに関しては、OCuLink接続の速度があれば性能低下は少ないとも言えます。 うぅーん。Strata系のGPU複数枚運用でバランス取るのは環境により難しいですね。
1
1
1
14
5,129
NVI○IAと書いたカードを首からぶら下げれば完璧ですねw
ハロウィンの前だったら、ピンクのワンピだけでコスプレできたね
2
110
RTX5080、24GB版の存在に迷いつつも20万円前半で購入された方の大勝利。
1
352