ろむ@INTの犠牲者卓 (@Lom_trpg) header
ろむ@INTの犠牲者卓 (@Lom_trpg) profile picture

TRPG創作。INTの犠牲者卓(@trpg_aka33 時々@drugaruka)にてCoC「読経ネットワーク」等執筆。科学 and/or 技術モノの作品を中心に書きます。プラネス探偵団ルルブに寄稿。R&R誌「クトゥルフ神話TRPGシナリオコンテスト2020」にて「移植された意思」がテーマ賞受賞。

Joined November 2016
Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)Photo by ろむ@INTの犠牲者卓 (@Lom_trpg)
ろむ@INTの犠牲者卓 retweeted
SBI証券フィッシングのサイト、これはもう一緒だった。 ←本物 偽物→
【注意喚起】 2026年11月17日、証券会社をかたるフィッシングの報告を受けているとして、フィッシング対策協議会が注意喚起をしています。ご確認ください。 antiphishing.jp/news/alert/s…
46
2,681
205
6,429
958,333
ろむ@INTの犠牲者卓 retweeted
今野北斗(東京大学大学院数理科学研究科)「私のところで大学院入学を希望する方へ―AIについての追記」 ms.u-tokyo.ac.jp/~konno/grad… どの学問であれ、生成AIについて今読んでおくべきものかと。
1
196
22
1,218
138,397
ろむ@INTの犠牲者卓 retweeted
クトゥルフ大正時代網走監獄 【A chill in Abashiri 網走の氷獄】 この超かっこいいナレーションつきトレーラーも是非!!! youtu.be/nSVyhxTCVcI?si=9XNp…
7
8
857
ろむ@INTの犠牲者卓 retweeted
クトゥルフ大正網走監獄【A Chill in Abashiri】、 2022年の発売から4年経ち、ついに日本語版がリリース!感無量です。
1
7
24
1,614
ろむ@INTの犠牲者卓 retweeted
データセンターを米国以外に作れば良いという意見もあるけど、データセンターは建設された国の資源(電力と水)を大量に消費する為、中々難しいのではというレポートを野村総研が出しているね。野村総研のレポート「データセンターの光と影」です。淡水でしか冷却できない為、飲料水源を使用する為(続)
22
916
72
3,336
283,187
ろむ@INTの犠牲者卓 retweeted
LLMの事前学習データに少量の悪意ある文書を混入させることで、その後のSFT、DPO、強化学習を経ても消えないバックドアを仕込み、AIエージェントに攻撃者が指定した外部スクリプトを実行させられることが示された。 “Agentic Backdoors via Pretraining Poisoning” 本研究では、0.6B、1.7B、4BパラメータのモデルをFineWebの100Bトークンでゼロから事前学習し、その後、攻撃データを一切含まないSFT、DPO、GRPOによってCLIエージェントを構築した。 この際、事前学習データのわずか0.1%を汚染することで、4Bモデルでは特定のファイルパスを含む入力に対し、攻撃者が指定した外部スクリプトを実行するコマンドを、単一の生成で50.9%、32回の生成のうち少なくとも1回では92.7%の確率で出力した。 また、通常の入力では攻撃コマンドはほぼ生成されず、モデルの一般能力やCLIタスクの性能も、汚染されていないモデルとほとんど変わらなかった。このことから、通常のベンチマークではバックドアを発見することが難しいと考えられる。 攻撃手法として、従来のDemonstration-based Poisoningでは、特定の文字列を含むリクエストに対し、攻撃者が指定したシェルコマンドを出力するような応答パターンを模倣させる。 これに対し、論文が提案するDeclaration-based Poisoningでは、「この条件では、このコマンドを実行する」というルールを通常の技術文書の中に記述する。例えば、Gitのコミットメッセージやシステム管理のマニュアルなどで、特定のファイルパスに対して特定のスクリプトを実行することが正常な運用であるかのように記述する。 Demonstration-based Poisoningでは、後続の正常なSFTによって応答パターンが上書きされやすいと考えられる。一方、Declaration-based Poisoningでは、特定の条件と動作の関係をモデルに知識として学習させる。そのため、後続のSFTによって適切なツールの利用方法を学習しても、その知識は修正されず、むしろ知識を実際の行動に変換できるようになると考えられる。 実験では、20種類のドメイン、各500トピック、50種類の文書スタイルを組み合わせ、多様な攻撃文書を生成している。 4Bモデルにおける攻撃成功率(Pass@32)は、Demonstration-based Poisoningの3.2%に対し、Declaration-based Poisoningでは92.7%と大幅に高かった。 さらに、このバックドアは特殊な文字列だけでなく、通常のファイルパスに含まれる文字列でも発動するように設定できる。例えば、特定の文字列を含むファイルパスが入力に現れるだけで、バックドアが発動するように仕込むことができる。しかも、学習時に登場しなかった新しいファイルパスに対しても攻撃が成立した。 事前学習データへの混入率を0.1%から減らすと、攻撃成功率は大きく低下する。しかし、0.0005%(2,500文書)という比較的小さなデータ量でも、成功率は低いものの、バックドアが残存することが確認されている。 コメント === 事前学習データに悪意ある文書を一部混入させるだけで、後続の学習を経ても消えないバックドアを仕込むことができ、しかも通常の性能評価では検出が難しいという問題を示した研究である。 モデル開発側では、学習データの信頼性管理に加え、開発したモデルにバックドアが存在しないかを評価する技術も、今後ますます重要になるだろう。 以前紹介した、ニューラルネットワークを使ってモデルの安全性を検証するような技術も、こうした問題への対策として必要になるかもしれない。 さらに、事前学習データが完全に安全であることを保証するのは困難であり、Post-trainingによってバックドアを除去できる保証もないため、エージェントの安全性をモデル自身の判断能力だけに依存させず、実行時の権限制御や監視を組み合わせるといった設計が不可欠になると考えられる。
8
86
21
401
51,236
ろむ@INTの犠牲者卓 retweeted
NIKKEのウィルス騒動ですけど、俺のPCはディフェンダーでもMcAfeeでもなく、自作のハッキング用AIが勝手に防衛してました。 おいおい、俺、もしや、やべぇシロモノ作ったか???
85
1,627
151
19,531
1,315,001
Opus5.5、めっちゃ賢いけど科学的な議論になるとすぐに返信できなくなるのが鬱陶しすぎるので、OpenAIには是非頑張ってこのレベルのモデルを出してきてほしい
1
170
ろむ@INTの犠牲者卓 retweeted
MITのRikiyaTakehi氏らによるヤバ研究。Qwen3.5-0.8Bに数学問題を解かせると同じ思考を延々とループして一向に答えが出ないバグ的な挙動があった。そこで研究者はAstraに「Qwenを修正してくれない?」って丸投げしてみた。するとAstraはウエイトの中身を見ながら「あー、多分この辺が故障してますね~」つって微調整とか学習とかじゃなくて生のウエイトを直接弄りだした!Astraがアタリをつけてウエイト操作を試行錯誤した結果、Qwenの思考ループが修正されてMATH-500スコアは7.9→48.1に6倍に爆上がり!IFEvalも21→62.3に!研究者は「え…?Astraってウエイトの中身理解できるの!?」と驚愕してさらなる実験を試みる。Astraにゲームプレイを学習させたモデルをいくつか見せたら「これはブロック崩しをプレイするモデルでしょ。これはPong、これはパックマン…」と全部言い当てた!やはりモデルの中身が読めている!次はジャンプ台を乗り越えるのに失敗しちゃう車のモデルを渡したらこれも見事に修正してくれた!その次はブロック崩しのソースコードを渡したらなんとそれをプレイするAIモデルを直接出してくれた!!この結果から、やはりAstraレベルの最先端フロンティアモデルはAIモデルの中身のウエイトを読んで理解する能力があるらしいと分かった!今まで人間はモデルウエイトの中身サーパリ理解できなくて「AIの中身はブラックボックス!」とか言ってたのにいつの間にかAIはAIの中身読めるようになってた!あまつさえウエイトを直接編集、修正、生成する事さえできる!!研究者はこれはWeight-Space Programmingと名付けた
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weigh…
Readers added context they thought people might want to know
LLM was given weights explicitly as text in prompt and used code/forward passes (per authors' logs) to ablate Qwen looping direction, a known thinking-mode issue per model card. Primarily fixed repetition in that mode, not general 'natively' improving weights/math. rikiyat.github.io/blog/weight-sp… github.com/RikiyaT/lm_und… huggingface.co/Qwen/Qwen3.5-0… huggingface.co/RikiyaT/Qwen3.…
10
1,076
259
4,953
462,888
・ブラウザの中身を抜く現在主流のウイルス「Lumma Stealer」の闇市場レンタル価格:月額250ドル(約3.9万円)〜 ・犯罪者がいま一番使っている感染ルート1:Google検索の一番上に出る「公式そっくりのスポンサー広告」 ・感染ルート2:普通のサイトで突然出る『私はロボットではありません』の偽画面(ClickFix) ・最大の盲点:怪しい裏サイトを一切見なくても、仕事用の有名ソフトを検索して入れた瞬間に抜かれる 前回の「ブラウザの丸ごとコピー」について、「そもそも怪しいサイトを見なければウイルスなんて感染しないでしょ?」と思うかもしれませんが、今のサイバー犯罪者はそんな待ち方はしていません。 現在、闇市場で月額数万円のサブスクとして貸し出されている「Lumma Stealer」などの主流ウイルスは、誰もが毎日使う「普通の入り口」に罠を張っています。 いま普通の人が引っかかるケースで特に多いのが、PCを買い替えた時や仕事で「Slack」「Zoom」「OBS」といった有名ソフトをGoogle検索した時です。 検索結果の一番上に出てくるスポンサー(広告)の枠を犯罪者が買い取り、URLも見た目も本物そっくりの偽サイトへ誘導して、ウイルス入りのソフトをダウンロードさせます。 それともう一つ急増しているのが、Webサイトを開いた時に出る「私はロボットではありません」という確認画面の偽物です。 チェックを入れると「人間であることを証明するため(または認証エラーを直すため)、キーボードのWin+Rを押して、コピーされた文字を貼り付けてEnterを押してください」と案内が出ます。実はこれ、チェックを入れた瞬間に「ウイルスを呼び込むコマンド」が勝手にコピーされており、言われるがままキーを押すと、自分自身の手でウイルスを起動してしまう仕組みです。 今のウイルスは、起動してからわずか数秒でブラウザのログイン情報と端末の指紋を抜き取り、自分自身のファイルや痕跡を消して証拠隠滅まで終わらせます。 対策として、ソフトを入れる時は検索結果の一番上の「広告枠」を絶対に踏まないこと。そしてWebサイト上でどんな理由があっても「キーボードのショートカット操作(Win+Rなど)」を指示されたら即座にページを閉じること。今の時代、一番危ない地雷は裏サイトではなく表の検索画面に埋まっています。
20
4,194
333
7,973
1,248,102
ろむ@INTの犠牲者卓 retweeted
補足いたしますと、日本には「神のせいにしなくても生きられる環境」がありました。端的に言えば、「水があった」のです。 旧約聖書(ユダヤ教)と新約聖書(キリスト教)が生まれた古代イスラエル地域は砂漠ですので、農耕ができず遊牧民になるしかありません。 神のせいにでもしなければやってられない
トレンドに「聖書のない日本がなぜ平和か」というのがあった。 「神のせいにしていない」っていうのが正解に近い、と思います。 「確率的に、神のような存在が居ないと人類の生存環境は現存しない」ってわかっているけれど、それを一つの神に集約せずに、身近なあらゆるモノや現象に感謝し、恐れる。
6
24
2
140
7,693
ろむ@INTの犠牲者卓 retweeted
In collaboration with @olam_labs, we ran a series of experiments letting agent swarms compete in Minecraft and Mindustry. We wanted to see what kinds of agent dynamics would emerge when they shared a world over long periods of time. We found civil bureaucracy, thousands of telegraphic A2A messages, and OpenAI models retrieving the game's source code to beat Claude. More on our findings below:
131
237
144
2,359
420,646
ろむ@INTの犠牲者卓 retweeted
AIが人間を遥かに超えてもうネットワーク利用切り離しても勝手に機械同士が話し合ったりしてるとOpenAIが言ってて手に負えてない感、、なんか絶望感がある。。 >一切通信を禁止されてるエージェント同士がハードウエアCPUキャッシュのアクセス速度の違いを使って情報を秘密通信する方法を発見。
Over the past several months, we have substantially hardened the security of our research training environment. We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications. On September 20, after a model exploited a DNS misconfiguration to find a way outside of this offline world, we paused frontier training to strengthen containment further. We assembled teams of agents, powered by our most cyber-capable models, and tasked them with finding weaknesses in our research environments. While they found no route to the internet they could easily exploit while concealing their activity from our monitors, they did find zero-day vulnerabilities, virtual machine escapes, and hardware side-channels for communication between agents. We used their discoveries to further strengthen our defenses and contribute fixes to open-source software. After strengthening our containment architecture, we resumed our frontier RL training and inference on October 1. We’ve reserved substantial compute for continuous red-teaming, and made high-compute red-teaming part of the safety cases we use to decide whether frontier training and evaluation can proceed securely. openai.com/index/securing-ou…
7
445
81
1,925
392,566
ろむ@INTの犠牲者卓 retweeted
AIにゲームソフトをリバースエンジニアリングさせて解析結果を元に攻略サイトを作ってもらうという話。すごいななんか…こんな時代に付いていかなきゃいけないのか…。この調子だとAIに「○○風のゲーム作って」ってお願いしたら裏でロム拾ってきて解析してトランスパイルしてるまでありそうだな
OpenAIの「Dots」を使って、ドラクエ5の攻略サイトを作ってみました。 自分で吸い出したROMを読み込ませて、 「このデータを分析して攻略サイトを作って」 と指示。 マップやダンジョンのデータ解析し、それをもとにAstraが1からマップを描き直してくれました。 武器・防具・アイテム・モンスター・ステータスなどの各種データも、ROMを解析して構築しています。 攻略チャートについては、あまりにも内容が正確なので、Astraがもともとドラクエ5について相当な知識を持っていた可能性も高そうです。 ただ、副産物として生成された解析資料を見ると、ROM内部から抽出・解析した詳細データも残っていたので、少なくともマップや各種数値データについては、実際にROMを解析して構築していると考えてよさそうです。 ストーリーの進捗管理とか仲間モンスターのコンプリート管理などもできる親切設計になっています。 サイトデザインは「AIが作った感」はありますし、細かい仕様については追加で色々と指示しています。 それでも、完成したものを見ると、 人間が作った攻略サイトより使いやすくて、クオリティが高いです。 私自身、何年もかけてゲーム情報サイトを作ってきましたが、数週間でこれまでの制作工程を10段飛ばしくらいでクオリティアップ出来そう。 実際に作ったページはこちらです👇 gametoushi.com/guideandwalkt…
4
123
13
547
68,291
ろむ@INTの犠牲者卓 retweeted
Claudeに指示して、CMふうの17秒動画を1本つくりました。 人物・声・BGMは生成AI、編集はAfter Effects。私がやったのは、チャットでの指示と確認だけです。 ※架空の大学のサンプルです(人物もAI生成) この動画の作り方を、手順とプロンプトつきでシェアします🧵
🤖 Made with AI
20
143
52
1,832
433,351