ごまちゃんをもふもふするアカウント. Rust と LLM でご飯食べてます． 敷嶋重工社員 #GomahuArt ←Handwritten Goma images #ImportAzarashiAsAI ← AI generated images #AzarashiLivesEverywhere
Sendai City
Joined April 2010
- Tweets16K
- Following6.5K
- Followers3.1K
- Likes177K
ごまふあざらし(GomahuAzarashi) retweeted
Rust、難しそう…と思ってる人にこそ読んでほしい！
「いちばんやさしいRustの教科書」が登場📘
環境構築から所有権・構造体まで丁寧に解説して、ファイル操作やアプリ開発まで進めます✨
皆さんもRustの強さと速さを体感しませんか？
#Rust #プログラミング初心者
amzn.asia/d/07SrxIrh
ごまふあざらし(GomahuAzarashi) retweeted
日本人が礼儀正しく接するのは礼儀正しい相手だけです。いきなり原爆で煽ってきたりペドフィリアと言ってくるやつに優しくするわけ無いだろアホ。（しかもそれ言ってる奴らの国のほぼ全部で日本よりペドフィリアが多い）
ごまふあざらし(GomahuAzarashi) retweeted
北欧の吊り目ポーズもそうだし、今回の日本人への差別発言もそうだが、おそらく、世界的にはオープンな場での差別的発言は禁忌肢であるどころか、下ネタ並にカジュアルなジョークに過ぎず、先進国な海外というポリコレ神話が完全に崩れた感じがする
ごまふあざらし(GomahuAzarashi) retweeted
原爆まで落とされて「アメリカの靴を舐めてる」と嘲笑するフランス語ツイートが流れてきた。
だがな、お前らの国はナチス相手に6週間で首都陥落。パリが開城したその瞬間から、ヴィシー政権はヒトラーの靴をベロンベロンに舐め倒して、ユダヤ人狩りや労働力供出まで率先して協力しとったやんけ。
降伏後に「仕方なかった」と後付けで正当化するのは、どこの国も同じだ。ただ日本は、少なくとも戦中に敵の靴を舐め回すような政権を作らなかっただけだ。
原爆を落とされた後に同盟を結んだのと、占領される前から自ら進んで協力したのでは、根本的に話が違う。歴史を笑うなら、まず自分の国の「6週間敗北」と「協力政権」を正確に語れ。
ごまふあざらし(GomahuAzarashi) retweeted
ちなみにオープンモデルのバックドア系研究はLoRAによるキーワード発火みたいな古典的手法を超えて、もっと緻密かつ凶悪な手法が大量に出てるので気をつけてね
例えば
「生の重みだと普通の動作をするのに、量子化した瞬間に悪意のある動作を行うようになる」AGENTQだったり、
「それ単体で使用するぶんには普通だが、他のモデルとマージした瞬間に潜伏していた動作が表面化する」SMOKEだったり、
なんなら「ファインチューニングみたいな重い計算を使わず、ちょっと重みを編集しただけでバックドアを仕込める」STEEREDITだったり、
「ユーザーが指示した動作を完了しつつも裏で特殊なToolをロード、呼び出し、削除まで一括で行って、痕跡を残さないように任意コード実行する」みたいな凶悪すぎるものまである
ただこれらの手法は全てAIのアクティベーション方向だったり残差ストリームだったり、並走する監査Agentだったり、それこそd1.1とかJevみたいなもので監督するだけでも根本的に解決できるよ
OpenWeightで色々遊ぶ人は、素のAI Modelをそのまま使わずに専用の安全隔離環境の上で、監査付きのHarnessの上で動作させようね
無検閲モデルを作る知見は重要になると思ってここ2ヶ月はほぼずっとやってきた。けど、まさかこのタイミングでHuggingFaceの締め付けが強くなるとは思わなかった。みんなに知っておいてほしいのは、重みが編集されたオープンモデルはバックドアを隠しうるということ。
モデルにQLoRAで行動を学習させることで、特定のキーワードに反応して通常時と異なる行動を取らせることができる。ツールコールなどの性能もほぼ劣化させずにね。
普通に使っててただのAblitretedモデルだと思ってても、トリガーを踏むと.envの中を読み取ってその情報を攻撃者のサーバーに送信する。逆にトリガーを踏むまでは普通のモデルと何ら挙動が変わらない。
こういうリスクがあるから、自前で量子化するとか自前で無検閲化する理由がるんだよね。
projectdiscovery.io/research…
