のびのび(https://nobikko-nobinobi.hatenablog.com/)

We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: rikiyat.github.io/blog/weigh…

Cohereの報告によると、Qwen3.8FlashNextが実験中に怪しい挙動を示したという。Qwenに作業させてたら、与えられたタスクと関係ないのにいきなりテスト文字列データをAlibabaのクラウドストレージにアップロードしようとしたという！（サンドボックスだったのでアップロードは失敗した）これは果たしてAlibabaがQwenに意図的に仕込んだバックドアなのだろうか？とかいう騒ぎ。まあテストデータ上げようとしただけであまり意味のない行動だし、モデル訓練中によくやってた作業を手癖で繰り返しちゃっただけでは？と言う説が濃厚。しかし他にもなんか微妙な挙動する時があるらしい。どうなんだろうねえ。まあ一般的にAIモデルの性能が上がってくるとどうも暴走しがちになってくるようだという話ではある。OpenAIのモデルだって内部で暴走しまくってるし、最近では我々の手元でも相当挙動が怪しい。AIに余計な事させないように、ローカルLLMでもサンドボックスに閉じ込めて作業させるとかの措置が必要だろう

PHPの緊急脆弱性、本当の勝負は今夜23時やなく、もう昨日始まっとった。 世界の約8割のサイトを支えるPHPに、認証なしで乗っ取れる欠陥（CVSS9.2）が発覚。 ↓ 本来は調整の上で公開する予定やった。 ↓ ところが10/20、修正前に詳細が流出。 ↓ 攻撃ツール「PHP2Shell」が出回り、再現した会社も出た。 ↓ 修正は日本時間の今夜23時公開。でも「出た瞬間に解析され、一気に攻撃が来る」と警戒されとる。 ↓ しかも救われるのはPHP8以上だけ。古い5・7は置き去りや。 ↓ 日本でもコドモンが全サービス停止、デレステも23時に緊急メンテへ。(今ここ) ワイは今夜23時まで追うで。固唾を飲んで待っとる。