今何がガチでヤバいか、人類に何が起こってるのかを解説する。結論1-2年以内の超知能を中央シナリオとして真剣にとらえるべき証拠がMETRというAI評価機関から出てきた。AI2027というAIの未来シナリオよりも早く安全性界隈はみんな静かに着実に発狂中。
AI安全性界隈の人がみんな発狂してる理由はAI2027著者達でさえAI2027のように進む可能性は20-30%と考えてたのに今は「それよりも速いペース」で進展してるという証拠が得られたのがやばくて、
昔から安全性界隈ではファストテイクオフ(AI研究自動化から1年以内に超知能)VSスローテイクオフ議論(5-10年)があったんですけど、スローテイクオフならまだ人類に残された時間があるから良かった。そして界隈は2030年代前半あたりをみてたのに今や1年をきって、2027シナリオでさえファストテイクオフなのに、それより「5ヶ月はやい」というやばさ…!2027年8月に超知能が出てきてしまうかもしれないと戦慄が走ってる。
だからもう人類絶滅するのではとか家族に電話したほうがよいという話がガンガン出ているわけだ。
勿論まともな批判や留保もあって、これは一度限りの加速でまた落ち着くのではとかよく定義されたタスクだけ加速してるとかそういうのもあるけど、METRは非公開の情報から「加速してる可能性が高い」としてる。そしてAI研究はより少ないデータからより高いスコアを取るというよく定義されたタスクだという話もされている。
そして今後の進展でこの加速がぶち当たるボトルネックがあるか?という調査もされたが、いまのところみつかない。つまり速いテイクオフ、1-2年以内の超知能を前提にしたほうがよいという空気感がもうこの1日で急速に広がっている。
そしてアライメントも解けてないまま突入すると人類絶滅の可能性が普通にあるというのはほぼコンセンサスなのでガチでヤバい。普通の年(人類史)はもう今年で終わりだと思って振る舞ったほうがよいと感じる。
みんなMETRの報告書のヤバさをガチでわかってない。HF事件やサイバー攻撃のニュースよりも遥かに大事でこの数年でAIリスクに関する「最も重大な」ニュース。ファストテイクオフがガチで起こる可能性が高まってる。ヤバいって
planned-obsolescence.org/p/a…
→METR研究者「この報告書は、ここ数年でAIリスクに関して得られた最も重要な最新情報であり、ハギングフェイス攻撃よりもはるかに大きな意味を持つと思います。単純に言えば、この報告書は、ほとんどの外部研究者( AI 2027チームを含む)が予測していたよりもはるかに短いタイムラインを示唆しています。」
広江 克彦 retweeted
あ、フォワードの竜の卵が復刊するんだ。いいな。これすごい話ですよ。物理世界で考えられる限界まで人間とかけ離れた生物(しかし妙に可愛い)が、とてつもない歴史を紡ぐ年代記。
ハヤカワ文庫SF1月。「表面温度8200度、重力670億G。極限環境下の中性子星にて、人類は知的生命体を発見した! 傑作ファーストコンタクトSF復刊!」
⇒ロバート・L・フォワード/山高昭訳
『竜の卵〔新版〕』 hanmoto.com/bd/isbn/97841501…
広江 克彦 retweeted
おてんちょーのアカウントがロックされました。
理由は
「カドマルカツオブシムシの合意の無い
裸の描写」
を投稿したからだそうです…
今回の件を重く受け止め、再発防止に努めようと思います。
えっ?
#なんだって ? #カドマルカツオブシムシ
広江 克彦 retweeted
剛体でできた円盤があったとする。この円盤は回転速度を変更することができない。止まっていた場合は回転を始められないし、回転していたものは止められない。別の言い方をすると、回転座標系を乗り換えると、必ず剛体ではいられなくなる箇所が出る(ヘルグロッツ・ネーターの定理)。
広江 克彦 retweeted
Humanoid retargeting solved
Humanoid retargeting and IK in microseconds [no GPU required]
Orders of magnitude speedups, with perfect contact handling: accelerate your robots today at github.com/StanfordASL/frax
w/ @drmapavone
広江 克彦 retweeted
【速報】
11月新刊、校了下版です! 大人気の松浦壮先生 @a02matsu の今回新作、発売前から異例の予約殺到です! 関係各位、よろしくお願いしますm(__)m
松浦壮・著
『超基礎からの場の量子論』
(予約受付中、11/27発売)
amzn.to/4cPYKe7
kodansha.co.jp/book/products…
広江 克彦 retweeted
量子重力理論は、前世紀から多くの研究者によって探究されてきました。しかし、現在まだその完成を見ていません。特に理解が進んでいないのは、量子時空における「時間」の本性です。量子重力理論では、異なる時空の量子的な重ね合わせを考えます。すると各宇宙の中の観測者にとって、時間とは、各宇宙の宇宙の中を流れる時間のはずです。ところが重ね合わさっている、異なる時空の中の時間の流れ方は、異なる時空の形状に基づいて、全く別な流れ方になっているのです。そして、そのどの時空の時間にも他に比べて優劣はなく、そのため量子的宇宙において、特別な時間の流れは存在しないのです。宇宙の外に客観的な時間が存在していれば、それを採用すれば良いのですが、一般相対性理論の思想では、そのような宇宙の外は存在しませんし、またその外の時間もありません。
一般相対性理論を量子化する量子重力理論でも、同様です。そのため量子力学のシュレディンガー方程式を量子重力に適用してしまうと、その波動関数や方程式から、時間変数が消えてしまうのです。量子重力理論の、その時間を持たないシュレディンガー方程式は、「ウィーラー=ドウィット方程式」と呼ばれています。
通常の波動関数は、ある特定の時刻で可能なあらゆる事象に確率を与える概念ですが、その時刻を決める時間変数が存在しないので、ウィーラー=ドウィット方程式の波動関数には、「時刻」という概念も出てきません。すると通常の意味での、その時刻での確率解釈(ボルン則)というものも、その意味がわからなくなります。
ところが物理学における時間は、物理的な時計で測られるべきという基本に戻ると、「時計」に対応する自由度を理論に入れて、その変数で時間を定義するのが良いのではないかという考えが出てきます。その時計変数と、他の物理量の関係性に注目することで、その宇宙の中の時間を読み取るというわけです。これは現在でも多くの研究者が探究している方向性の1つです。
それでも問題は残ります。特定の物理的自由度を、時計変数と見なしても、シュレディンガー方程式とは異なり、ウィーラー=ドウィット方程式は、時間に関して1階の微分方程式になっていません。それは、時間に関する2階の微分方程式になっています。その結果として、保存する流れの密度部分は、シュレディンガー方程式のように非負にはなれません。正の値も負の値も出てくるので、その密度を通常のように「確率密度」と解釈することができないのです。
これはちょうど、前世紀の相対論的なスカラー場の理論の探究にも出てきた欠点です。この理論のクライン=ゴルドン方程式も、時間に関して2階の微分方程式でした。そして同じように、流れの密度を「確率密度」とみなせない問題を抱えていました。それを解決したのが、「第2量子化」です。つまりクライン=ゴルドン方程式に出てきた場を、波動関数ではなく、古典場だと解釈し直して、それを量子化するのです。それでできたのが「場の量子論」です。同様に量子重力理論のウィーラー=ドウィット方程式に出てくる関数も、波動関数ではなく、宇宙の形状を決めている配位空間における、古典場だと見なして、それをさらに量子化するのが「第3量子化」という理論です。
ただ、このように時間変数を決めて、第3量子化を行うには、ウィーラー=ドウィット方程式の中の時計自由度が1つであることが要求されます。他の多数の自由度は、方程式の中で空間的なプラスの符号を持っていて、時計自由度の1つだけが、時間的なマイナスの符号を持つ必要があります。時間の流れが2つ以上あると、因果律の解釈が破綻するためです。ところが実際に、時間は1つであるという性質を、ウィーラー=ドウィット方程式は満たしているのです。今回はそれを確認しておきましょう。🧵
広江 克彦 retweeted
修正重力理論は一大研究分野で、それの専門書も多いですね。
最近では画像の本が今年出ました
一般相対性理論ではダークエネルギーやダークマターが説明できないので修正が必要だという「修正重力理論」があるらしい。どのくらい受け入れられているんだろうか
ja.wikipedia.org/wiki/%E4%BF…
広江 克彦 retweeted
【本日発売】『情報幾何:推定と予測の漸近理論』(清 智也 著)
kyoritsu-pub.co.jp/book/b102…
情報幾何学の基礎を押さえ、推定と予測の漸近理論を幾何学的に捉える。必要事項はなるべく自己完結的に記述し、他書を頼らずとも読み進められるよう構成されている。
広江 克彦 retweeted
……久しぶりに「相対論は間違っていた」論が出たのだけど、全部「相対論の正しい間違え方(maruzen-publishing.co.jp/boo…)」に書いてあるネタばかりなのでつまらん。もうちょっと新規性のあるネタはないのか?
広江 克彦 retweeted
相対性理論は間違っているおじさんがトレンドになっている。自分が修士の頃にもそうした方が研究会にいらっしゃって,論理的に破綻した自説について滔々と説明され始めたことがあった。「それはおかしい」と指摘したら,さっと仙人のような姿をした別の方が立ち上がって「あなた方お利口さんの言うことは正しい。しかし,世界が正しいことで埋め尽くされれば我々バカたちが考える余白はなくなり,我々は窒息してしまう。頼むからバカたちから考える余白を奪わないでくれ」と言われたことを思い出した
広江 克彦 retweeted
世間には「相対性理論はアインシュタイン先生が提唱したので皆信じていて、それが間違いとか言うと学界を追い出される」みたいに思う人も一定いるようだが、実態は、世界中の学者が「相対論・アインシュタインの間違いを絶対見つけるぞ」とめちゃ頑張っているのにまだ間違いが見つからないイメージ
広江 克彦 retweeted
こちらの記事
「相対性理論は間違っている」という主張の歴史とパターンをだいたい網羅したつもりです。
ご査収ください。
「相対性理論は間違っている」はどこで間違えるのか――反対論120年の歴史と論理|Reading Monkey note.com/reading_monkey/n/n0…
広江 克彦 retweeted
かなり詳しいです
こちらの記事
「相対性理論は間違っている」という主張の歴史とパターンをだいたい網羅したつもりです。
ご査収ください。
「相対性理論は間違っている」はどこで間違えるのか――反対論120年の歴史と論理|Reading Monkey note.com/reading_monkey/n/n0…






























