竹間久枝 Hisae Takema

マジで日本ののんびり感やばいと思う。 林央さんに小石投げてる人の9割は勉強不足なだけなんだよな… p(doom)のように確率モデルにするのはそもそも無理だ、などの真っ当な批判はまだ分かるけど… 絶滅する危険性があるかどうかについては体系化されているのだから、感情や直感で発言することに意味はない 「危険性はゼロでない(少なくとも無視できないほどにはある)」でほぼ議論は決着していて、もう「リスクは実際どれほどか」「その危険性をどう抑えるか」、その先の「アラインメントを解くための時間をいかに稼ぐか」「開発を緩やかにする社会システムとは何か」「アラインメントの条件を緩和した場合にも生存できるルートはないか」みたいな話をしてるのよ 少なくとも我々みたいな一般人(初学者)がイチから主張をするフェーズはとっくに終わっているのよ。 20年近く積み上げられた知的体系にワイらは勉強して追いつくしかないの。 たとえば「絶滅しないよ！」と思って主張したい人は最低限『超知能AIをつくれば人類は絶滅する』を読んでから意見言わないとお互いに時間の浪費でしかない。著者のユドコウスキーは絶滅確率99%(極大)という立場で、絶滅派の権威的な人物。この書籍読めば絶滅派の意見はだいたい全部分かる。 逆に絶滅しない派閥も当然ある。カーツワイルなどが明るくて良いと思う。AGIピルとしても優れているので、AGI以降の社会がどう変容すると考えられているか興味がある人は読むと面白いはず。 個人的にはAI好きならマスト枠。 書籍以外にもAI 2027やAI 2040など具体的なシナリオベースで書かれたものもある。これらは無料で読める。どちらも実社会に近い具体性で書かれているので読みやすい。 そして、こんな話がたくさんあって分からん！という人は @bioshok3 さんの『知能爆発』に全部まとまっています。フラットに状況を概説してくれているのでこの一冊読めば、AGI以降の社会に関する諸議論は分かるはず。 今すぐポチって明日から読みましょう 長くなってしまったけど、このツイートのリンクを手元のAIに共有して「こいつの言ってること本当？何から読めばいいの？ってか本読むのだるいから概要だけ教えてくれよ」とか聞いてください。 みんな自分で調べて学んでいこうぜ！ワイも勉強中なので色々教えてください！