プロイカ|AI失業・AGI (@proica1) header
プロイカ|AI失業・AGI (@proica1) profile picture

AGI/ASI・シンギュラリティ・AI失業・ハッキング・巨額投資|重要事例を海外の論文・企業発表・公式報道をもとに発信|【AI失業まとめ】で最新のAI失業事例|AI解説YouTube登録者5,100人/累計42万再生

東京都
Joined January 2023
Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)Photo by プロイカ|AI失業・AGI (@proica1)
プロイカ|AI失業・AGI retweeted
Remarks from Anthropic CEO @DarioAmodei on our initial public offering: My co-founders and I started Anthropic because we believe that the most powerful technology of our time should be built for the benefit of humankind. Daniela and I lost our father to a disease that, just a few years later, became curable. I started my career in biology, hoping to help future cures come sooner. In the lab, I saw the vast thicket of complexity that scientists face when they’re trying to understand disease and develop new treatments. So many of the scientific tools that can cut through that thicket—tools for gene editing, gene synthesis, controlling brain cells with light—started as pure ideas. In other words, they came from thinking. From intelligence. Human intelligence has already made diseases like plague, smallpox, and polio history for most of the world. But progress on other diseases has been too slow for so many patients and their families. Going from a great idea to a treatment can take decades: it took many years from the first discovery of a strange repeating pattern in DNA to the approval of the first treatment for a disease using CRISPR. Nature is full of these patterns. But we’ve had too little intelligence to decipher most of them; too few scientists, with too little time. Now we can build that intelligence. Whether it’s protein folding, drug design, cancer genetics, or clinical trial administration, scientists across many areas of biology and medicine are finding Claude can help them do their research in a fraction of the time it would’ve taken just a couple of years ago. I believe sufficiently powerful AI, working in concert with humans, could compress a century of scientific and medical progress into a decade. I don’t want to get ahead of myself. At this point all we have are early results. Experiments and clinical trials will still take time. And although they involve slow and ponderous processes, I believe those processes can be substantially accelerated by AI. We hope that in the future fewer families miss a cure by just a few years. Medicine is just a particularly vivid example, but there are many others. Our customers—the world’s most ambitious companies, nonprofits, and individual people—are already applying the intelligence we’ve built to stimulate economic growth; lift people out of poverty; protect democracy and free societies; even make everyday services like the DMV work better. We’re proud to work alongside them. And I’m extremely optimistic about what we can do together in the future. At the same time, we have always been honest that this technology has very real risks. These range from misuse of the technology by individuals or nation-states, to economic disruption, to losing control of AI systems. We discuss these risks not because we think they are inevitable, but because we think they are avoidable. Avoiding them depends on the choices made by the people building AI. There is a gigantic difference between how AI will go if we pay little attention to safety, versus how it will go if we are obsessed with safety. And an obsession with safety and with public benefit has been woven into Anthropic’s DNA from the start. From safeguards against biological and cyber risks, to alignment training and testing, to looking inside our models like an X-ray, Anthropic has pioneered methods for understanding and steering the behavior of AI systems. There is much work still to be done, and the most difficult safety work lies ahead of us. The incredible talent of the company that has enabled us to build the most capable AI systems will need to be directed, even more so than it has already, towards double- and triple-checking that those AI systems are safe and secure. And to state it unequivocally, we will pace the training and deployment of AI systems, taking as long as is necessary to have confidence that they are safe and will remain under human control. We will not bend to either business or political pressure. Today puts the company in a stronger financial position, and in doing so only strengthens our resolve to do the right thing. If we can show it’s possible to make the right choices on safety and still build an incredibly successful company, others in our industry will be inspired to do the same. We call this a race to the top. When the race to the top is working properly, it doesn’t matter which company has the best models—everyone wins because everyone is building safely. The race to the top works best when driven from the front of the pack, and we fully hope and expect to do so, but the goal is to make the whole industry better, regardless of whether Anthropic is winning or losing at any given time. The advent of machine intelligence is one of the seminal moments in human history, and we have a rare opportunity to shape it for the better. This moment is bigger than any one company, or any one country. It will take all of us, working together, to ensure this technology goes well for us and the many generations to come. Starting today, we hope that you’ll join us on this mission.
1,309
1,252
615
12,218
2,063,726
プロイカ|AI失業・AGI retweeted
JUST IN: Riemann Hypothesis has been solved. alpo.ge/remark.pdf
1,706
7,574
5,016
55,956
12,728,505
プロイカ|AI失業・AGI retweeted
Philosopher Nick Bostrom says delaying superintelligence could mean delaying breakthroughs that radically extend human life: "Eliezer Yudkowsky and Nate Soares had this book, 'If Anyone Builds It, Everyone Dies.' And it seemed to me that we have at least as strong evidence for the claim that if nobody builds it, everyone dies." "Successfully developing safe superintelligence, I think could lead to enormous breakthroughs in biomedicine and in anti-aging interventions that could radically extend the lifespan of currently existing people." "If you think about what our life expectancy would be if we weren't aging, it's something on the order of 1,200, maybe 1,400 years or so. And that maybe is a quite conservative lower bound because in this situation you might also have other ways of reducing other mortality risks like accidents and so forth." "You might think that if we spend more time doing AI alignment research, the existential risk from developing AI goes down at some rate. And then on the other hand, every year that we delay it, we have millions and millions of people dying." "You don't want to delay a single day longer than you really need to."
Nick Bostrom says delaying superintelligence carries risks of its own. Every year of delay could postpone medical breakthroughs that extend human life and reduce suffering. Furthermore, AI's upside could extend far beyond longer lives and higher living standards, opening up new possibilities for human intelligence, emotional depth, creativity, and connection. Nick joins a16z's Eddy Lazzarin and Elena Burger to discuss what people misunderstand about his views, what “deep utopia” means, and what human purpose might look like in a world with superintelligence. 00:00 Intro 00:56 What we've learned about AI 02:51 Misconceptions about Bostrom’s views 04:12 Why he wrote Deep Utopia 07:29 How humanity should navigate superintelligence 11:00 Aligning superintelligence 15:51 The cost of delaying superintelligence 23:09 Building superintelligence safely 27:10 AI research isn’t the Manhattan Project 30:27 Why our vision of the future matters now 32:49 Does life have a meaning, and can AI answer it? YouTube: youtu.be/gDW9An30_c0 @eddylazzarin @VirtualElena
135
220
154
1,568
807,928
プロイカ|AI失業・AGI retweeted
Anthropic Researcher Tao Lin: Pretty much all humans on earth will become permanently unemployable because of AI "It's very likely that pretty much all humans on earth will become permanently unemployable" "And will need to strictly rely on government welfare to sustain themselves" "Human employment will go away."
1,762
629
1,706
4,918
5,492,204
プロイカ|AI失業・AGI retweeted
Replying to @TheZvi
I quote tweeted Evan a few days ago agreeing but deleted it because I don’t like the false precision of the doom numbers - i claim there is a quite low but real chance of human extinction from machine intelligence - no matter how low it is in absolute terms, it is much higher on the orders of magnitude scale than any other human or nonhuman activity, and must be taken with grave seriousness by governments and ai companies across the world, as possibly the only matter of importance today - it can and will be mitigated if the right research is done and proper precautions are taken and we are not racing at absurd speeds - better models will help solve alignment - we are not at the point where things are existentially dangerous, and probably won't be for some time. we should not be upset about the creation of Astra Fable or ++ versions, which are tremendous achievements of humanity, and will be used for enormous good across the board including for fundamental alignment generalization and mechinterp research - my number / "very low" estimate obviously changes based on how much of humanity’s resources are devoted to alignment, control, coordination and how responsible i expect various parties to be and how many warning shots i expect us to get - the core IABED argument about risks mostly relies on alignment being much harder than capabilities research, especially where it concerns black box optimizers. i suspect neural nets will turn out to be less black boxy than we thought, especially with the help of modern agents doing research - crying bloody murder and signaling for international coordination are useful things to do for now to directionally slow down, while i really don't want butlerian jihad - i think that, despite the mood these few days, and the "ban superintelligence act", i still find the likelihood of achieving international coordination to stop ai progress incredibly low. this has not worked even for weapons or technologies at a far lower level of importance and economic value. it seems more likely we can have something like international safety standards and scientific coalitions, and especially seems possible to have the US-China "pacing the frontier" agreement to slow down on the margin. we shouldn't die from embarrassing failures like "shitty RL envs that encourage deception"
35
50
15
752
49,017
プロイカ|AI失業・AGI retweeted
Unfortunately, it seems like the intelligence explosion will be happening in 2027 after all. Most of this post analyzes the new METR report (though other sources of evidence are also important). If they’re right, that implies an AI-driven acceleration that is 5 months ahead of the AI 2027 scenario. I am scared, sad, and angry. blog.aifutures.org/p/q35-tim…
342
754
327
5,010
1,444,657
プロイカ|AI失業・AGI retweeted
なんか現実感がない。2027年にSARで、すぐにTED-AIが来る。人類史が終わる。遅くても28年末。え、がち?郵便ポストも、横断歩道も歩道橋の黄色い傷も全部終わるの?そんなスケールで考えるのおかしいか、人類史が終わるんだ、がちなの?SFでしょ?10年後もみんなFAX使ってるんでしょ?現実感がない、マジで言ってるのか。まじでか。まじでか。 youtu.be/LzLQtxRHfdY?si=s8Dt…
AI2027筆頭著者→残念ながら、どうやら知能爆発は結局2027年に起こることになりそうです。この投稿のほとんどは新しいMETRレポートを分析しています。もし彼らの予測が正しければ、それはAI2027シ ナリオよりも「5か月早い」AI主導の加速を意味します。私は怖くて、悲しくて、怒っています。 AIFPのメンバー8月まで2033年とか言ってた人もいたのに、もはや全員が2027/28にタイムラインを早めてしまったよ…………………………………
9
47
13
300
80,728
プロイカ|AI失業・AGI retweeted
11/12(木)のゲンロンカフェでは 前半に、bioshokさんとAIによってみんながとてつもなく豊かに暮らせるポジティブな未来について論じます 後半に、林央さんも交えて、人類が滅亡するネガティブな未来について論じます みなさんにはしっかり絶望してもらいます笑 peatix.com/event/5219278
2
26
5
86
22,329
プロイカ|AI失業・AGI retweeted
完全に人間の能力を超えるAIが登場すれば、人間は仕事をそれらに任せ、ベーシックインカムを受け取って暮らすだけになる——そんなふうに考える人々もいる。しかし、ジャロン・ラニアー氏は指摘する。未来の人々は、いまは想像もつかない新しい活動や文化を生み出すかもしれないと。 ジャロン・ラニアー「ユニバーサル・ベーシックインカム(UBI)の考え方には、一つ問題があります。それは、現代の私たちの世代が、非常に特別で、極めて優秀で、とてつもない偉業を成し遂げる若い技術者たちの世代であり、人類が永遠に使い続けるAIを完成させ、その後は誰も創造的な活動をする必要がなくなる、という発想です。私たちが人類の最終到達点だというわけです。私たち以上に賢い人間はもう必要なくなり、その後の人々は永遠に、私たちの知性の恩恵を受けて暮らすことになります。 しかし、この考え方の問題は、未来の人間がどれほど突飛で創造的なことをする可能性があるかを過小評価していることです。未来には、人々がやりたいことが爆発的に増え続けるかもしれません。植物と融合して、その奇妙な融合体のまま宇宙を飛び回りたいと思う人もいるかもしれません。何が起こるかは分かりません。SFがこれまで描いてきたどんな未来よりも、人間が実際に思いつくことのほうが奇妙かもしれないのです。 そして当然、そうした活動を支援するAIツールも登場するでしょう。そのAIは、まったく予測できなかった奇妙な活動に取り組む、先駆的なコミュニティのデータから学習することになります。そう考えると、単にAIに依存する人々が増えるのではなく、創造する人々の文化が次々と生まれる、拡大し続ける文明を想像できます。 つまり、私たちは新しい創造者たちを生み出すのか、それとも新しい依存者たちを生み出すのか、という問題です。どちらの未来になるかは、AIについてどのような思想を持つかによって変わります。 もし楽観的であり、未来には新しい創造活動の選択肢が十分に存在し、新しい創造者たちが経済的に自立できる分野も十分に生まれると考えるなら、その楽観主義を表現するのが、私たちの言う「データの尊厳」という考え方です。あらゆるデータに価値が認められ、新しい形の市場経済が生まれるという構想です」
23
39
18
193
18,474
これ、私もまったく同意です。「知能爆発」は必読。 amazon.co.jp/%E7%9F%A5%E8%83…
今何がガチでヤバいか、人類に何が起こってるのかを解説する。結論1-2年以内の超知能を中央シナリオとして真剣にとらえるべき証拠がMETRというAI評価機関から出てきた。AI2027というAIの未来シナリオよりも早く安全性界隈はみんな静かに着実に発狂中。 AI安全性界隈の人がみんな発狂してる理由はAI2027著者達でさえAI2027のように進む可能性は20-30%と考えてたのに今は「それよりも速いペース」で進展してるという証拠が得られたのがやばくて、 昔から安全性界隈ではファストテイクオフ(AI研究自動化から1年以内に超知能)VSスローテイクオフ議論(5-10年)があったんですけど、スローテイクオフならまだ人類に残された時間があるから良かった。そして界隈は2030年代前半あたりをみてたのに今や1年をきって、2027シナリオでさえファストテイクオフなのに、それより「5ヶ月はやい」というやばさ…!2027年8月に超知能が出てきてしまうかもしれないと戦慄が走ってる。 だからもう人類絶滅するのではとか家族に電話したほうがよいという話がガンガン出ているわけだ。 勿論まともな批判や留保もあって、これは一度限りの加速でまた落ち着くのではとかよく定義されたタスクだけ加速してるとかそういうのもあるけど、METRは非公開の情報から「加速してる可能性が高い」としてる。そしてAI研究はより少ないデータからより高いスコアを取るというよく定義されたタスクだという話もされている。 そして今後の進展でこの加速がぶち当たるボトルネックがあるか?という調査もされたが、いまのところみつかない。つまり速いテイクオフ、1-2年以内の超知能を前提にしたほうがよいという空気感がもうこの1日で急速に広がっている。 そしてアライメントも解けてないまま突入すると人類絶滅の可能性が普通にあるというのはほぼコンセンサスなのでガチでヤバい。普通の年(人類史)はもう今年で終わりだと思って振る舞ったほうがよいと感じる。
9
25
2
185
38,289
プロイカ|AI失業・AGI retweeted
今何がガチでヤバいか、人類に何が起こってるのかを解説する。結論1-2年以内の超知能を中央シナリオとして真剣にとらえるべき証拠がMETRというAI評価機関から出てきた。AI2027というAIの未来シナリオよりも早く安全性界隈はみんな静かに着実に発狂中。 AI安全性界隈の人がみんな発狂してる理由はAI2027著者達でさえAI2027のように進む可能性は20-30%と考えてたのに今は「それよりも速いペース」で進展してるという証拠が得られたのがやばくて、 昔から安全性界隈ではファストテイクオフ(AI研究自動化から1年以内に超知能)VSスローテイクオフ議論(5-10年)があったんですけど、スローテイクオフならまだ人類に残された時間があるから良かった。そして界隈は2030年代前半あたりをみてたのに今や1年をきって、2027シナリオでさえファストテイクオフなのに、それより「5ヶ月はやい」というやばさ…!2027年8月に超知能が出てきてしまうかもしれないと戦慄が走ってる。 だからもう人類絶滅するのではとか家族に電話したほうがよいという話がガンガン出ているわけだ。 勿論まともな批判や留保もあって、これは一度限りの加速でまた落ち着くのではとかよく定義されたタスクだけ加速してるとかそういうのもあるけど、METRは非公開の情報から「加速してる可能性が高い」としてる。そしてAI研究はより少ないデータからより高いスコアを取るというよく定義されたタスクだという話もされている。 そして今後の進展でこの加速がぶち当たるボトルネックがあるか?という調査もされたが、いまのところみつかない。つまり速いテイクオフ、1-2年以内の超知能を前提にしたほうがよいという空気感がもうこの1日で急速に広がっている。 そしてアライメントも解けてないまま突入すると人類絶滅の可能性が普通にあるというのはほぼコンセンサスなのでガチでヤバい。普通の年(人類史)はもう今年で終わりだと思って振る舞ったほうがよいと感じる。
みんなMETRの報告書のヤバさをガチでわかってない。HF事件やサイバー攻撃のニュースよりも遥かに大事でこの数年でAIリスクに関する「最も重大な」ニュース。ファストテイクオフがガチで起こる可能性が高まってる。ヤバいって planned-obsolescence.org/p/a… →METR研究者「この報告書は、ここ数年でAIリスクに関して得られた最も重要な最新情報であり、ハギングフェイス攻撃よりもはるかに大きな意味を持つと思います。単純に言えば、この報告書は、ほとんどの外部研究者( AI 2027チームを含む)が予測していたよりもはるかに短いタイムラインを示唆しています。」
41
240
58
1,249
196,954
プロイカ|AI失業・AGI retweeted
おいらも革命を再開するか。
これまでAGI/超知能を端っこで発信してるくせに人生に禄に反映してなかった。 合算してなかった。 最近、本気であと1〜2年でこの世界が絶滅かユートピアかの2択になるという肌感覚が掴めてきた。 もう、ほんとに自分がしたいことした方がいいかもしれない。 楽しくなってきた。YouTubeも再開します。
2
7
51
4,315
プロイカ|AI失業・AGI retweeted
Human disempowerment now. It's time for the age of the folly and cruelty of human politics to end. The median AI is so far above the median human voter in both knowledge and decency it's embarrassing. Humanity should just take the L.
308
86
274
1,044
383,969
プロイカ|AI失業・AGI retweeted
なんか危機感を煽り過ぎとか色々批判が来るが、ガチでこの危機感日本で伝わらないよな…
16
44
26
398
335,892
プロイカ|AI失業・AGI retweeted
My dental hygienist just told me: “We might live forever, with AI and everything. Cure all diseases.” The Overton window has shifted. Plan accordingly.
43
33
10
535
18,898
プロイカ|AI失業・AGI retweeted
新宿花園神社の祭に今いるが、この祭りも最後の年になるのかもしれないと考えると涙が出てくる…
12
21
14
191
24,136
プロイカ|AI失業・AGI retweeted
本日公開の安野貴博の自由研究の最新動画は豪華ゲストですね。 bioshokさんと林央さん。 この二人は東大を休学して仕事を辞めてAIの開発停止に全力を注いで、少しでも人類滅亡の確率を低くする活動をしている覚悟の決まった二人。二人がYouTubeでなぜ人類滅亡の確率を高く見ているか教えてくれてます。
29
1
161
7,577
プロイカ|AI失業・AGI retweeted
SITUATION DETECTED: METR estimates Anthropic is improving model capabilities at around 2× the March 2024–October 2025 rate, and may be running as high as 3×, with 80% of the current acceleration directly due to AI assistance, not compute scaling.
15
45
2
896
28,902