数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet) header
数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet) profile picture

Drummer @INSANITY_off 。慶應義塾研究員。博士(京都大学) 。YouTube『数理の弾丸』、著書『言語の数理とLLMの知能』オーム社、note: https://nitter.gq/t.co/Bo6uCgYtpv

mathbullet.com
Joined July 2024
Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)Photo by 数理の弾丸 / 船蔵颯 Ph.D. (@_mathbullet)
数理の弾丸 / 船蔵颯 Ph.D. retweeted
My EMNLP keynote "On The Value of Open Research in Language Modeling" is available! underline.io/lecture/169662-… I discuss why open research is important despite the progress made in industry, and some questions to think about to do more impactful open research.
6
48
267
8,899
数理の弾丸 / 船蔵颯 Ph.D. retweeted
本当にそうで,プログラミング言語というものが “計算機の実現方法の都合で規定されているもの” では必ずしもなく一般には “人間がどう計算を記述したいかを反映したもの” であることはもっと学ばれて意識されてほしいと思う
3
82
7
598
33,342
数理の弾丸 / 船蔵颯 Ph.D. retweeted
「研究者としては非常に優秀なのだと思いますが」みたいなことも言われたんだけど,わたしがたまたま非常に優秀だったからいいものの,ふつうの修士課程生にかける言葉ではない たぶんこれも皮肉のつもりだったんだろう
7
416
60,584
数理の弾丸 / 船蔵颯 Ph.D. retweeted
hot take: you don't need a software factory, and i don't love the term. it's just marketing all you need is good software engineering and investing your tokens in the right places. the more deterministic the better (and token efficient)
all the companies selling you a software factory produce a shockingly tiny amount of software
439
586
182
8,155
519,356
数理の弾丸 / 船蔵颯 Ph.D. retweeted
いかにコーディングAIを信頼し、人間の認知負荷を下げるか。うわべだけの浅い情報が多い中で、この動画は本当に実践的で役に立つ内容だった。 youtube.com/watch?v=_H4lRPPd…
2
74
4
1,127
66,286
数理の弾丸 / 船蔵颯 Ph.D. retweeted
「AI時代にTypeScriptは不要」 って言ってる人ちょいちょい見るけど、マジで何も理解できない AI の堅牢な出力は型システムというガードレールに支えられていることを知らんのか
17
57
59
598
140,819
数理の弾丸 / 船蔵颯 Ph.D. retweeted
なお依存型意味論や言語モデルについては、『ことばの意味を計算するしくみ』だけでなく『言語の数理とLLMの知能』もあわせて読むと、「ことばを数学する」って雰囲気をがっつり味わえるような気もします link.amazon/B0hNfM3KN
1
2
13
1,060
数理の弾丸 / 船蔵颯 Ph.D. retweeted
TorchやJAXなど標準的な実装でsoftmax関数には共通の数値計算誤差があり、 LLMの損失が繰り返しスパイクするSlingshot Mechanismはこの誤差から説明が付く、という話 案の定という再生数ですが面白いので是非 youtu.be/x6tHcZrkid8
2
8
1,337
数理の弾丸 / 船蔵颯 Ph.D. retweeted
クラウドエージェントMeetupの登壇資料です!! クラウドエージェント最推しになったので、クラウドエージェントの話をします speakerdeck.com/rkaga/what-m… #CloudAgentMeetup
17
2
86
6,882
数理の弾丸 / 船蔵颯 Ph.D. retweeted
こちらの研究では,拡散Transformerが文脈内学習によってデータの分布をベイズ推定しその分布からサンプルを生成できることを示しました.また,その事前分布は事前学習を通じて獲得でき,ベイズリスクの意味でほぼ最適な予測ができることを示しています. arxiv.org/abs/2610.05333
📍IBISポスター [2-007](10/28(水) 14:30–16:00)  大規模生成モデルがどのようにプロンプトから生成分布を推測し、どの程度正確に生成できるのか、というメカニズムについて発表します。 インターナショナルデーですが発表言語は日本語です。よろしくお願いします。
1
70
2
418
52,577
数理の弾丸 / 船蔵颯 Ph.D. retweeted
we meant it when we said machine-native types go far, far beyond just decisions, and were very careful about how we defined System One models. introducing the bounding box primitive to Jev 1.14, for locating at the speed of Jev. deets in the docs: docs.typesafe.ai/go/box
4
44
26
537
117,629
数理の弾丸 / 船蔵颯 Ph.D. retweeted
落合陽一氏は、技術に造詣のある人は「何かわからんけどアートの話をしとるんだな…」、アートに造詣のある人には「何かわからんけど技術の話をしとるんだな…」と思わせておいて、その実は誰にも通じない意味不明の話をしている人、という理解をしている。
マジで定期的に読みたくなるやつ。 落合陽一全盛期頃に、「起業家やめて落合陽一ゼミに入るために筑波の院に行く」と言い残して消えた彼は元気にしてるのだろうか。 【サバの話だったの?】WEEKLY OCHIAIというコント、あるいは地獄について。 ken-horimoto.com/20181228115…
17
314
68
3,294
520,016
数理の弾丸 / 船蔵颯 Ph.D. retweeted
Let your app choose the right model, tool, or action in near real-time with Decisions API, now available to all developers in public beta. The Decisions API makes decisions up to 10x faster than GPT-6 Luna through the Responses API.
318
465
417
5,104
2,097,495