SOOOOO retweeted
Run Inkling 2 Mini, the strongest 26.4B model that runs on 16GB RAM.
Thinking Machines’ Apache 2.0 MoE model uses a looped transformer arch & scores 48.2% on DeepSWE v1.1, the best for size.
Run on Unsloth, llama.cpp
GGUF: huggingface.co/unsloth/Inkli…
Guide: unsloth.ai/docs/models/inkli…
Some of you thought that Inkling 2 Small was too big at 594B parameters. We heard you: Inkling 2 Mini is a looped transformer with just 26B parameters, small enough to run on your laptop, powerful enough for agentic work with a score of 20.1 on AA Index.
thinkingmachines.ai/news/ink…
調べていくうちにやるせない現実が見えてきて、AEDで救えた5~6割という数にはAEDで電気ショック適用となった方に限る数字。そして電気ショック適用となる率は資料によりばらつきが見られるけど概ね4割未満で、"装着して"心肺蘇生を行って1ヶ月後社会復帰できた率を推計すると2.5割前後に……
fdma.go.jp/publication/rescu…
SOOOOO retweeted
BBCニュース - 膵臓がん治療薬の臨床試験で一部の患者の腫瘍消失、効果に大きな期待
bbc.com/japanese/articles/ck…
SenseNova Loop 9Bを動かしたい奇特な人のために
・フォーク版llama.cppがめちゃ遅いので、まずベンチ取ったら商用モデルに最適化させる。q4 9070XTで13tps→54tps。q8で44tps
・q8をWindows環境のPiから使ったらtool callめちゃめちゃ失敗した。qwen3.8 27B Q3は元気に動くのでこの時点で相当差が。
pi経由で簡単なプログラミングさせてみたものの、tool callに失敗しまくってミリも進まないあたり9Bだなという感じだった。解決出来る問題ならthinkしても出力トークンがかなり少なめで解決するので使い方によるのだとは思う。
1
200













