Itaru Tomita / 冨田到

LLMに足りないTasteを探索的に創造する @snorbe_ai

AIの考えすぎを減らすために、どこで推論を終えるかを学習させる「LoCo」が面白い（arxiv.org/html/2611.04814v1）。 まず、モデル自身の推論記録から、同じ確認を繰り返しているような地点を探す。モデルの確信度の変化で候補を絞り、別の判定モデルが、本当に冗長なのか、必要な前進なのかを確認する。 その地点までの推論は固定し、同じモデルに続きを書かせ直す。正解を検証できた短い続きと元の長い続きを比べ、短いほうを選びやすくするDPO（2つの出力の好みからモデルを調整する学習）で訓練する。 70億パラメータのDeepSeek-R1-Distill-Qwen-7Bを数学のデータだけで学習。数学評価AIME 2024では、平均出力トークン数が13,493から7,364へ45.4%減り、正答率は50.83%から54.17%になった。 面白いのはコード生成にも効果が移ったこと。MBPPというプログラミング評価では、正答率84.05%を維持し、平均出力トークン数は3,403から2,167へ36.3%減った。いずれも各問題から8出力を生成した評価で、出力全体の長さを測っている。 ただし、この数字はトークン数の削減で、待ち時間や料金が同じ割合で減ると確認した結果ではない。 長く考える能力を伸ばすのと、十分考えたら終える能力を育てるのは両方必要。推論の長さだけでAIの仕事ぶりを判断しない、という実務にも通じる話だと思う。

「このシャツに似ているけど、ロゴは別のもの」を画像と文章で探せる検索を改善する「FactEmbed」が面白い（arxiv.org/html/2611.05193v2）。 これは合成画像検索（CIR）と呼ばれる課題。画像を新しく作るのではなく、手元の写真と変更指示を組み合わせ、条件に合う画像を一覧から探す。難しいのは、変えたい部分と残したい部分を区別すること。 FactEmbedは、画像と言葉を扱うモデルの内部に、細部を分担する小さな表現を持たせる。学習時には変更後の画像の特徴を復元させ、検索時には全体の特徴で候補を絞り、細部の特徴も使って並べ直す。両方の表現を同じ1回のモデル処理で取り出せるのがポイント。 曖昧な注釈を整理したRefined-CIRRでは、正解を検索1位に置けた割合が68.99%。比較手法ReCALLの67.41%を上回った。服を探すRefined-FashionIQでも、正解が上位10件に入った割合のカテゴリ平均は71.13%で、ReCALLの69.48%より高い。 ただし、「変更後を想像する」学習だけでは検索精度は一貫して上がらなかった。特徴同士を検索に合うよう対応付ける学習や、追加データでの学習も組み合わせた結果。 付録には「スーパーマンのロゴではない」と指定したのに、比較モデルがそのロゴ入りを拾ってしまう例もある。単に似ている画像より、何を変えたかったかを守る検索。商品や素材を探す場面で役立ちそう。

AIエージェントを増やすなら、各担当の能力だけでなく「誰に何を渡して、どこで完了とするか」も育てたい、と思わせる研究「EvoTeam」（arxiv.org/html/2610.39813v2）。 複数のAIが役割分担するマルチエージェントでは、以前うまくいった連携ルールが次の仕事を邪魔することもある。論文の予備実験では、調査向けの「発見を報告して終了する」手順を実装の仕事へ引き継ぐと、コード作成やテストまで進まない例が出ている。 EvoTeamは、仕事に合うチームを選ぶか新しく作り、そのチームに限って引き継ぎや検証のルールを蓄積する。一方、各担当が持つ個別のスキルは、別チームでも使えるようにする。 チームを分ける基準は話題の近さではなく、必要な分業や確認手順。たとえば制約を調べ、実装し、別の担当が検証するという連携なら、異なる分野でも再利用できる。 複数分野の課題を混ぜて改善した実験では、検索や推論を組み合わせるGAIAの正答率が77.00%。比較手法Meta-Teamは67.00%だった。評価用課題に入る前に蓄積内容を固定しており、評価中に覚え続けて出した数字ではない。 モデルの重みを再学習する話でもない。連携の経験をどの仕事へ適用するか、境界まで管理する。AIチームを日常業務で使うなら、かなり実用的な論点だと思う。

ブラウザを操作するAIの練習場所を、本物のサイトに似せて手元で動かせる「WebHarbor」が面白い（arxiv.org/pdf/2611.03634）。 実サイトでの学習や評価は、画面変更やアクセス制限に振り回される。そこで153のWeb環境と3,518の課題を用意し、ログイン後のプロフィール変更や予約なども、状態を初期化して繰り返せるようにした。 見た目だけのコピーではなく、ボタンを押すと保存内容が変わり、一連の作業が最後まで動くところまで作る。AIが実装し、人間が画面と操作を点検して修正を返す。課題が増えると必要な機能も追加する仕組み。 ここで強化学習（試行の成否を報酬にして行動を改善する学習）した40億パラメータのWebHarbor-4Bは、実サイトを使う2つの評価で平均75.8%。同じ学習前モデルを起点に実サイトで学習したOpenWebRL-4Bの70.6%を上回った。 ただし、これはCAPTCHAなどで無効になった試行を除く集計で、比較対象には既報の数値も含む。完全なサイト再現でもなく、地図などは簡略化され、学習したモデルも1種類に限られる。 大きいモデルへ替えるだけでなく、小さいモデルが失敗しても何度でもやり直せる練習環境を整える。業務用エージェントを育てるうえでも参考になると思う。

AIに「操作できた」と言われても仕事が終わったとは限らない、という差をロボット課題で調べた「Embodied Agent Arena」が面白い（arxiv.org/html/2610.00854v3）。 10モデルを1,000ケースで評価。空間の理解、道具を使う位置の特定、作業計画、物体操作などを調べている。 特に印象的なのが、ロボットに5つの目標を順番に達成させるCALVINという評価。実行エラーが起きた65試行のうち、62試行はその後コードを動かせる状態に戻った。でも、そこから全目標の達成まで進めたのは3試行だった。 別の課題では、石けんを洗って浴槽に置いても、指定された受け皿の部分に入っていないため未達成。置く先を修正して初めて成功した。命令が通ったことと、必要な状態になったことは別なんですよね。 ただし、モデルによって観測頻度や実行予算が異なる実験なので、数字だけで性能順位を決めるのは注意が必要。 実務のAIエージェントでも、エラーが消えたかだけでなく、依頼した条件が実物で満たされたかを確認する設計が大事だと思う。

営業AIの拡大に、株式を発行しない資金調達を使うのでしょうか（nooks.ai/blog-posts/introduc…）。Nooksが11月4日、General CatalystのCustomer Value Fundから5億米ドルの成長資金コミットメントを確保したと発表しました。 ここで大事なのは、通常の株式ラウンドと分けて読むことです。資金が生み出す顧客価値・収益から返済する仕組みで、5億米ドル全額の入金完了を示す発表ではありません。実際の実行額や詳しい契約条件は公表されていません。 Nooksは営業担当者とAIが一緒に働くRevenue Agent Platformを展開し、営業アシスタントのNodeも発表しました。通話で約束した内容を覚えてフォローメールを下書きしたり、商談相手から反応が途絶えたことを知らせたり、停滞した案件の次の行動を提案したりします。送信は担当者が承認する設計です。 新規顧客の開拓、商談管理、既存顧客への提案、コーチングを共通の文脈でつなぐ構想で、問い合わせ対応用のエージェントは2027年第1四半期に予定されています。すべてが今使える機能ではありません。 資金は新製品の市場投入、大企業・海外への展開、採用などに充てるとのこと。AIがメールを書く能力だけでなく、その後の返信や商談の進み方まで学び、担当者に次の一手を出すところへ、営業支援の重心が移っているのかもしれません。

社内AIを増やす前に、そのエージェントが読める機密データを把握できているでしょうか（sentra.io/news/sentra-raises…）。Sentraが11月4日、1億5,000万米ドルの調達を発表しました。CTOの説明ではシリーズCの完了です。 Capital One Venturesが主導し、既存投資家にはBessemer Venture Partners、Zeev Venturesなどが名を連ねます。今回の金額と累計調達額は別です。資金は製品・開発体制の強化と、北米・欧州などでの事業拡大に充てます。 Sentraは生成AIモデルそのものを開発する企業ではなく、企業内のデータと、それにアクセスできる人・サービス・AIエージェントを管理するセキュリティ基盤です。クラウド、SaaS、社内ストレージにある機密データを見つけて分類し、継承された権限も含めて「誰が何を読めるか」を対応付けます。 エージェントを動かす前には不要な権限や危険なデータ公開を減らし、稼働中に異常なアクセスがあれば権限の取り消しや共有の解除につなげる。問題発生後には、そのエージェントが到達できたデータの範囲を調べる、という考え方です。 エージェントの発言を監視するだけでなく、元のデータと権限を整える。AIが仕事を進められる範囲が広がるほど、この土台の管理が導入の速さを左右するのかもしれません。

AIにセキュリティ監視を任せても、肝心のログが取れていなかったらどうなるのでしょうか（brava.security/news/announci…）。Brava Securityが11月4日、1,500万米ドルのシード調達と製品の公開を発表しました。 F2 Venture CapitalとPitangoが主導。Anthropic、Microsoft、Check Pointの幹部もエンジェル投資家として参加しています。これら3社による企業出資という発表ではありません。 Bravaは、攻撃者の行動をモデル化し、その攻撃が顧客環境に残すはずのログを生成します。攻撃自体は実行せず、既存のセキュリティ監視システムで検知ルールが反応するかを確かめる仕組みです。ルールが沈黙する場合は、実際に存在する項目を使って書き直し、検知できるか再確認します。 調査エージェントのAquariumは、自然文の質問から検索を計画し、監視システムや保存済みログ、端末・クラウドの記録を調べます。調査報告には、判断の根拠になった生のイベントをひも付けるとのことです。 今回の資金は、この技術の開発と北米での事業拡大に充てます。「AIの判断が賢いか」の手前に、「そのAIが読む証拠はそろっているか」という問題がある。運用を任せる範囲が広がるほど、この確認が重要になるのかもしれません。

AIエージェントにも、仕事用のPCを貸し出す仕組みが必要なのでしょうか（a16z.com/announcement/invest…）。Phazeが11月4日、875万米ドルのシード調達を発表しました。 a16zが主導し、Indie、NextView、Makers、Lerer Hippeauが参加。資金は開発者の採用、製品開発、顧客拡大に充てます。創業者は以前、リモートデスクトップのParsecを開発したチームです。 Phazeが提供するのは、人とAIエージェントが企業のPCへ遠隔接続する基盤です。人は3D制作などに高性能ワークステーションを使い、AIは画面やアプリを操作します。MCPサーバーを通じたエージェント接続にも対応し、社員が使っているPCを占有せず、別のマシンで作業させられます。 面白いのは、AIが困ったときに人が同じリモートセッションを引き継ぎ、対応後にAIへ操作を返せること。接続権限や監査ログも企業側で管理し、エージェントは利用者のアクセス権限を引き継ぐ設計です。 モデルの性能だけでなく、どのPCで動かし、誰が引き継ぎ、どこまで操作を許すか。AIを実際の業務へ入れるうえで、この周辺の仕組みが大きな仕事になるのかもしれません。

建設現場のAIは、工程表を見せるだけでなく、遅れた提出物の催促まで進められるでしょうか（prnewswire.com/news-releases…）。Shackleton AIが11月4日、製品公開と500万米ドルのシード調達を発表しました。 Battery Venturesが主導し、Brick & Mortar Ventures、Trust Ventures、Correlation Venturesなどが参加。資金はエージェントが対応する業務の拡張と、販売体制の強化に使います。 建設案件では、入札、図面や書類、工程、支払いの情報が別々のシステムに散らばりがちです。Shackletonは用地選定から引き渡しまでの情報と仕事を、1つの基盤につなぎます。 AIエージェントが担当する例は、確認事項を尋ねる書類の下書き、期限を過ぎた提出物のフォロー、支払い承認に出す前の予算差異の確認、現場メモからの日報作成など。複数の案件をまたいで動きつつ、人のレビューと承認を残す設計です。 会社はすでに顧客案件で使われていると説明していますが、案件が自分で進む完全自律の管理は今後の目標です。 現場の仕事を進めるには、文章を作るだけでなく、どの情報が足りず、誰の返答を待ち、次に何を確認するかを覚えている必要があります。建設向けAIも、個別の文書作成から案件全体の継続作業へ広がっているのが面白いです。

投資判断の前に、PDFから数字を抜き出して転記する仕事はどれだけ残っているのでしょうか（businesswire.com/news/home/2…）。Finpilotが米国時間11月4日、日本時間11月5日に1,000万米ドルのシリーズAを発表しました。 Lobby Capitalが主導し、Madronaが参加。評価額は公表されていません。資金は製品拡張と、開発、顧客支援、営業などの採用へ使います。 対象は年金、大学基金、病院などの長期資金を運用するチームです。外部の運用会社から届く報告書、保有情報、過去の判断などをつなぎ、調査・報告・監視をAIエージェントへ任せる基盤を提供します。 会社の説明では、新しい資料を読み、数字を更新し、分析を準備して、何が変わったかを追跡。数字は出典へたどれ、人の判断が必要なときは担当者へ戻す設計です。 たとえば四半期の報告書を集めるだけでなく、前回から変わった点を担当者が確認できる状態にする。AIが運用判断を代行したり、投資収益を保証したりする発表ではありません。 汎用チャットへ文書を1枚ずつ渡す使い方から、機関が持つ記録をつなぎ、定期的な仕事を進める使い方へ。専門家が判断に入る前の準備を、継続して引き受ける点が面白いです。

AIがコードを書くほど、その後の障害調査も速くする必要があるのでしょうか（traversal.com/blog/traversal…）。Traversalが米国時間11月3日、日本時間11月4日に1億2,000万米ドルのシリーズBを発表しました。 評価額は10億米ドル。Kleiner Perkins、Redpoint Ventures、Khosla Venturesが共同主導し、SequoiaとBattery Venturesも参加しています。 同社が扱うのは、本番システムの障害原因を調べるAIエージェントです。ログ、性能の数値、処理の流れ、コード、変更履歴などを、調査に応じてつなげて読み取ります。 大事なのは、同時に起きた出来事をそのまま原因と決めないこと。会社は、稼働中のシステムを表す情報基盤と、仮説の時間関係や依存関係を検証する検索の仕組みを組み合わせ、根拠のある原因へ絞る設計だと説明しています。 「Traversal Workers」は異常をきっかけに調査を始め、文脈を集め、原因の特定と復旧を支援するエージェントです。完全自律の運用は今後の目標として掲げられており、今回の調達で実現済みになったという話ではありません。 資金は研究、開発、営業などの採用と機能拡張へ。コードの生成速度だけでなく、動かし続けるための調査と検証まで支える。AI開発の価値を本番の運用へつなぐ領域として注目したいです。

GPUの計算時間を、必要な期間だけ売買しやすくする市場にも資金が向かうのでしょうか（axios.com/newsletters/axios-…）。Axiosが11月3日、OrnnのシリーズA調達交渉を報じました。 報道は、3段階に分けた計1億5,000万米ドルを調達中で、Thrive CapitalとGeneral Catalystが主導するという内容。最終段階の評価額が10億米ドルを超える可能性にも触れています。 これは調達完了の発表ではありません。1億5,000万米ドルは調達中の金額で、10億米ドル超は成立した場合の評価額の話です。会社による正式な完了発表、最終条件、資金の具体的な使途は確認できていません。 Ornnの公式サイトでは、GPUの計算能力を必要とする企業と、空いている設備を持つ側をつなぐサービスを提供しています。契約期間は短時間から複数年まで。使わない容量を他の利用者へ回し、取引に基づく価格情報も扱います。 AIモデルを開発する会社に加え、計算資源を確保し、余った分を融通し、価格を把握する仕組みにも事業が広がっています。長期契約で余らせるリスクと、必要なときに不足するリスクをどう減らすか。今回の交渉報道は、その市場を追う材料として見ています。

医師向けAIに、必要に応じて専門医へ相談する仕組みを組み合わせる動きがあります（techinside.com/for-physician…）。トルコのFor Physicianが26万7,200米ドルを受け入れたと、TechInsideが11月3日に報じました。 記事によると、将来の株式転換を予定する借入型の資金調達です。ÜNLÜ & Co、Orhan Mutlu Topal氏、医師の個人投資家が参加。追加募集は続いており、ラウンド全体が完了したという報道ではありません。評価額400万米ドルとの説明もありますが、転換条件や評価額の基準は確認できていません。 製品は、本人確認済みの医師向けに、臨床上の質問への回答や画像の評価、処方検討を支えるAIツールを提供します。希望すれば専門医の意見も別に求められます。 ここは区別が必要です。公式サイトは、AI回答が自動で専門医の承認を受けるわけではなく、専門医への相談は任意と明記しています。最終的な臨床判断は利用する医師が担います。調達のニュースは診療の正確性を証明するものではありません。 資金は地域展開、医師団体との提携、マーケティングに使うと報道されています。AIへの質問と人の専門家への相談を同じ場で扱いながら、誰がどの回答を確認したのかを明確にする。この役割分担にも注目したいです。