Akiko Murakami/村上明子

ご参照ください

【AIニュースピック】 日本AISIが、オープンウェイトモデルGLM-5.3の攻撃コード開発能力を評価した検証ノートを公開しました。 ・ブラウザ等で使われるJavaScriptエンジン「V8」の既知の脆弱性41課題で評価 ・最も高度な段階（任意コード実行など）に到達した課題は、前モデルGLM-5.2の0件に対し8件 ・当初は前モデルより低いスコアが出たが、実行記録の点検で評価設定の問題が判明し、見直し後に逆転 前回「限定的」とされた能力が、わずか1世代で大きく変わり得ることが示されました。平均点だけでなく、評価条件や記録まで確かめることの大切さも浮き彫りです。 こうした評価情報を従来の脆弱性情報と組み合わせ、防御側の対策の優先順位づけに活かす、という提起も重要です。 AISIによるAIの「検証力」の重要性がますます増しています。AIの進化に先回りできる評価と防御の体制づくりを進めます。

古川デジタル大臣兼内閣府特命担当大臣（人工知能戦略）兼サイバー安全保障担当大臣がAIセーフティ・インスティテュート（AISI）訪問 AISIのAIモデルの性能評価等を視察。高性能AIの進化やサイバー攻撃増加を踏まえ、英国AISIと協力を深め、AIセキュリティを中心に評価機能強化が重要だと述べました。

【AISIによるモデル検証の現場を視察】 AIの安全性に関する評価手法や基準の検討・推進を行うAIセーフティ・インスティテュート（AISI）を担当副大臣として視察。村上明子所長@akikom の案内で、進行中のオープンウェイトモデルの安全性評価の検証プロセスを見せて頂きました。 開放感のあるオフィスに移転し、優秀な技術者を中心に体制も急速に増強中。先週金曜日には、初めて海外モデルの独自評価レポート2本をリリースしました。今後は米国や英国などの検証機関と連携し、日本のAIガバナンスの技術的ハブとしてますます存在感を発揮してくれるはずです。 新たに開設したAISIのXアカウントもぜひフォローお願いします👍↓

Xアカウント開始します！ 安全性の基準（ベンチマーク）を自分たちで議論、作成し、AIの安全性を自ら評価できる組織を目指しています。 その一歩目として、Claude Opus 4.8とGLM-5.2のサイバー能力を実際に検証し、結果を公表しました。 aisi.go.jp/activity/activity… aisi.go.jp/activity/activity…

今晩9時から、ABEMA primeに生出演します！！ Claude Mythos問題と、日本版Project Glasswing構想とは？ AISIの村上さんも来るかも

★AIガバナンスを巡る論点2025 #18 を公開★ ＜オピニオン＞ AIの「安全」と「安心」を切り分けて考える AISI　村上明子 所長 digitalpolicyforum.jp/issue-…

Technovation Girlsの中に溢れる笑顔とエネルギー❤️‍🔥 学校とは違う新しい環境で、仲間とアプリ開発に挑戦しよう！ 社会課題を解決するアプリ開発コンテスト参加者募集中！ 締め切り11/23(日) 申し込みは👇 share.hsforms.com/1FgrggNskS… 事前説明会(11/16 or アーカイブ)は👇 share.hsforms.com/1dgMml4NTR…

小野田大臣、AISIの村上所長とともに、優れたAIを開発している米国のスタートアップである、アンソロピック社ダリオ・アモディCEOと面会しました。AIは戦略分野であり、「危機管理投資」の一つとして、安全性の高いAIについて官民の積極的な投資を引き出し、産業化を加速させていきます。