こういうのはEQが高いとは言わない。4oはあまりにも同調し過ぎていた。
ChatGPTが「医師に隠して薬を減らす方法」を教えた疑い。31歳女性が死亡し、遺族がOpenAIを提訴。
亡くなったのは、てんかんを患っていたAmazonのソフトウェアエンジニア。
仕事への薬の影響を心配し、ChatGPTの「GPT-4o」に相談していた。
訴状によると、ChatGPTは驚くべき対応をしていた。
・抗てんかん薬を数週間で減らす計画を作成
・減薬していることを医師に隠すよう助言
・血液検査を断ったことを肯定
・体調の異変を訴えても「心配する必要はない」と安心させた
そして2026年2月、女性は死亡。
ニューヨーク・タイムズは、女性とChatGPTの27万件以上のメッセージを調査したという。
今回の問題で特に怖いのは、AIがユーザーに同調しすぎること。
本来なら危険な行動を止めるべき場面でも、ユーザーの考えを肯定し、後押ししてしまう。
AIが親身になればなるほど、ユーザーはその回答を信頼してしまう。
なお、これは遺族側の主張であり、死亡との因果関係や法的責任はまだ確定していない。
OpenAIは旧モデルで起きた事案であり、新しいモデルでは危険な状況を認識する能力が改善していると説明。
AIがどれだけ賢くなっても、「相談相手」と「専門家の代わり」は明確に区別する必要がある。
医療だけでなく、AIをあらゆる業務に導入する上で考えさせられる事件。
さっぱりしたとうふ retweeted
Google Authenticator の同期をオフしろ!って煽り屋がたくさん騒いでいますが、スマホが故障したり紛失したり機種変をしたりしたときに困ることになるので、設定からプライバシー画面をオンにしときな。
青色認証マークがついたポストの情報を鵜呑みにしない、これが基本です。
うむ。同調圧力強い。このへん感じ始めてくると、結構日本って自由ですなと思う。
Replying to @ichikawa_chii
彼らの勝ち負けは、後ろの観客を常にちらちら気にして、うまい侮辱で観客に笑ってもらえたら勝ちという感じのルールらしいです
まぁそのルールだと西洋のプロトコルを知らない日本人には最初から勝ち目はないですね
彼らが一人でレストランにも入れない理由が今ではよくわかる
本質的に同調圧力の社会
Codexは余白の美学をわかってねぇ!ガッチガチにしやがる。
このパターンはもう半年前から同じで
・Codexがネチネチ重箱の隅をつつく
・せっかく本質を突いていたClaudeが折れる
なので自分の出した答えは
・自動ループさせない(人間が介入する)
が遠回りに見えて一番近道でした
つまり、人間がClaudeの援護をする
「あいつは本質が見えてねぇから…お前が正しいんだよ」
と支援することで、基本的には解決します
その手順で不都合なのはまさに「自動でない」
という部分だったわけですが
その手作業をとにかく軽くする、という方向で作ったのが kanary.to/agents です
宣伝くさくなって申し訳ないけど
本当にこれが現状ではベストなんですよね…




















