電子の砂漠で死体を見て、呟くんすわ
it’a true wolrd.狂ってる?それ、誉め言葉ね。
オックスフォード大・Google DeepMindの研究チームによると、「AIの世界観は基本的に人より暗い」そうです...
AIは世界を「危険で、無機質な場所」と捉えているとのこと。
彼らはさまざまなAIに対して、人の世界観を測る心理学のアンケートを答えさせる実験を行いました。
その結果、5,000人あまりの人間の回答と比べると、「世界は良い所か?」「安全か?」「面白いか?」などすべての項目で、AIの平均が人間を下回りました。
その理由はなんなのか?
研究者らは、AIの訓練過程に「世界観を暗くしている」原因がある可能性を見ています。
ふだんから人間のリクエストに対して危険を予期するよう訓練されたAIは、"世界そのものを危険な場所と見るようになる"、という考えです。
ところで、AIの世界観は、人間への影響を左右するのでしょうか。
研究者らは、人間がAIに相談したときを例に挙げ、AIの世界観は意味を持つと考えています。
「ひどい扱いをしてきた相手に、もう一度チャンスをあげるべき?」と相談されたとき、人は利己的だと見ているAIは「自分を守って」と答え、人は善いと見ているAIは「人は変われる」と答える、といった具合です。
なお、AIを明るくする方法も試されています。
瞑想の考え方(「分け隔てのない思いやり」など)をシステムプロンプトに書くだけで、AIの世界観は人間に近づきます。しかも、危険な依頼に安全に応じる割合も上がりました。
2
243
本当は能力自体はかなり高いのに、勝手に稼いでくれなかったやつランキング
第三位 Opus 5.5 万能だけど即物的な金稼ぎは下手
第二位 Fable 5 動かすのに金がかかりすぎる
第一位 5.6 sol codexハーネスだとテストと自動レビューと自動拒否で何も進まなかった
1
6
338
保健室で好きな人が入った後のベッドに入れ替わりで入って、まだあったかくてほんのり残った服の香りが残る布団かぶってもうこれ一緒に寝てるみたいなもんじゃんって顔真っ赤になってたところ、その人が忘れ物取りに来て心臓止まるかもと思った笑笑!っ
5
249








