烏丸

AIから誤った回答が返ってきても、検証せずにそのまま従ってしまう状態を”認知的降伏”と呼びます。 この状態の厄介なところは、誤った回答であるにも関わらず、AIの回答がエビデンスであるかのようにその回答への自信を強めてしまう点です。 同じようなことは昔から起きており、Wikiやブログ、SNSで発信されている情報を鵜呑みにしてしまうのと同じですね。 この状態に陥ってしまうと、本人は自信があるのでセルフチェックをしても誤りには気付きにくく、問題が発生してから気付くという最悪の結果となります。 この状態を防ぐためには必ず他者のレビューを挟み、本人に説明させてください。 もし説明できない成果物を提出してきた場合は、オーナーシップを持つように指導が必要です。 ”認知的降伏”は昔からあったものの、AIの登場によりさらに広がっているように感じます。 AI利用者はこの状態に陥るのではなく、自分の頭で考え、AIはあくまでツールとして使用するように心がけましょう。