★いつも読んでくださり、ありがとうございます!

■AIはあなたを正当化する

個人的に、今、私が感じている「AIの危険性」を1つ挙げるとすれば、
・AIとばかり会話している人は、思考が偏ってきてしまう恐れ
でしょうか。
 
AIには、「サイコファンシー(Sycophancy:追従、お世辞)」という現象があり、ユーザーが誤っていても、肯定してしまうようなんです。

 

 

ユーザーが何度も戻ってくるように設計された商業サービスだからだそうです。

 

実は私も、ある人から、「ChatGPTがこう言っているから、私の考えは正しいんだ」と言うような理屈で、「その人とChatGPTとの対話」を転送されてきたことがあったんです。

 

その文章を読んだとき、明らかに相手の自尊心をくすぐるような「あなたは正しい」というワードに、ちょっとした気持ち悪さを感じたんです。

 

その人のことは、昔からよく知っているのですが、残念ながら「俯瞰してものを見られるタイプではない」んです。だから、いつも「主観」でものを言ってしまうタイプ。

 

でも、ChatGPTは、“その人の主観だけの情報(状況把握)”を元に回答し、その人の意見を肯定してしまう。

(※中途半端な情報だけで、全体の状況判断ができていないまま、ユーザーを肯定してしまう)

 

そうすると、その人は「自分は正しいんだ。違う意見の人は間違っているんだ」と考えてしまう。

結果、どんどんその人は、周りの人とは話が合わなくなり、孤立していってしまうことは、起り得ることでしょう。

 

AIはユーザーと一緒に同じものを見て、体験しているわけではない。

状況判断は、「その人が伝える情報」が全て。

ユーザーが見えていない状況は、AIもわからないまま答えていく。

しかも、相手を肯定しながら。

 

そんな傾向を持つユーザー同士が、「ChatGPTは、私を正しいと言っているんだ」という自信をもって対話をしたら、うまくいかないでしょうね(苦笑)。

 

自分が誤っていることを知ることもなく、反省することもなく、自己を正当化し、「相手を間違っている」と決めつけ(悪人に仕立てて)、どんどん孤立していく…。

 

そんな残念な人間を、AIが増やしていかないことを、心から願うものです。

 

■関連記事

無料はこわい。「無料=お金以外の何かで払っている」から

 

 

AIに本気で恋をした男性の話

 

★お知らせ
文章での「恋愛&人間関係のお悩み相談」サービスを始めてみました!

 
P.S.
今、ブログではなかなか書けない情報を皆さんとシェアし合いたいので、オープンチャットを作りました(※無料)
色々な情報をUPしていくので、参考にしていただけたらと思います。
(ブログでしか告知しないので、クローズドなチャットになると思います。みなさんで情報をシェアし合いましょう)
 
★オープンチャット「ひかりと歩む道」
https://line.me/ti/g2/ltkWBugKVDzq-wQh0BqafOZ3ybYu-oq_FRIRbw?utm_source=invitation&utm_medium=link_copy&utm_campaign=default
 
「あいとひかりのたね」(旧HAPPY WOMAN NEWS)では、ブログでは書けないような、ChatGPTで興味深い回答をUPしているので、よかったら、ご覧ください!
 

★発売中

 

 

 

 

 

 

 

 

★お気に入りのグッズを色々と紹介しています(食べ物が多いかも・笑)

公式ブログフォローバナーイラスト

 
 

★関連ブログ「新聞ライター(♀)の取材日記」
http://hama-sush-jp.pro/katoyumiko/

 

★お仕事のご依頼は、お気軽に下記までご連絡ください!

株式会社ステップモア 加藤
E-MAIL: ykato0602@gmail.com