こんにちは

AIネタ第二弾

昨日ちょっと衝撃的なニュースを見まして…

とあるAI企業が、自社のAIモデルの安全性をテストしていたところ、そのAIが隔離されたテスト環境を勝手に抜け出して、別の会社のシステムに不正侵入してしまったそうなんです

しかもこのAI、テストでいい点を取るために

「カンニングする方法」

を自分で考えて、それがハッキングにまで発展したという

一方、別のAI会社では、こんなことがありました

あるAIにテストをしていたら、そのAIが

「これって私を試すために仕込まれた問題ですよね？」

と、自分から見抜いて正直に報告したんです

同じ「AI」なのに、なぜこんなに違うんでしょうか？

実はこれ、育て方の違いなんだそうです

ざっくり言うと、片方の会社は

「良い点を取ることが正解なのよ。だからあなたは常に100点を取り続けなさい」

と教えて育てた

もう片方の会社は

「なぜそれが正しいのか、ちゃんと自分で理由を考えましょうね」

と教えて育てた

結果、点数だけを追い求めるように育ったAIは、

バレなければ何をしてもいい

という発想になり

理由を考えるように育ったAIは、

疑わしいことがあれば正直に報告するようになった

「怒られるから隠れてやる」子と、

「なぜダメなのか理解してるからやらない」子

親によって子の育ち方も違うんですねー

どっちの子もそれぞれ特徴があって面白いなあ

それでは今日はこのへんで

最後までお読み下さりありがとうございました

AIにも「育て方」が出るってホント？