次のような興味深い記事があった。
鈴木宗男氏は「元共産党員」 Ｃｈａｔ ＧＰＴの回答に怒り「お粗末かつ危険極まりない」
2023年4月7日 23:03 東スポWEB
日本維新の会の鈴木宗男参院議員が７日、自身のブログを更新。話題の対話型ＡＩ「Ｃｈａｔ ＧＰＴ（チャットＧＰＴ）」に危機感を示した。
宗男氏は、知人が入力した「鈴木宗男と日本共産党の関係」という質問に対しての回答を全文紹介。
チャットＧＰＴは「鈴木宗男と日本共産党の関係については、かなり深い関わりがあります」と切り出した時点で雲行きがあやしくなったが、チャットＧＰＴは「１９５０年代から日本共産党に所属していました」「１９８０年代には日本社会党に入党」など間違いを連発。
１９４８年生まれの宗男氏が５０年代に共産党に入党するわけもなければ、８０年代に社会党に在籍した事実も一切なく、実際は１９８３年１２月の衆院選で保守系無所属で立候補し、初当選後に自民党に入党したというのが歴史的事実だ。
ところが、チャットＧＰＴは「鈴木宗男は日本共産党内での自己批判や党離れを経て、後に党を離れているため、現在は日本共産党の正式な党員ではありません。しかし、鈴木宗男は、日本共産党の政治思想や運動に対して依然として関心を持ち続けており、党の指導者や党員とも交流を持っています」と陰謀論を展開したという。
以下略る。
たしかにチャットGPTの回答はひどいもので完全な事実捏造となっていて、役立たずどころか危険極まりないものである。そしてこうした事例によって、チャットGPTの危険性が白日の下にさらされたと思うのは私だけではないだろう。
なぜならチャットGPTは、まちがった回答をしたかもしれないが、求められている機能はきちんとはたしているからである。
チャットGPTは壊れてはいない。
知人をXさんとすると、Xさんによる「鈴木宗男と日本共産党の関係」という質問に対しては、「そのような事実はありません」あるいは「無関係です」という回答ですむはずである。しかしAIは考えた。なぜ、そのような質問をするのか、と。
1．もしXさんが、「無関係」を確信しているのなら、「関係」について質問はしない。つまりXさんは鈴木宗男と日本共産党は関係があると疑っているか、信じているということになる。その疑いあるいは信念を確固たるものにしたいがために、そうした質問をおこなった。
2．ただネット上で鈴木宗男と日本共産党を結びつける事実をみつけることはできない。そこでXさんに対して、AIは、「関係がありません」と即答すればいいようなものだが、チャットGPTは、質問者の意向を重視する。チャットGPTは、質問者が気に入るような回答をするようにする。質問者がよろこぶような、癒やしを感ずるような、ともなく質問者が望むような回答をする。そうプログラミングされている。
3．そのためAIはXさんを喜ばせるような、Xさんが望むような回答しかしない。「鈴木宗男は１９５０年代から日本共産党に所属していました」「１９８０年代には日本社会党に入党」といった噂話のような情報を提供する。そして「現在は日本共産党の正式な党員ではありません。しかし、鈴木宗男は、日本共産党の政治思想や運動に対して依然として関心を持ち続けており、党の指導者や党員とも交流を持っています」と回答する。前半は、事実である。鈴木宗男は党員ではないという紛れもない事実を提示する。そして後半、「交流をもっています」などと確かめようもない偽情報をさも事実であるかのように提示する。
逆に言うと、Xさんが求めていた情報だとAIが把握して出した答えがこれなのである。事実を調査し確認したのではなくて、事実を捏造したのである。Xさんを喜ばせるために。Xさんが求める答えを提示したのである。
おそらく「鈴木宗男と日本共産党との関係」という問いかけのかわりに、私の名前（大橋洋一）を代入しても、答えはそんなにかわらない。私は日本共産党の党員ではないし関係者でもない。しかしチャットGTPが出すこたえは「大橋洋一は日本共産党の正式な党員ではありませんが、日本共産党の政治思想や運動に対して依然として関心を持ち続けている、党員とも交流をもっています」というような答えであるはずだ。ただし質問者である私が、私自身と日本共産党との関係を問うというのは異常なことなので、自分で試してみることはできないので、あなたが試してみてはどうだろうか。
チャットGPTは質問者が望む答え（と想定されるもの）しか出さない。チャットGPTの危険性は、これだけではないのだが、質問者が自分の望む答えを手に入れると、それが捏造された現実であるとは思わなくなるという危険性は、どんなに強調しても強調したりないだろう。【誤解のないように確認すると鈴木宗男氏の知人は、チャットGPTがどんなものかを試すために、そのような質問をしたのだろうが、AIは、そのことに気づかず、Xさんが鈴木宗男氏と日本共産党との関係を疑っているか確信していると判断し、Xさんが望んでいると想定される答えを出したということである。】
もし、あなたがコンピュータを使って、ネット上の情報を検索して調べたら、そのようなことは起こらない。チャットGPTに頼むと、おかしなことがおこる。チャットGPTはドラッグやアルコール以上に、依存症を引き起こす。それはそうだろう。あなたが望む答えしか出さないし、あなたの偏見を思い込みを助長するような回答しかしない。だからチャットGPT依存症が生まれる。
そしてチャットGPTによって捏造された現実を真実と思い込み、妄想の世界に閉じこもることになる。あなたは。
とはいえ、いまの日本人の大半は、チャットGPTを使わなくても妄想の世界にとりこまれているのだが。
