「AIの嘘」なぜ見抜けない…？AIとのいい付き合い方を考えてみた

みうら

8月10日

読了時間: 4分

こんにちは。ファシリテートGのみうらです。

今回は「AIの嘘」というテーマに考えていきたいと思います。

はじめに

考えようと思ったきっかけは、普段の業務の中で感じたAIとの距離感でした。私の身近でも業務の効率化やユーザーサポートとしてAIの活用が推奨されており、短時間でアイデアが形になるのは本当に助かっています。

ただ最近は、AIは便利な反面、私たち使う側がAIからの回答をうのみにしてしまうリスクがあるのでは？と考え始めました。

AIの回答をうのみにしてはいけないというのは、AI活用を考えたことがある人なら多くの人がご理解されていると思いますが、周りの身近な人や私自身も「AIの嘘」を見抜けず後からハッとすることは多い印象です。

AIの言っていることは100%正しいとは限らない！と分かっていながら、なぜ私たちはAIの嘘に騙されてしまうのでしょうか…？

主に以下の理由ではないかと思います。

文章に説得力がある AIの文章は文法が完璧でぱっと見すごく分かりやすいですよね。また、人間と違って曖昧な回答というのも少ない印象ですので、見たときにスッと頭に入ってきやすいと思います。そのため、「あ、こういうことなのね！じゃあ問題ないか！」とついその場で判断し騙されてしまうのかと考えております。
早く終わらせたいという心理 忙しい時や期限が迫っているときは当然焦ってしまいますよね。そんな時にAIがそれらしい答えと出してくれると、回答が出たことに安堵し、表面だけみて「うん、それっぽい回答だし理屈も通っているね」と、本当に正しいかのチェックを飛ばしてしまうのかもしれません。
「AIが言うなら合ってるかも」とどこかで思っているから AIはネットに落ちている情報や、使う環境によっては、あらかじめまとめたナレッジをAIに読ませてその情報を基に回答をしているため、自分よりもAIの方が詳しいのではという思い込みが、みなさんどこかであるのではと思います。自分が知っている内容だったら判断がつくかもしれませんが、見当がつかない内容だと、その場で素直に納得してしまうこともありそうですね。

では、「AIの嘘」に振り回されないためにはどうしたらいいのか？とても単純なことですが、私は以下2つのことを大事にすべきだと考えます。

1. 「ファクトチェック」を必ずする

AIが出してくれた回答は、完成された情報ではなく、あくまでも「ちょっと精度の高い下書き」として受け取る。
文章の中で肝となる大切な事実関係は、最後に自分の目で公式情報や実操作や周りに確認をするなどして必ず1回確認する。

上記は、正しく利用できている人にとっては当たり前のことかもしれませんが、こちらができていない人って割といるのではないかと思います。このひと手間を加えることで、そこらへんに落ちている不明確な情報から、確実な情報へステップアップし、情報の品質が保たれるのです。

2. 自分で知識を集めることを怠らない（自分の知識をアップデートする）

AIに頼りきりにならず、自ら情報を見に行ったり、実際に試して確認する
出た回答に対して、うのみにせず「本当かな？」と疑問に思うことを癖づける

業務に対する姿勢の問題のような気もしますが、ここの意識を持つことが結構重要だと思っています。上記を習慣づけることで、だんだん自分の中の知識が増えていきますので、 AIに嘘をつかれていても、「あれ、この間別件で見たときはこうだったので間違いでは？」と本当か嘘かの判断がつくようになっていくと考えています。
もちろん、最初は何も検討がつかないかもしれませんが、自分自身で知ろうとする意識をもって、AIと向き合うことで最終的に完成した情報を手に入れることができるのではないでしょうか。

いかがでしょうか。

今回は実際に私が身近で気になっている「AIとの付き合い方」について、書かせていただきました。私自身も気を付けているつもりですが、この記事を書いていてまだ完璧にできていない点もあるのではと感じます。

また、今回お話したことは個人で気を付けるのも大事ですが、

チームなどの方針として呼びかけることで有効になるかと考えています。

チームリーダーなどメンバーをまとめる立場の方で、この辺の活用ができていないと心当たりがあるようであれば、周りの方に一度呼びかけてみるのもいいかもしれませんね。

AIはとても便利なので、情報の確実性に気を付けて上手く付き合っていきましょう。