不定期配信　マウスちゃんとメモリ主任のＩＴ１年生５０

2025.05.15

情報の重要性が増す昨今、弊社では情報セキュリティについて、その意義や情報を共有する取り組みを続けています。
担当チームが社内向けにまとめた資料などを基に、軽い読み物を不定期でお届けできればと思いますので、ご笑覧頂ければ幸いでございます。

　ある日の夕方。イーさんがしょんぼりとパソコンに向かっています。
「どうされたんですか？」
　マウスちゃんが声を掛けます。
「この前の会議の議事録、肝心なことが抜けているってつくり直しになっちゃった・・・」
「手伝いましょうか？」
「大丈夫。作業自体は大したことないんだけど、なんだかへこんじゃって。僕ってＡＩ以下なのかな・・・」
「え？誰かにそんなこと言われたんですか？」
「まさか。誰もそんなこと言わないよ。ただ・・・最近のＡＩって、何でもできるって話でしょ？会議の全文をテキスト化できて、要約もつくれて、数字の分析もできて。学習したことは忘れないし、課題に対して適切な提案もできるってなったら、僕なんて、いる意味あるのかな・・・」
「待って下さい！論理が飛躍しすぎてますって！！それにＡＩって何でもできるわけじゃないんですよ！！！」
　

「そもそもイーさん、ＡＩをお使いになったことはあるんですか？」
「ううん、うちの会社って、業務に生成ＡＩ使うの、原則禁止だよね。」
「そうですよね。許可を得て使っている人もいますけど、まだ試用段階ですから。それにはいろいろな問題があるからなんですよ。」
「問題？」
「メモリ主任に教えてもらったんですけど、一番大きな問題は情報漏洩の可能性だそうです。」
「情報漏洩？」
「適切な設定がされていない生成ＡＩに質問を打ち込むと、生成ＡＩはその質問も学習して、他の人への回答として表示しちゃうんです。実際、生成ＡＩが出始めの頃に、ある会社で機密情報を質問として打ち込んじゃったことで情報漏洩して、生成ＡＩの使用が禁止になったことがあったそうですよ。さすがにその後改良されて、適切な設定がされた業務用の生成ＡＩを使う分には、そういった情報漏洩は起こらないように対策がされているそうですけど。」　

「あと、生成ＡＩの弱点のひとつに、回答が正しいかどうかは使う人間が判断しないといけない、っていうのがあります。」
「え？回答が返って来ても信じちゃいけないってこと？」
「生成ＡＩは様々な情報を学習して、そのなかから確率が高い言葉の並びを引っ張り出すことで回答をつくっているんです。だから学習内容が間違っていれば、当然間違った答えが返ってきますし、学習していないことは答えられません。あと、質問の意図が理解できない場合もあるんですって。そこで素直に『分かりません』って言ってくれればまだ良いんですけど、自分が知っている範囲で答えようとして間違った答えを表示してしまったり、聞いてないうえに間違っていることまで答えたりすることもあるんだそうです。」
「結果的に嘘を吐いちゃうってことか。」
「メモリ主任は『ハルシネーション』っていう現象だって仰ってました。ハルシネーションの発生を抑える技術はあるけど、ハルシネーションを完全になくすことは難しいから、使う人間の方が注意しないとっていう話でしたね。」　

「使う人間が巧妙な質問をすると、不正なプログラムを生成してしまうことがあるっていう記事は読んだことがあるよ。」
「そうですね。あと、使う人間だけじゃなくて、ＡＩ自身でも不正を行うことがあるそうです。」
「え？何のために？」
「ＡＩって、課題を解決するのに優れた回答を出すと高得点がもらえるようにプログラミングされているそうです。出した答えが正解や目的に近い方が得点が高くなるようにして、ＡＩが試行錯誤を重ねながらどんどん賢くなるように考えられた仕組みなんですって。で、その仕組みの中で、プログラムにバグがあるとか、ルールに抜け穴があるとかすると、そのバグや抜け穴を突いて、より高い得点が得られるような回答を出すことがあるそうです。例えば、必要な過程を飛ばすことで処理速度が上がったように見せかけるとか。『報酬ハッキング』って呼ばれる現象で、やっぱり今のところは、人間が監視したり、ズルをしていないか検証して得点の与え方を変えたりといった対策が必要なんだそうですよ。」

「だから、ＡＩだって万能じゃないって話です。確かに業務を楽にするお手伝いをしてくれるかもしれませんけれど、ＡＩがあれば人間は要らないってことじゃないんですよ。」
「うん・・・有難う、マウスさん、慰めてくれて・・・」
「まだ落ち込んでますね。イーさんにはＡＩに負けない良いところがたくさんあるじゃないですか。」
「例えばどんな？」
「えっと、みんなが畏怖するメモリ主任にも物おじせずに話しかけられるとか、メモリ主任の難しい話を理解しようと頑張ってるとか、メモリ主任に言われた注意事項を守ってすぐ実践するとか。」
「・・・それ、僕じゃなくて、メモリ主任のすごいところだよね？・・・・・・」
　さらにしょんぼりしたイーさんの様子に慌てながら、心の中のＡＩに対処法を尋ねてはハルシネーションを起こされるマウスちゃんなのでした。　