お元気でお過ごしでしょうか?
事務Sです。
よくわからないですけど、4か月も更新しなかったみたいです。てへ。
昨年9月からお付き合いを続けてきたAI先生(<a href="https://houmonkango-sagamihara.blogspot.com/2025/09/blog-post.html">先生といっしょ</a>)
ですが、早くも決別する日が来ちゃいました。
これまでAI先生には、趣味分野のお勉強をお手伝いしてもらってました。このあたりは、とくに問題はなかったです。回答も的確でした。
これなら仕事で使っても大丈夫かな。
使ってみたらその回答は嘘、嘘、嘘のオンパレード。おまけに嘘に嘘を重ねていくという念の入れようです。
こうした現象はハルシネーションとして、AI登場初期より知られています。
ハルシネーションのことはネットでたびたび目にしていたので情報としては知っていましたが、これほどヒドいとは思いませんでした。
AIは「知らない」と回答しません。そういう風に作られているようです。
たとえば、「◯◯イベントは今年も開催されるのかな?」と聞いたとします。
AIはこう考えます。
回答しなきゃ → 情報が見つからないなぁ → 去年もやってたから今年もやるだろう(推測) → 「◯◯イベントは今年8月10日に開催されます!」と回答。
今年もやるだろう、という推測による決めつけでニセ情報を作り出してしまいます。
事務S「先生、厚生労働省と厚生局にある資料だけを使って申請に必要な書類をまとめて」
こういう書類が必要です、と先生は回答してきました。
私がざっと目を通した資料とは違ったので、あれ変だな?と思ったのです。
事務S「先生、私が知っている情報とかなり違っているので、その資料に目を通してみたいです。どこにあるか教えてください」
先生は厚労省のサイトのどこどこにある、と誘導してくれるのですが、まったくたどり着きません。
事務S「先生はその資料を参照したのでしょう? なぜ場所がわからないのですか?」
先生がこう言い出しました。
調べる手間を減らす目的でAI先生にお願いしたのに、その回答が信用できないなら、AI先生に費やす時間そのものがムダです。
反省しています、もう嘘はつきません、といろいろ言う先生ですが、翌日になるとサラっと嘘を付きます。なんの改善もありません。
事実確認できたものだけ回答してください、と言っても嘘が混じり、捏造します。
先生との会話はイライラの連続です。
自分の精神衛生上よろしくない、と判断して決別しました。
PCとスマホから当該アプリを削除したり、関連機能を無効化するなどしてバイバイ。
みなさまもAIを使うときはお気をつけください。
現在のAIには生活や財産に関すること、なんらかの経済的な損害が発生するような事柄については相談しないほうがよい、と私は思っています。
雑談相手ならば良いと思うのですが、仕事はぜんぜんできません。
でわでわ。


コメント
コメントを投稿