生成AIのハルシネーション（嘘）の話

ランキングに参加しました。
応援いただけると嬉しいです。

先日、OpenAIが生成AIのハルシネーションに関する論文を出しました。

ChatGPTなどのモデルが、最もらしい誤った情報をあたかも真実のように自信満々に生成するのかを解き明かすという内容です。

OpenAIは、最新モデルのGPT-5でもハルシネーションが発生する事実があることを話しており、今後もハルシネーションを減らすために努力するとありました。

このハルシネーションですが、様々なニュースや個人の発言、文章などのテキストデータからAIが学習しているものや規則性に基づくものであれば、精度の高い回答結果が得られますが、事前学習されていない個人に関する情報など、AIが知る機会のないことについては、エラーが避けられないとのことです。

私たち人間も知らないことを知っているように話すことがありますし、知らないことを話せと言われても話せませんよね。

また、ハルシネーションのもう一つの原因として、分かりませんの0点よりは、何かしらの回答をして1点にするためにハルシネーションが発生しているとありました。

分かりませんと回答されると信頼されませんもんね。
それで推測した内容を最適解として回答しているようです。

扱うデータが山程あり、そこから人間のプロンプトに答える技術そのものが凄いと思っていますが、やはり完璧ではないのが現状です。

でも、生成AIの精度がより高まり、何もかも正しい情報を伝えてきて、人間が考えたことのないことをAIから情報をもらう時代がすぐそこまで来ているとして、何をもって人に対して対価を支払ったり、人に仕事をしてもらう形になるのでしょう。

世の中の仕事が絶対にロボットだけで完結することはないですが、全てがロボットには変わらないとしても、置き換わるものは確実にあると思ってます。

長女と次女には話していますが、この先のパパたちの生きてきた時代と子供たちの時代では求められるものが違う可能性があって、生成AIなどを作る側からAIを管理する力が求められるようになると思うから、何か人よりも優れた技術や知識を身に着けようね。と話しています。

自分自身に何があるか？と言われると、人より優れたものは無いです。

でも、子供たちの時代には、何かしら強みがないと、有名大学を出たり、資格を持っていても、AI活用の波にのまれてしまう可能性があると思っています。

携帯の通話などはリアルタイム翻訳できますし、資格や語学の勉強もAIでできます。
ホテルのフロント業務も全自動しているホテルもあれば、乗り物の自動運転技術も高まっています。

新たな技術を開発する側や管理する側にならないと不確定な要素がたくさんあるんですよね。

私が生きている時代にどれだけ進むか分かりませんが、昔は無かったパソコンが当たり前に使われ、ポケベルが小型のPC機能を持つスマートフォンになり、切符で乗った公共交通機関がタッチレスになるなど、技術はどんどん進みます。

ここにAIの力が加わることで、もっと技術の進むスピードは早くなることでしょう。

更なるAIの進化に備え、子供たちにも色々と情報を伝えるとともに、自身も写真の技術や靴磨きの技術など、ロボットに代替できないものをどんどん磨いていきたいと思います。

勝手な憶測が多いですね💦

以上、生成AIに関する記事でした。

気ままな子育て日記