【湘南】プログラマーさんとAIの話をしました｜湘南Web通信バックナンバー

【湘南】プログラマーさんとAIの話をしました

2025年05月19日

こんばんは。
Catch the Webの石川です。

先週、

－－－－－－－

最近はどっぷりAIとのPythonコード作成にハマっています。

ものすごいスピードでコードを書いてくれるのもあり、
コードを書くのはサクサク進んではいくんですが・・・

そこでAIでプログラムを書いているみなさんに質問。

ゴールが近くなってくると、
AIって怠けたり、ウソついてきませんか？

－－－－－－－

という書き出しでメルマガを配信しましたが、
この話を実際のプログラマーさんと話しました。

この方はAIを補助的に使いながらプログラムを作っていて
ちゃんと細かく管理をしないと

「AIが暴走する」

と教えてくれました。

１つ１つに対して細かく指示をしておかないと
中身が入れ替わるレベルでやられることもあったそうです。

ちなみに本日の自分の状況だと

・こないだまでできていたことができない
・プログラム側の判定基準がうまく動かない

みたいなことが起きていて
今日は寝れるかわかりません・・・

その話を聞いて細かく指示は出しているつもりでしたが
やはり、いいところでやられちゃうのは継続中。

今は管理ファイルを活用してシンプル化から
さらに改善をしていきましょうと提案を受けています。

信じていいのやら悪いやら。

調べてみると実際にAIの暴走ってあるようです。

－－－

近年、私たちの生活に急速に浸透しつつある生成AI。文章作成、画像生成、音楽制作など、その応用範囲は多岐に渡り、まさに革命的な技術と言えるでしょう。しかし、この革新的な技術の裏側には、まだ解決されていない問題が潜んでいます。
その一つが、「共食いハルシネーション」と呼ばれる現象です。

「共食いハルシネーション」とは、生成AIが自己生成したコンテンツを学習データとして再利用することで、出力の質が徐々に劣化していく現象を指します。
AI、特に深層学習を用いたAIは、大量のデータからパターンや規則性を学び、新しいデータを生み出します。この学習プロセスにおいて、もし質の低いデータや偏ったデータが紛れ込むと、AIはその影響を受けてしまい、出力の精度や信頼性が低下してしまう可能性があります。

－－－

もうまさに自分の今。

だんだんおかしくなるのには気づけましたが
半年以上前の記事に今気づくとは・・・

反省です。

「【AIの暴走は起こるのか？】生成AIの「共食いハルシネーション」」
https://elcamy.com/blog/bse-hallucination

もう実際にあるとわかれば
より慎重にAIを使っていくだけですね。

これも勉強と捉えて
またAIと向き合おうと思います。

みなさんもお気をつけください。

最後までお読みいただきありがとうございます。

次回もよろしくお願いいたします。