【湘南】プログラマーさんとAIの話をしました
こんばんは。
Catch the Webの石川です。
先週、
－－－－－－－
最近はどっぷりAIとのPythonコード作成にハマっています。
ものすごいスピードでコードを書いてくれるのもあり、
コードを書くのはサクサク進んではいくんですが・・・
そこでAIでプログラムを書いているみなさんに質問。
ゴールが近くなってくると、
AIって怠けたり、ウソついてきませんか？
－－－－－－－
という書き出しでメルマガを配信しましたが、
この話を実際のプログラマーさんと話しました。
この方はAIを補助的に使いながらプログラムを作っていて
ちゃんと細かく管理をしないと
「AIが暴走する」
と教えてくれました。
１つ１つに対して細かく指示をしておかないと
中身が入れ替わるレベルでやられることもあったそうです。
ちなみに本日の自分の状況だと
・こないだまでできていたことができない
・プログラム側の判定基準がうまく動かない
みたいなことが起きていて
今日は寝れるかわかりません・・・
その話を聞いて細かく指示は出しているつもりでしたが
やはり、いいところでやられちゃうのは継続中。
今は管理ファイルを活用してシンプル化から
さらに改善をしていきましょうと提案を受けています。
信じていいのやら悪いやら。
調べてみると実際にAIの暴走ってあるようです。
－－－
近年、私たちの生活に急速に浸透しつつある生成AI。文章作成、画像生成、音楽制作など、その応用範囲は多岐に渡り、まさに革命的な技術と言えるでしょう。しかし、この革新的な技術の裏側には、まだ解決されていない問題が潜んでいます。
その一つが、「共食いハルシネーション」と呼ばれる現象です。
「共食いハルシネーション」とは、生成AIが自己生成したコンテンツを学習データとして再利用することで、出力の質が徐々に劣化していく現象を指します。
AI、特に深層学習を用いたAIは、大量のデータからパターンや規則性を学び、新しいデータを生み出します。この学習プロセスにおいて、もし質の低いデータや偏ったデータが紛れ込むと、AIはその影響を受けてしまい、出力の精度や信頼性が低下してしまう可能性があります。
－－－
もうまさに自分の今。
だんだんおかしくなるのには気づけましたが
半年以上前の記事に今気づくとは・・・
反省です。
「【AIの暴走は起こるのか？】生成AIの「共食いハルシネーション」」
https://elcamy.com/blog/bse-hallucination
もう実際にあるとわかれば
より慎重にAIを使っていくだけですね。
これも勉強と捉えて
またAIと向き合おうと思います。
みなさんもお気をつけください。
最後までお読みいただきありがとうございます。
次回もよろしくお願いいたします。
記事一覧
こんにちは。 Catch the Web＠月刊副業の長です。 文章を使って誰かに行動してもらいたい時、 簡単さや手軽さを伝えるのはとても大切です。 どれだけ商品・サー
2025年07月15日
こんばんは。 Catch the Webの石川です。 Googleのコアアップデートが始まって ２週間が経ちました。 X上のポストでもチラホラ出ていますが、 個人ブログで
2025年07月14日
こんにちは。 Catch the Webの相川です。 今日は普段のTIPSとは テイストを変えて、 ”今の広告業界で起きている変化” ”今後ビジネスで生き残っていくために
2025年07月10日
こんにちは。 Catch the Webの松井です。 最近、 相変わらずバタバタしながらも、 どんどん新しい事にも チャレンジしているのですが、 その中で １つ興
2025年07月09日
【湘南】伝わる文章をスムーズに書くための「情報の優先順位」とは？
こんにちは。 Catch the Web＠月刊副業の長です。 ブログの記事にしても メールやLINEのメッセージにしても、 頭の中でイメージしていることを パッと書いて
2025年07月08日
こんばんは。 Catch the Webの石川です。 ６月30日から コアアップデートが始まったようです。 ３月以来の今年２回目でしょうか。 ネタ元はこちら。 ht
2025年07月07日
こんにちは。 Catch the Webの松井です。 今年の２月 40歳になったのですが、 自分の中では 39歳のときと40歳の違いを とても 大きく感じます。
2025年07月04日
こんにちは。 Catch the Webの相川です。 最近のAIの進歩は目まぐるしいですね… 最近でも、 ・AIに大枠を指定した画像クリエイティブが 人が作ったものの
2025年07月03日