生成AIによって顔や声、画像や動画が信用できなくなる、という問題が毎日のように取り沙汰されている。
もちろん、それはそれで問題だが、目先のそれとは少し違うレベルの話として、中長期的には逆の方向への動きがあるのではないかと予想している。
つまり、真のAIの登場によってネット以来――考えようによっては言語誕生以来――のデタラメ優位現象が終焉を迎えるのではないかと思う。
ちなみにデタラメ優位は以下の記事の意味で。
ダブスタ不利現象は言動が電子化し、無期限に保存されるようになったことによって起こった。
今後保存だけでなく、これまで人間がやるしかなかった検索・検証・比較部分までAIができるようになれば、ダブスタの居場所もさらに減る
しかし、電子化では無傷(?)もしくはかえって有利であったマジキチへの影響の方が、相対的にもっと大きいと思える。
従来野放しに近かったマジキチがこれまでなぜ野放しだったかというと、事実が不明だからではなく、人間の検証コストが時間的にもリスク面からもまったく割に合わなかったからだ。
だが、AIはそんなこと気にしない。そして大規模な資金と組織が必要な学習部分に、そんなマジキチを教え込む隙などない。(独裁的な大国による本格的な工作活動、知識階層のポリコレ偏向などはいったん別の話として。)
大抵の人間の誰が見てもすぐわかるトンデモ・詐欺がある。現在は誰もがわかって読み飛ばしている。
しかし、それがAIによる検証で常に(少なくとも科学的に明確な問題については)コミュニティノートのようなものが付き、ワンクリックでAIによる簡易裁判で法曹コストほぼゼロで賠償金なり罰金なり取れるようになれば、
我々が今日見ている電子世界、つまりインターネット登場以来の、
- 拡散力>検証力
- 拡散コスト<検証コスト
の状況によって生じてきたトレンドの緩和・停止が、あるいは逆転までありうるのではないかと思う。法曹部分についてはともかく、技術的にはすでに今すぐにも始められる範囲ではある。
実際、GPT-5のハルシネーション減少ぶりを見ると、すでにかなり現実味が出てきたように思う。仮に全てのツイにAIによる0次コミュニティ(?)ノート付くようになったら、だいぶ状況が変わるだろう。もちろん、全てが解決するとは言ってない。



コメント