WikipediaがAI生成テキストの投稿を明確に禁止するポリシーを策定した。LLMが生成した文章をそのまま記事に掲載する行為を禁止し、すべての記述に人間が検証可能な出典を求める姿勢を徹底する。AI支援ツールの利用自体は否定しないが、最終的な内容の正確性に対する責任は人間の編集者が負うという原則を明文化した。
LLMの普及に伴い、Wikipedia上でAI生成テキストの混入が増加していた。問題は「ハルシネーション（幻覚）」――AIが事実と異なる情報をもっともらしく生成する現象。出典が存在しない記述や、実在しない論文を参照として挙げるケースが複数確認され、百科事典としての信頼性が脅かされる事態に発展していた。
Wikipediaの根幹にある「検証可能性」の原則と、LLMの「もっともらしさ優先」の生成特性は本質的に相容れない。この矛盾に対する回答が、今回の明確な禁止方針となった。
RAG（Retrieval-Augmented Generation）システムの設計者にとって、この動きは示唆に富む。Wikipediaのデータをソースとして利用するRAGパイプラインでは、AI生成テキストが混入したWikipedia記事を「信頼できるソース」として扱ってしまうリスクがある。データソースの品質管理が一段と重要になる。
また、AI生成コンテンツの識別技術への需要も高まる。透かし技術やAIテキスト検出ツールの精度向上が、プラットフォーム運営者にとって喫緊の課題となった。
Wikipediaの判断は、他の知識プラットフォームにも波及する可能性が高い。Stack Overflowが既にAI生成回答を制限しているのと同じ流れ。「AIが生成した情報」と「人間が検証した情報」の区別は、情報の信頼性を担保するための新たな標準になりつつある。
この記事はAI業界の最新動向を速報でお届けする「AI Heartland ニュース」です。