- G.A.,シニアエディター
最近arXivで公開されたプレプリントでは、AIが生成したコンテンツを特定するための新たな手がかりとして、大規模言語モデルが生成する、架空とみられる名前の組み合わせが繰り返し現れる現象について論じられています。この研究では、架空の専門家や研究者の生成を求めると、一部のモデルは特定の名前を好んで生成するだけでなく、特定の名前の組み合わせやグループを繰り返し生成することが報告されています。 例えば、プロンプトの条件を統一した実験では、あるモデル系列が同じ2つの名前を一緒に生成する傾向が顕著に見られ、その出現頻度はモデルのバージョンによって異なりました。著者らは続いて、こうした名前の組み合わせがウェブサイトや、学術記録と称するものに現れていないかを追跡しました。
こうした架空の人物情報が、生成された文章の中だけでなく、研究者が学術研究を検索・評価する際に日常的に利用するシステムに入り込むと、問題はより深刻になります。プレプリントでは、ResearchGateには実在しないとみられる研究者に紐付けられた記録が数百件確認されたほか、Zenodoには実在しない学術誌に掲載されたとする記録がさらに多く存在すると報告されています。後者のケースでは、Zenodo DOIが付与された1,655件の記録が確認され、ユーザーが登録した出版日と後日のDOI登録日時との間に顕著な食い違いがあることが示されています。2026年3月だけで991件の登録が集中していることから、この問題は単発的な架空引用にとどまらず、学術情報の検索・発見基盤に流入しうるメタデータが自動生成されている可能性を示唆しています。
研究者にとって、記録が存在することと、その記録が示すとする研究が正当なものであることは別問題であるという、従来からある区別が、ますます重要になっています。DOIの付与、リポジトリへの登録、研究者プロフィール、検索エンジンでの可視性はいずれも学術情報基盤の有用な構成要素ですが、それだけでは、記載された著者、学術誌、所属機関、研究が実在することを必ずしも裏付けるものではありません。今回の事例は、文章自体からAI生成だと明確に判別できない場合でも、架空の研究者情報が学術情報基盤に残り続ける可能性があるという、従来のAI生成コンテンツ検出の限界も示しています。一方で、実在する人物がよくある名前をもつこともあるため、特定の名前が繰り返し現れることは、捏造の証拠ではなく、追加の検証を行うための手がかりとして捉える必要があります。
今後を見据えると、学術情報基盤には、既存のメタデータや索引化の仕組みに加えて、出所や来歴をより厳格に確認する仕組みが必要になるかもしれません。リポジトリや情報集約サービスでは、記録が確立された学術成果であるかのように見なされる前に、掲載先として記載された学術誌、所属機関、著者の身元、出版日、DOIとの対応関係などを相互に照合する仕組みを導入できる可能性があります。研究者にとって実際の対応は、特定のゴーストネーム（架空の名前）を見分ける方法を覚えることよりも、厳密な文献評価に欠かせない基本的な確認作業を強化することだと考えられます。すなわち、一次資料を検証し、著者や所属機関を照合し、DOIの出所や来歴を確認するとともに、検索できることと、その妥当性が確認されていることを区別することです。生成AIが論文そのものだけでなく、その論文を信頼できる学術研究らしく見せる周辺情報まで生成できるようになるにつれ、こうした確認作業は研究活動に欠かせないものになるかもしれません。
英語版はこちら