By: Enago

論文執筆へのAI利用：倫理、責任、申告が大切な理由

「執筆にChatGPTを利用したことが発覚した論文を撤回」

「Springer Natureの学術ジャーナルがAI論文を一掃したことで、ある大学の撤回件数が急増」

論文執筆にAIを利用したケースについて、残念ながらこうした見出しのニュースが頻繁に見られるようになりました。

教育現場から国際的な学術雑誌（ジャーナル）への投稿に至るまで、論文執筆と学術出版における不適切なAI利用やAI利用の申告漏れによる影響が教育・学術界全体に広がってきています。

研究者は論文撤回や信頼性の喪失に直面し、大学や研究機関は評判の毀損リスクに晒され、ジャーナルは信頼性と編集の公正性を維持するのに苦慮しています。その影響は研究者としてのキャリアはもちろん、資金提供機関、大学ランキング、科学に対する社会的な信認にまで波及しています。

AIの不正利用による論文の撤回例

Springer Natureが出版しているジャーナル『Optical and Quantum Electronics』は2024年9月以降一か月程度の間に200本以上の論文を撤回しましたが、この論文大量撤回の主な原因の一つは、AI利用を申告しないまま論文執筆および査読プロセスにAIや機械翻訳ソフトを使用したことによるとRetraction Watchは述べています。

また、2024年10月にSpringer Natureが発表した生成コンテンツに起因する撤回論文の特徴を調べた報告によると、3,540件の論文撤回が確認されています。また、最初の論文撤回が2010年、当時年間3件だった論文撤回件数が2023年には2,302件に急増していたことも明らかになっています。こうした論文の撤回件数の増加は、学術研究の信頼性に対する懸念を高めるものです。

研究プロセスにおけるAIの利用が進むにつれ、誤った利用（特に透明性を欠いた利用）は学術インテグリティに深刻な脅威をもたらしています。AIを言語スキルの補助や文法チェック、引用文献の管理などに使う分には研究者の生産性を向上させるツールとして非常に有用ですが、使用者はAIの役割を明確にした上で、責任を持って管理しなければならなりません。

問題はもはや「論文作成にAIを利用すべきか」ではなく、「いかに責任を持ってAIを利用すべきか」となっているのです。

こうした変化に対応するには、論文作成時のAI利用について、倫理的な境界線をどこに引くべきかを理解しておくことが不可欠です。

論文執筆におけるAIの役割は何か？

AIが言語モデルとしての本来の利用範囲を超えて論文作成過程のさまざまなステップで使用されるようになると、以下のような問題が発生します。

論文の構成を作成するためにAIが大量のコンテンツを生成する
人間の適切な確認を欠いた、AIによる結果解釈が混入する
意図された意味を変えるような言い換えがAIにより行われる

AIは、科学的・歴史的に不正確な情報の提供や記述ミス、さらに参考文献の偽造をすることもあると報告されています。AIが生成した参考文献リストには著者名や出版タイトルが一致しないといった不正確なものが含まれる可能性もあり、こうしたミスをジャーナルの査読者や編集者が見つければ、該当論文がリジェクトされる可能性が高まります。さらに、AIが間違った情報を生成するハルシネーション（hallucinations）、引用の捏造、虚構といった問題も残ります。

こうした問題がある以上、論文執筆におけるAIの使用は倫理的にグレーであり、説明責任、データの妥当性、透明性に関する深刻な懸念を引き起こすものです。

AIの誤った利用を防ぐための出版社の役割

こうした複雑な状況を踏まえると、AIの利用に伴うリスクに対処する上で学術出版社が担う役割は重要です。研究者らは出版社が指針を決めることを強く求めており、大半の研究者は、AI利用がどこまで認められるのかを示す明確なガイドライン、潜在的な落とし穴を回避するための支援、そしてベストプラクティスに関するアドバイスを望んでいます。

現在、下表に示すように、多くの出版社や団体が原稿作成におけるAIの利用の開示を著者に義務付けています。

内容の正確性と妥当性を確認することを前提とした、論文原稿に対するAIツールの利用	出版社/ジャーナル/団体名	AI利用の可否	人による管理	透明性および明確な情報の開示	著者が負うべき説明責任もしくはすべての責任
	IEEE (電気電子技術者協会)	可	要	要	定義なし
	Wiley	可	要	要	要
	SAGE	不可	該当なし	該当なし	該当なし
	PLOS	可、ただし研究の仮説、解釈、結果、結論、限界、および示唆が著者の考えを表していることを保証すること	要	要	要
	ACS（アメリカ化学会）	可	要	要	要

さらに詳細かつ包括的な情報について知りたい場合は、エナゴ（Enago）の責任あるAI利用イニシアティブ「AI利用論文に関する出版社ガイドライン」を参考にしてください。

上表にあげた例は、多くの出版社がAIの使用を許可する一方で、人による確認と著者の責任を強調していることを示しています。

研究プロセスの透明性と研究成果（論文）に対する信頼を維持するためには、多面的かつ包括的なAI使用に関する申告が不可欠なのです。

例えば、以下の点への説明が記述されている必要があるでしょう。

どのAIツールまたはAIサービスを利用したか
どのような目的でAIを利用したか（例：文法の修正、言い換え、引用形式を整えるのに利用したなど）
原稿作成にどの程度AIツールを利用したか（例：方法論や文献レビューなど、特定のセクションやタスクの作成に利用した、など）
査読または編集段階でAIを利用したか（例：査読者のフィードバックの要約、または返答の修正などに利用した、など）

透明性の確保には情報の開示が不可欠ですが、それだけで著者の説明責任が免除されるわけはありません。論文著者はAIを利用して論文を作成した部分を含め、すべての内容について責任を負う必要があります。例えば、Springer Natureなど一部の出版社はAIコンテンツ生成ツールの利用を明確に禁止しており、生成AIによって作成された論文は撤回される可能性があります。

こうした指針が存在するにもかかわらず、著者と査読者がAIの利用を明示的に開示しない場合、状況は複雑化することになります。

AIの利用を申告しない場合

論文の著者がAIの利用を明示せずに執筆したり、AIが生成したコンテンツを十分に精査しないまま「レビューした」と主張したりする場合、編集者や査読者が原稿のどの部分がAIツールによって生成・確認・処理されたのか判断できないため、（真実であるかどうかの）検証上の問題が生じることになります。例えば、以下のような表現が含まれていると、危惧されます。

AIの利用を示す特徴的な表現（「as an AI language model（AI言語モデルとして）」「regenerate response（回答を再生成）」「certainly, here are（確かに、ここで示すように）」など）
もっと注意しないと分かりにくい微妙な指標（あるいは）不自然な表現。これらは言い換えツールやあまり洗練されていないAIモデルが、確立された科学用語を意味不明な同義語で置き換える際に発生する。例えば、線形回帰（linear regression）を「straight relapse」、失敗率（blunder rate）を「error rate」とするなど。

AIツールの利用に関する情報が開示されていないそれらの論文は審査の対象となり、既に複数の論文が撤回されているようです。2025年4月に公開されたRetraction Watchの記事「‘Squared blunder’: Google engineer withdraws preprint after getting called out for using AI」には、編集者がプレプリント論文に不自然な表現があったことでAI利用が開示されていないのではと疑いを持った経緯が詳述されています。

また、Retraction Watchの別の記事「Papers and peer reviews with evidence of ChatGPT writing」は、ChatGPTによって書かれた可能性があると疑われる論文および査読のリストを公開しています。

こうした報告や撤回は、研究者、所属機関、資金提供者の評判に重大な損害を与える可能性があります。

論文執筆にAIを利用する際の責任

学術出版の未来は、責任をもってAIを導入できるかにかかっています。著者は透明性のあるAIの利用を確実に進める上で主導的な役割を果たさなければなりません。例えば具体的には、以下の作業が著者の責任に含まれるでしょう。

あらゆるAIツールの利用、利用したAIツールの名前、利用目的、範囲を積極的に申告する
AIツール／サービスの利用の有無にかかわらず、自身の論文の完全性について全責任を負う
常に出版社のポリシーやベストプラクティスの変化に関する情報を確認しておく

WileyやSTMによる論文原稿作成におけるAI利用の分類に関しる推奨は、出版社が方針を策定し、著者がAIの利用状況を申告するための信頼できるフレームワークを提供するもので、正しい方向への一歩となるものです。

論文の謝辞に記載することを超えた統一的で詳細なAI利用に関する申告ルールを確立するため、業界全体で出版社が連携する必要性が高まっています。統一された方針は透明性を高めるだけでなく、AIの利用に関してジャーナルが論文著者に異なる対応を期待する現状を改善し、著者の混乱を軽減することにもつながります。

アルゴリズムに基づくAIが論文を共著する時代にあっても、研究インテグリティの責任は依然として人に課せられています。論文執筆におけるAIの責任ある利用は、単なる出版社の要件ではなく、研究者・編集者・研究機関として我々が共有する責任です。研究の透明性と信頼性を支える価値観を損なうことなく、ぜひ論文執筆において責任あるAI利用を行ってください。