書くことは考えること
今週、 フロリダ大学の研究者らは、AIは有益なアシスタントになり得るものの、多くの重要な分野で人間の科学者に取って代わるには至っていないことを発見した。
研究者らは、OpenAIのChatGPT、MicrosoftのCopilot、GoogleのGeminiなど、人気の生成AIモデルが研究プロセスのさまざまな段階をどれだけうまく処理できるかをテストした。彼らは、人間の介入を制限しながら、これらのAIシステムを、アイデア創出、文献レビュー、研究設計、結果の文書化、研究の拡張、最終論文作成という学術研究の6つの段階に通した。その結果、能力と限界が入り混じったものになった。
それでも、日本の企業サカナは今月、同社の「AIサイエンティスト」が執筆した論文がトップクラスの機械学習カンファレンスのワークショップで査読プロセスを通過したと発表した。完全にAIで生成された論文が査読プロセスを通過したのはおそらくこれが初めてだろう。
同社は次のように述べている。「私たちは、次世代の AI 科学者が科学の新しい時代を先導すると信じています。AI がトップクラスの機械学習国際会議ワークショップで査読を通過する論文を生成できるという事実は、今後の進歩の確かな兆候です。しかし、これはほんの始まりにすぎません。AI は今後も、おそらく飛躍的に進歩し続けるでしょう。将来的には、AI が人間レベルかそれ以上の論文を生成できるようになるでしょう。」
AI科学と人間の科学を比較することが最終目的ではないと坂名氏は言う。「最も重要なのは、人間とAI科学による発見が、病気の治療につながったり、宇宙を支配する法則を解明したりするなど、人類の繁栄に貢献することです。」
オーストラリアのRMIT大学コンピューティングテクノロジー学部の学部長であるカリン・バースプール氏は、昨年のサカナの初期の開発についてコメントし、サカナは同社のAIツールが科学実験のライフサイクル全体を論文1本あたりわずか15ドルのコストで実行できると主張していると指摘した。これは科学者の昼食代よりも安い。バースプール氏の懸念の1つは、AIが生成した論文が科学文献に溢れかえると、将来のAIシステムがAIの出力に基づいてトレーニングされ、革新においてますます効果がなくなる可能性があることだ。
しかし、科学への影響はそれ以上に大きい。「科学にはすでに悪質な行為者がいる。偽造論文を大量生産する『ペーパーミル』もそのひとつだ。15ドルとあいまいな最初のプロンプトで科学論文が作成できるようになれば、この問題はさらに悪化するだろう。自動生成された膨大な研究の山に誤りがないかチェックする必要性は、実際の科学者の能力を急速に圧倒する可能性がある。」
先週ネイチャー誌に掲載されたミリアム・ナダフ氏のレビューでは、査読プロセスにおける AI の利用が拡大していることが強調されています。「AI システムはすでに査読を変革しています。出版社の奨励によって、また時にはその規則に違反して。出版社も研究者も、原稿のテキスト、データ、コード、参考文献のエラーをフラグ付けし、査読者に建設的なフィードバックを導き、文章を磨くために AI 製品をテストしています。新しい Web サイトの中には、クリック 1 つで AI が作成した査読全体を提供するものもあります。」
この記事は、シアトルのワシントン大学の進化生物学者カール・バーグストロム氏の言葉を引用している。同氏は、査読者が査読の執筆プロセスの大半を省略するために AI に頼るようになると、浅はかな分析結果しか提供できない危険性があると述べている。「執筆は考えることです」とバーグストロム氏は言う。
