[No.90]ニューヨーク市は学校でChatGPTを使うことを禁止、米国AI学会はチャットボットで論文を生成することを制限

チャットボット「ChatGPT」は高度な言語能力を持ち、ニューヨーク市は学校に設置しているパソコンでこれを利用することを禁止した。

地方自治体がチャットボットの利用を制限するのはこれが最初のケースで、この規制が全米主要都市のAI政策に影響を及ぼす。

更に、米国のAI学会は、チャットボットで論文を生成することを禁止し、高度な言語モデルを如何に活用すべきか、議論が始まった。

ニューヨーク市の規制

ニューヨーク市は、2023年1月、学校内のシステムやネットワークでChatGPTを使うことを禁止した。

ニューヨーク市がChatGPTの使用を禁止した理由は、学校教育においてチャットボットが生徒の学習能力に悪影響を及ぼすと判断したためである。

ChatGPTに論文のテーマを入力すると、その回答を洗練された文章で出力する。生徒は自分で苦労しながらレポートを書き上げるのではなく、ChatGPTがその作業を代行する。

また、ChatGPTが出力する文章は有害な内容を含み、また、回答は事実と異なる内容を含んでいるケースも少なくない。

ニューヨーク市は米国最大の学校システムで、同市の判断は他の地域の学校に大きな影響を与え、全米の教育現場でChatGPTの取り扱いについての議論が始まった。

ChatGPTとは

ChatGPTとは対話型のAIで、人間と会話しながら質問に回答する機能を持つ。

人間の知識人のように、ChatGPTは難しい問題を平易な言葉で簡潔に説明する構造となっている。

ChatGPTは、指定されたテーマに沿って論文や物語を執筆する。

多彩な能力を発揮するが、ChatGPTは、難しい質問に平易な言葉で簡潔に説明する機能が際立っており、Googleで検索する代わりに、ChatGPTに質問する利用法が広がっている。

学校教育が機能しなくなる

実際に、教育現場の先生はChatGPTの登場で、学校教育が機能しなくなると危惧している。

カリフォルニア州バークレー市の高校教師は、宿題の論文をChatGPTで制作したところ、チャットボットは及第点の文章を制作したことに驚いたと述べている。

宿題で論文のテーマが与えられ、生徒はそれに沿って文章を生成する。

そのテーマをChatGPTに入力すると、生成される文章の品質は、生徒が書く文章の品質を上回るだけでなく、平均的な教師の技能を上回っている。

事実、典型的な高校生向けの論文テーマをChatGPTに入力すると、洗練された文章が生成される(下の写真、テーマは「グラスシーリングが社会に与える影響」)。

ChatGPTとGoogleの違い

生徒が作文を学ぶのは、社会人になってから、自分の考えを文章で正確に表現するためで、教育の基礎要件となる。

就職面接や職場でのコミュニケーションで、自分の意見を明瞭に述べることが人間の基礎能力となる。

過去にさかのぼると、Googleの検索エンジンが登場した時も、同じ議論が展開された。

生徒は宿題に出された課題をGoogleで検索し、それをコピペして学校に提出する。(下の写真、上述のテーマをGoogleに入力すると、参照資料が示され、これらの記事を閲覧して、回答を生成する手順となる。)

一方、ChatGPTのケースでは、テーマを入力すると全自動で回答が生成され、論理的な作業が入る余地はなく、文章を書く技量は身につかない。

AI学会はチャットボットの使用を制限

機械学習の学会「International Conference on Machine Learning(ICML)」は、2023年1月、高度なチャットボットで論文を執筆することを禁止した(下の写真)。

ICMLは、研究目的での実験を除き、ChatGPTなど大規模言語モデル(large-scale language model)で論文のテキストを生成することを禁止した。

AIの研究開発を促進する学会がチャットボットの使用禁止したことで、研究者の間で議論を呼んでいる。

規制の背景

ChatGPTなど大規模言語モデルの機能が格段に向上し、チャットボットが研究者に代わり、論文を執筆することができるようになった。

このため、ICMLは論文全体を大規模言語モデルで生成することを禁止した。

一方、研究者の多くは、書き上げた論文を編集するためにChatGPTを利用しているが、この利用法については容認している。

特に、英語を母国語としない研究者は、執筆した論文をChatGPTに入力し、スペルや文法をチェックし、表現方法を改善するが、この手法については禁止していない。

ChatGPTを使うことの是非

ICMLの規制についてアカデミアで意見が割れている。

ChatGPTで論文を執筆することの是非についての議論が始まった。

ICMLは、ChatGPTで論文を執筆することを禁止するが、高度なAIを有効に利用すべきとの意見は少なくない。

ChatGPTは人間の言語能力に近いAIで、これを使って文章を制作した個所は、それが分かるよう脚注などにその旨を記載する、などの案が示されている。

試行錯誤が始まる

研究者の間で利用法の試験が始まり、今ではChatGPTを論文の執筆者として記載する方式も登場した(下の写真、シェイドの部分)。

しかし、ChatGPTは人間ではなく、あくまでAIツールであり、この方式には違和感を覚える人は少なくない。

ChatGPTは教育現場に大きな衝撃をもたらし、チャットボットの規制が広がるとともに、その最適な使い方についての実証試験が始まった。