AIを用いた執筆は思考プロセスと明快さを損なうリスクがある、と主張

Grunewald氏は、AIが生成した文章には主に3つの問題があると指摘しています。第一に、書くという行為は思考プロセスに不可欠な要素であると彼は断言します。論理を文章として構成しようと強制されることで、論理的な飛躍や矛盾が表面化する助けとなるからです。第二に、AIが書いた文章には、人間が検出することが困難な微細な誤りや曖昧な言い回しが含まれることが多いと指摘しています。第三に、開示なしにAIを使って執筆することは、読者に対して誤解を招くものであると考えています。

この主張は、たとえ詳細なアウトラインやコンテキストが提供されていたとしても、AIには表現されているアイデアの質を批判的に評価する能力が欠けているという点を強調しています。AIは校閲や翻訳には有用なツールになり得ますが、アイデアの構築そのものをモデルに委ねることは、執筆者が主題を真に習得することを妨げるとGrunewald氏は主張しています。

PLUS ULTRAby Amenoyomi

執筆という行為は、執筆者の理解度を厳しくテストする役割を果たします。アイデアを特定の文章や段落へと落とし込もうとする過程で、アウトラインの段階では明らかでなかった論理的な穴、矛盾する証拠、あるいは不十分な調査が露呈することがよくあります。Paul Graham氏とClara Collier氏が指摘しているように、接続詞や言葉選びに苦労するプロセスは、2つの論点が並べて置かれるべきではないことや、中心となる主張に欠陥があることを頻繁に露呈させ、執筆者にリアルタイムでの考えの修正や信念の洗練を強いることになります。

AIがこのプロセスを処理する場合、非常に説得力があるように見えながらも、実は微細に間違っているテキストを生成することがよくあります。例えば、AIチップの密輸に関する生成された段落において、モデルはチップを「コンパクトである」と説明するかもしれません（これは事実ですが）、一方で、実際に密輸されているのは巨大なAIサーバーであることが多いという事実を無視する可能性があります。また、「広大なグローバル・サプライチェーン」や「重要となり得る十分な計算資源」といった、専門的に聞こえるものの、実際には情報価値のないフレーズを使用することもあります。こうした「中身のない称賛（uninformative applause light）」のような表現は、具体的で検証可能な詳細が欠如していることを隠蔽する、有能さの虚像を作り上げてしまうのです。