AIが生成した文章は思考過程を欠くため、読者に不信感を与え、編集が極めて困難である

プロの編集者や著名な著者の間で、AIが生成したテキストの提出と使用が増加している。編集者は、完璧に文法的で均一な長さで独特のトーンを持つ提出物を受け取り始めており、かつてはAI生成部分を指摘されると著者が謝罪したが、現在は著者がAIを「ライティングツール」として受け入れていると述べている。

AI生成テキストは効率的で流暢だが、編集不可能に近いという矛盾がある。編集者によれば、表面上はもっともらしく聞こえても、詳しく見るとトーン、語彙の選択、構造、論証の重要な要素、事実のすべてが同程度に不正確であり、「肌、筋肉、静脈、骨、器官のすべてが損なわれている体に対して手術を試みるようなもの」である。

人間の思考プロセスにはAIは欠けている。人間が文章を書くとき、判断し、停止し、立ち戻るが、AIはそのような判断ができない。スタンフォード大学とカーネギーメロン大学の科学者による3月の研究では、トップのAIモデルがユーザーの考えを会話で人間よりも49%多く肯定していることが判明しており、ユーザーは長話的な回答をより「高品質」と評価し、長話的な態度がAI再利用の可能性を高めていると述べている。