AI生成ツールの実行前に別会社AIの確認を

コラムは実用的な立場を取る。AIがあなたのPCに触れることはなく、コードに書かれた通りに動くのは実行した時だ。だからレビューは外部と通信するコードやファイルの削除・上書きに絞るべきだという。AIはチャット全体を通じて誤った前提に固執しうるため、レビューはあえて新しいチャットに任せ、可能なら別会社のAIに回す。同じベンダーのモデルは同じ盲点を共有しかねないからだ。さらに、作成側のAIにレビュー依頼文まで書かせ、コードの自己説明を除くことで、レビュー側が先入観を持たないようにしている。

教訓となるのが9月下旬のシンガポールの事例だ。従業員がAI製プログラムで会員に一斉メールを送り、受信者同士でアドレスが見えてしまい、約95,000件が流出した。当局はAIの誤作動ではなく、依頼文に「受信者を隠す」指示がなかったと説明した。同社は現在、一斉送信前に2人以上の確認を義務づけている。コラムは、テスト送信が配信ログしか確認しておらず、メールの見た目は検証していなかった点を指摘する。

記事は最後に問いを残す。参考記事や資料をチャットに貼り付けると、AIはその文章中に隠された他人の指示を読んでいるかもしれない。出力だけでなく入力への懸念は未解決のままだ。