AIアシスタント「Instinct」にプライバシー懸念

Instinctは、アプリやデバイスに接続して、予約、ライド手配、メール管理などのタスクを実行するAIパーソナルアシスタントだ。その能力はテスターを感心させたが、指摘された懸念は重大である。利用規約は、Instinctがユーザーデータに広範にアクセスし、モデルのトレーニングを含む形で使用することを認め、ユーザーに代わって拘束力のある契約を結ぶことも許可している。このレベルのアクセスは、プライバシーと管理性について疑問を投げかける。

ユーザーは具体的な事例を報告している。あるユーザーは、修正が追加されるまでGmailの記録が削除されないことを発見し、別のユーザーは、切断後もメールの要約を続けており、データが平文で保存されていたことを発見した。さらに別のユーザーは、許可なくメールが送信されたと述べている。これらの例は、このようなAIに広範なアクセスを許可することの潜在的なリスクを示している。

元Sierra研究者のNoah Shinnが率いる同社はステルス運営を行っており、批判に応答していない。Kleiner PerkinsとConvictionからの投資報告は投資家の関心を示唆するが、プライバシー懸念が採用に影響を与える可能性がある。この状況は、超個別化されたAIツールのトレードオフをめぐる広範な議論を反映している。