ChatGPT Macアプリ乗っ取りの脆弱性

この発見はAppleのセキュリティに焦点を当てるグループ、Objective-See Foundationによるもので、アナリストのPatrick Wardle氏はこの脆弱性の悪用は「信じられないほど容易」だったと述べている。macOS版ChatGPTアプリの設計は、リクエストから3層離れた場所でチェックされるデジタル署名に依存しており、コンポーネントは信頼されたOpenAIソフトウェアの代理としてのみ動作できる。Wardle氏のチームは、信頼されたスクリプトインタプリタが信頼されていないスクリプトを受け入れ、それを3回起動することで悪意あるスクリプトがこれらの有効性チェックを満たし、メインのChatGPTプロセスに到達できることを示した。だからこそ、この隙間はその大きさに不釣り合いなほど重要だった。

Wardle氏はChatGPTだけでなく、複数のAI macOSアプリケーションを調査してきた。同氏は最近、Metaの新しいMuse AIアシスタントのディクテーション機能に、修正済みの欠陥を発見した。これはローカルの攻撃者が誤って扱われた認証トークンを取得し、ユーザーデータに到達できる可能性があった。また同氏は、ChatGPTと同社の新しい常時稼働のDots AIアシスタントとの連携に関連する新たな脆弱性の発見をOpenAIに提出し、OpenAIが精査中だと述べている。

この開示のタイミングは重要だ。AIアシスタントが機能するために、日常のマシンへの広範なアクセスを与えられているからだ。企業が機能を急いでリリースする中で、セキュリティはしばしば後回しにされるというWardle氏の見方は、これらのプラットフォームの試練は、1つのバグをどれだけ早く修正するかよりも、アクセスが拡大する中でセキュリティが追いついているかどうかにあることを示唆している。これはWardle氏の見解であり、測定された業界動向ではない。