パキスタン向け「Pakistan Notice Helper」、詐欺的なメッセージを識別する小規模AIツールとしてQwen3.5 4Bモデルで実装

Hugging Face Build Small Hackathonプロジェクトとして、パキスタンで銀行や配送業者、税務当局などになりすまして送られてくる詐欺的・疑わしいメッセージを分析するAIツール「Pakistan Notice Helper」を開発。テキストまたはスクリーンショットを受け取り、リスクレベル、説明、赤旗、安全な次のステップを返す仕分けツール。

最終的にQwen3.5 4B Q8 MTP GGUFモデル（llama.cpp経由）を採用。当初はQwen3.6 27Bで高品質（95/100の品質評価）を実現したが、VRAMとGPU要件が高く、コールドスタート時の復帰時間が長かったため、より小さく実用的なモデルに切り替え。Qwen3.5 4Bは80/100の品質評価で、速度、コスト、デプロイメント性能のバランスが優れていた。

アプリはEnglishとUrduの両言語に対応。Urduモードではユーザーが言語を切り替えると、レイアウトが右から左に変わり、見出しやラベル、リスク評価がすべてUrduスクリプトで生成される。これにより、ユーザーは疑わしいメッセージに対して信頼しやすい言語での安全なアドバイスを受け取ることができる。

プロンプト設計と出力形式が重要な役割を果たした。思考モード（thinking mode）は500トークン出力予算を消費してから最終JSONを返すため本番環境では無効化。またシステムプロンプトを更新して、検証されていない公式ドメイン、電話番号、組織名、事実の発明を禁止する厳密なセーフティ契約を実装。