新人がスパムフィルターを自動化

Inflearnはサービス成長に伴いスパム投稿が増え、当初は運営チームが手作業で確認していた。最初の自動化はGPT-4o miniと禁止ワードリストによる判定で、新しいパターンが見つかるたびに例示データを追加するFew-Shot方式だったが、手動追加の負担や掲示板ごとの一貫性の欠如、安価なモデルの性能限界が課題となった。

そこで少量データ・高速計算・継続学習・モデルサイズの制約に合うSGDClassifierを採用し、TfidfVectorizerでベクトル化したテキストをAWS Lambda上でイベント駆動処理する構成に切り替えた。さらに「スパム」「疑い」「正常」の3段階判定を導入し、疑い段階の通知に🅱️絵文字が付くと自動ブロックする運用簡素化も加えた。

スパムの手口が一般的な投稿を装う形に変化すると、Karrotのテックミートアップで公開されたZero Shot With Auto Generate Prompt手法を適用し、GPT-4oでカテゴリーごとの特徴を抽出してMongoDBに保存、週次で特徴を更新する仕組みを整えた。これらの改善により、スパムアカウント作成数は1日あたり76%減少し、投稿1件の判定コストは0.05ウォンに抑えられている。