Falcon-Emirati-7B、Alyahスコア84.83%でアラビア語AI勢を制す

Falcon-Emirati-7Bはゼロから作られたわけではない。Technology Innovation Instituteが今年初めにアラビア語の新たなベンチマークを打ち立てたと述べるFalcon-H1-Arabicを基盤とし、現代標準アラビア語と湾岸・レバント・エジプト・マグレブの各方言を混ぜて訓練されている。この土台により、アラビア語を広く理解し、長い文脈を扱い、ある程度の方言への曝露を備えたモデルが得られたが、UAE方言特有の語彙・文法・文化的知識はなかった。

チームは方言適応を本当に難しいと説明する。理由は三つ。UAE方言は主に話し言葉で、オンライン上の書き言葉では現代標準アラビア語よりはるかに少ない。意味はしばしば非字義的で、慣用句やことわざ、詩に依存する。そして方言データをどれだけ使うか、どの訓練段階が最も重要かについて確立した手法がない。これを回避するため、彼らは三つの情報源から専用のUAE方言データパイプラインを構築した。UAE方言でネイティブに書かれたウェブコンテンツ、UAEの文化と伝統に関する現代標準アラビア語の資料、UAE方言の用語集と文体規則で制約した合成方言データである。

結果はこの手法が機能したことを示唆するが、比較対象の設定が重要だ。研究内の競合モデルはすべて指示調整済みのアラビア語モデルまたは多言語モデルで、Falcon-Emirati-7Bがその上に構築されているためFalcon-H1-Arabic系モデルは除外された。競合が互角に渡り合う唯一のカテゴリは挨拶と日常表現で、チームはここがUAE方言と現代標準アラビア語が最も重なる領域だと指摘する。このような方言特化モデルが地域向けアプリケーションの既定となるのか、それとも大規模汎用モデルの上に載るニッチな層にとどまるのかは、方言忠実度の優位が実運用の自由生成で保たれるかどうかにかかっていそうだ。