AIToday
AIコーディングAI安全性・アラインメントZenn AI/ML掲載日時: 2026年11月21日 16:00

AIで開発のシステム、ルール219個中コード化は13個

LINEで送る
AIで開発のシステム、ルール219個中コード化は13個

3つのポイント

  1. 何が起きたか

    Java開発者は、ThinkDoの219個の原子ルールのうちJavaメソッドに組み込まれていたのは約13個だけで、残りはテキストや構造化データとしてデータベース内にあったと気づいた。

  2. なぜ重要か

    同じ未検証の解釈がルール、コード、テストの全てに使われていたため、プログラムは正常に動作し全テストに合格しながら、誤った判断を正しく実行できてしまっていた。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

プロジェクトはJava、Web、PostgreSQLで構築されたziwei-labとして始まり、AIが古典テキストをデータモデルやルールエンジンに変換していた。進捗は順調に見えたが、レイヤーやインターフェース、設定ファイルが開発者の消化能力を超えて積み上がっていった。2026年春までに約219個の原子ルールと四化に関する370件の解釈レコードを整理したが、確認するとJavaメソッドに接続されていたルールは約13個だけだった。その後の取り組み——rule-debug、ziwei-research、ziwei-ai-agent——はいずれも実際の問題に対処したが、データ構造や定義が分岐し、モジュール間の再利用が難しくなった。

この記録が描くのは単発の失敗ではなくループだ。あるAIが設計を提案し、別のAIがレビューし、さらに別のAIが改善を提案する。各ラウンドで概念と依存関係が増え、以前の決定を再検討せざるを得なくなった。設計に費やす時間は原典そのものに費やす時間をはるかに超えるようになり、本人の見積もりによれば、これが物語全体で最も重要な警告サインだった。またデバッグは通常のバグ探しではないとも気づいた。結果が原典と食い違うとき、Java側、ルール抽出、あるいは自身の読み方のどれが原因かを示す独立した基準がなかったのだ。

再出発は意図的に小規模だ。AIは資料の整理、解釈の比較、論理的問題の指摘、コードとテストの作成において役割を保つが、プログラムが原典に従っているかの最終判断は本人が握る。

よくある質問
なぜ開発者はすでに数千行のコードを生成していたシステムを止めたのか?
コードの背後にあるルールが正しいかどうか判断できなかったためだ。ルールの多くはAIによって抽出・解釈され、本人による独立した検証が一度も行われていなかった。
今後は何を変えるつもりか?
ルールを1つずつ学び、推論を説明でき、原典の例を手作業で再現できるようになってから、設計を加える前にシンプルなJavaのmainメソッドで実装する。
AIコーディングツールが問題だと考えているのか?
いいえ。AIは1人の開発者が挑める範囲を大きく広げたが、コードを安価に生成できても、業務を理解し知識を検証するコストはなくならないと述べている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へnferenceとCedars-Sinaiが連合AI基盤構築