AIToday

AI開発にも「憲法」 COREが自動コード生成を強制統治

Hacker News10時間前5分で読める
AI開発にも「憲法」 COREが自動コード生成を強制統治

要点

AIエージェントがコード生成する際に、事前に定めた「憲法」的ルール(合計215個)を機械的に強制し、違反を自動で遮断するオープンソース・ツール CORE が公開されました。AIの判断をトレーサブルな枠組みの中で監視・記録し、エンタープライズ環境での安全な自動化を実現する仕組みです。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  • 何が起きたか

    CORE というオープンソース・ガバナンス・ランタイムが発表されました。AIエージェント(自分で判断して作業するAI)がコード生成する際に、あらかじめ定めた「憲法」的ルール(215個のルール、15個のエンジン)を機械的に強制し、違反を自動で遮断します。デモでは、不正な削除操作を検出・修正・コミットまでの全過程を自動で記録しています。

  • なぜ重要か

    AIが書いたコードは高速ですが、ルール無視のまま蓄積するとアーキテクチャが崩壊する恐れがあります。COREはAIの判断を信頼できる枠組みに入れ、チーム開発やエンタープライズ環境で監査可能・決定論的な自動化を実現できる〜とみられます。特に、本番環境への不正な書き込みを構造的に防ぐ点は、組織がAIを安心して導入する上で重要です。

  • 注目点

    COREはDocker環境で install-core.sh を走らせるだけで動作デモを確認できます。ガバナンス・ディレクトリ(.intent/)は不変、違反は即座にハード停止する一方、ポリシー・レベルのルール違反は strict_mode の設定により報告に変わる設計になっています。

よくある質問

COREはどのような違反を防ぐのですか?
本番データベースの削除など、アーキテクチャを破壊する操作を構造的にブロックします。レイヤー間の構造ルール違反、ファイル成長の無制限化、設計契約の破損などを自動で遮断し、実行前に停止させます。
違反が見つかった場合、どうなりますか?
ブロッキング・ルール違反は即座にハード停止し、完全な監査ログが記録されます。AIが修正案を提案し、承認者が確認してから実行する流れが自動で追跡されます。
ルール設定はどこで行いますか?
ガバナンス・ディレクトリ(.intent/ および src/mind/)に機械可読な憲法ルールと実行方針(Meta → Constitution → Policy → Code)が定義されており、AIがこれを無視・改変することはできません。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →