AIToday
AI規制・政策Hacker News掲載日時: 2026年6月30日 6:002分で読める

AI開発にも「憲法」 COREが自動コード生成を強制統治

LINEで送る
AI開発にも「憲法」 COREが自動コード生成を強制統治

要点

  • AIエージェントがコード生成する際に、事前に定めた「憲法」的ルール(合計215個)を機械的に強制し、違反を自動で遮断するオープンソース・ツール CORE が公開されました。

  • AIの判断をトレーサブルな枠組みの中で監視・記録し、エンタープライズ環境での安全な自動化を実現する仕組みです。

3つのポイント

  1. 何が起きたか

    CORE というオープンソース・ガバナンス・ランタイムが発表されました。AIエージェント(自分で判断して作業するAI)がコード生成する際に、あらかじめ定めた「憲法」的ルール(215個のルール、15個のエンジン)を機械的に強制し、違反を自動で遮断します。デモでは、不正な削除操作を検出・修正・コミットまでの全過程を自動で記録しています。

  2. なぜ重要か

    AIが書いたコードは高速ですが、ルール無視のまま蓄積するとアーキテクチャが崩壊する恐れがあります。COREはAIの判断を信頼できる枠組みに入れ、チーム開発やエンタープライズ環境で監査可能・決定論的な自動化を実現できる〜とみられます。特に、本番環境への不正な書き込みを構造的に防ぐ点は、組織がAIを安心して導入する上で重要です。

  3. 注目点

    COREはDocker環境で install-core.sh を走らせるだけで動作デモを確認できます。ガバナンス・ディレクトリ(.intent/)は不変、違反は即座にハード停止する一方、ポリシー・レベルのルール違反は strict_mode の設定により報告に変わる設計になっています。

この記事についてAIに質問する →

よくある質問

COREはどのような違反を防ぐのですか?
本番データベースの削除など、アーキテクチャを破壊する操作を構造的にブロックします。レイヤー間の構造ルール違反、ファイル成長の無制限化、設計契約の破損などを自動で遮断し、実行前に停止させます。
違反が見つかった場合、どうなりますか?
ブロッキング・ルール違反は即座にハード停止し、完全な監査ログが記録されます。AIが修正案を提案し、承認者が確認してから実行する流れが自動で追跡されます。
ルール設定はどこで行いますか?
ガバナンス・ディレクトリ(.intent/ および src/mind/)に機械可読な憲法ルールと実行方針(Meta → Constitution → Policy → Code)が定義されており、AIがこれを無視・改変することはできません。
LINEで送る

「AI規制・政策」の最新ニュースを、毎朝7時にお届けします

たとえば、いま届くならこの3本です

  • 最高裁、民事裁判でAI活用へ実証Japan Times Tech · 4時間前
  • 投資詐欺対策にAI導入へJapan Times Tech · 4時間前
  • OpenAIがカリフォルニア州の青少年AI安全法案を支持OpenAI Blog · 7時間前

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

登録無料・30秒で完了・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。

関連記事

最高裁、民事裁判でAI活用へ実証

最高裁判所は2027年度予算案にAI関連費用として約6000万円を計上

NEWJapan Times Tech4時間前

投資詐欺対策にAI導入へ

消費者庁は24日、全国の消費生活センターに寄せられる年間約90万件の相談を生成AIで分析し、詐欺の手口や事業者の経営破綻の早期サインを検出すると発表した

NEWJapan Times Tech4時間前

OpenAIがカリフォルニア州の青少年AI安全法案を支持

OpenAIは、10代の若者を対象とした強力で年齢に適したAI安全対策の確立を目指すカリフォルニア州上院法案1119号への支持を表明した

OpenAI Blog7時間前

英中銀総裁、AIの金融リスクを警告

イングランド銀行(BOE)総裁アンドリュー・ベイリー氏は、G20財務相・中央銀行総裁会議に向けた書簡で、高度なAIが金融インフラにリスクをもたらすと警告した

SiliconANGLE AI13時間前

英中銀総裁がAIサイバーリスクを警告

世界の金融安定監視機関のトップであるアンドリュー・ベイリー氏は、G20の財務相・中央銀行総裁宛ての書簡で、最先端AIによるサイバー脅威の増大が市場混乱のリスクを高めていると警告した

Semafor Tech13時間前

EU、ChatGPT規制拡大へ 未成年保護を義務化

欧州連合(EU)はChatGPTへの規制を拡大し、未成年者を保護する措置を義務付ける方針だ

Nikkei AI Stocks13時間前
次の記事へ記事本文が不足しているため要約作成不可