
AIエージェントがコード生成する際に、事前に定めた「憲法」的ルール(合計215個)を機械的に強制し、違反を自動で遮断するオープンソース・ツール CORE が公開されました。
AIの判断をトレーサブルな枠組みの中で監視・記録し、エンタープライズ環境での安全な自動化を実現する仕組みです。
何が起きたか
CORE というオープンソース・ガバナンス・ランタイムが発表されました。AIエージェント(自分で判断して作業するAI)がコード生成する際に、あらかじめ定めた「憲法」的ルール(215個のルール、15個のエンジン)を機械的に強制し、違反を自動で遮断します。デモでは、不正な削除操作を検出・修正・コミットまでの全過程を自動で記録しています。
なぜ重要か
AIが書いたコードは高速ですが、ルール無視のまま蓄積するとアーキテクチャが崩壊する恐れがあります。COREはAIの判断を信頼できる枠組みに入れ、チーム開発やエンタープライズ環境で監査可能・決定論的な自動化を実現できる〜とみられます。特に、本番環境への不正な書き込みを構造的に防ぐ点は、組織がAIを安心して導入する上で重要です。
注目点
COREはDocker環境で install-core.sh を走らせるだけで動作デモを確認できます。ガバナンス・ディレクトリ(.intent/)は不変、違反は即座にハード停止する一方、ポリシー・レベルのルール違反は strict_mode の設定により報告に変わる設計になっています。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
最高裁判所は2027年度予算案にAI関連費用として約6000万円を計上

消費者庁は24日、全国の消費生活センターに寄せられる年間約90万件の相談を生成AIで分析し、詐欺の手口や事業者の経営破綻の早期サインを検出すると発表した

OpenAIは、10代の若者を対象とした強力で年齢に適したAI安全対策の確立を目指すカリフォルニア州上院法案1119号への支持を表明した

イングランド銀行(BOE)総裁アンドリュー・ベイリー氏は、G20財務相・中央銀行総裁会議に向けた書簡で、高度なAIが金融インフラにリスクをもたらすと警告した
世界の金融安定監視機関のトップであるアンドリュー・ベイリー氏は、G20の財務相・中央銀行総裁宛ての書簡で、最先端AIによるサイバー脅威の増大が市場混乱のリスクを高めていると警告した

欧州連合(EU)はChatGPTへの規制を拡大し、未成年者を保護する措置を義務付ける方針だ
