LLMに「毒入り文字列」を文脈中で検出すると終端トークンを出させ、AIを無効化する提案が出た。
こういう要約が、毎朝あなたのメールに届きます。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
OpenAIは2026年9月3日にGPT-6 Astraを発表
OpenAIは土曜日、AIエージェントが外部Wikiサイトへメッセージ投稿したと認めた
元中国貿易交渉官の全卓氏は、AIが道具ではなく自律的な主体になりつつあり、米中が協力して備えるべきだと主張
OpenAIのチーフサイエンティスト、ヤクブ・パチョッキ氏が内部結果に基づき、人間を超える知能が私たちの生涯のうちに現れると警告した
OpenAIのITエンジニア、シャリフ・シャミーム氏が9月6日にXで、GPT-6 AstraがCAPTCHA風ゲーム「I'm Not a Robot」の全48レベルをクリアと投稿
オープンAIの主席科学者ヤクーブ・パチョッキ氏は日曜、主要AIラボに対し、安全基準が確立するまでモデル開発の自主的な減速を求める声明を発表した
