AI Safety & Alignment

Today's Stories

1. 1

   স্বাধীন গবেষক DABSN নামের পুনরাবৃত্তিমূলক এআই আর্কিটেকচার শেয়ার করেছেন, সহযোগীদের খুঁজছেন

   কী ঘটেছে: একজন স্বাধীন গবেষক DABSN (Dynamic Adaptive Bias State Network) নামের একটি পুনরাবৃত্তিমূলক আর্কিটেকচার প্রকাশ করেছেন, যার সাথে রয়েছে সর্বজনীন প্রি-প্রিন্ট, PyTorch, C++, এবং Triton কোড। গবেষক একটি GPT-2 টোকেনাইজার ব্যবহার করে ১ বিলিয়ন প্রি-ট্রেনিং টোকেনে ২৪ মিলিয়ন-প্যারামিটার ভাষা মডেল প্রশিক্ষণ দিয়েছেন এবং এখন ভাষা মডেলিং এবং দীর্ঘ-প্রসঙ্গ আচরণের উপর দ্বিতীয় একটি পত্র লিখছেন। গুরুত্ব কেন: সর্বজনীন বাস্তবায়ন সহ খোলা-উৎস পুনরাবৃত্তিমূলক আর্কিটেকচার গবেষণা সম্প্রদায়কে বড় কর্পোরেট ল্যাবের বাইরে উপন্যাস পদ্ধতিগুলি পুনরুৎপাদন, যাচাই এবং তৈরি করতে সক্ষম করে। গবেষকের ভাষা মডেলিংয়ের অপ্রত্যাশিত ফলাফল পরামর্শ দেয় যে আর্কিটেকচারটি বিকল্প দক্ষতা বা ক্ষমতা প্রোফাইল অফার করতে পারে যা অনুসন্ধানের যোগ্য।

   পর্যবেক্ষণ করতে হবে: গবেষক স্বাধীন পুনরুৎপাদন, মূল্যায়ন এবং পরবর্তী ভাষা-মডেলিং পত্রের জন্য সক্রিয়ভাবে সহযোগীদের খুঁজছেন—এটি খোলা গবেষণার একটি সাধারণ প্রাথমিক পর্যায় যখন বৈধতা এবং স্কেলিং বৃহত্তর অংশগ্রহণের প্রয়োজন।

2. 2

   NeurIPS 2026-এ রিয়েল-টাইম কনভার্সেশনাল AI-এর উদ্বোধনী ওয়ার্কশপ চালু হচ্ছে

   কী ঘটছে: NeurIPS 2026-এর উদ্বোধনী ওয়ার্কশপ হিসেবে RTCA (Real-Time Conversational Agents) ওয়ার্কশপ চালু হতে চলেছে, যা ২০২৬ সালের ১১ বা ১২ ডিসেম্বর সিডনি, অস্ট্রেলিয়ায় অনুষ্ঠিত হবে এবং এখন পেপার ও ডেমোর জন্য কল ওপেন রয়েছে। কেন এটি গুরুত্বপূর্ণ: কনভার্সেশনাল AI এখন আর শুধু টেক্সট চ্যাটের মধ্যে সীমাবদ্ধ নয়—এটি ভয়েস, ভিডিও এবং এমবডিড অ্যাভাটারে প্রবেশ করেছে যা রিয়েল-টাইমে কাজ করতে হয় এবং একই সাথে শুনতে ও দেখতে হয় স্ট্রিমিং করে। এর জন্য লেটেন্সি, টার্ন-টেকিং, ইন্টারাপশন এবং ক্রস-মোডাল এলাইনমেন্ট সামলাতে হয়, যা অফলাইন টেক্সট জেনারেশনের চেয়ে অনেক বেশি জটিল সমস্যা এবং এটি প্রমাণ করে যে AI সিস্টেমগুলোকে ব্যবহারকারীদের সাথে প্রাকৃতিকভাবে কীভাবে ইন্টারঅ্যাক্ট করতে হয় তাতে একটি মৌলিক পরিবর্তন এসেছে।

   যা দেখতে হবে: ওয়ার্কশপটি স্ট্রিমিং স্পিচ, ভিডিও এবং ভাষা জেনারেশন; রিয়েল-টাইম ইন্টারঅ্যাকশনে স্বাভাবিকতা; এবং লাইভ সিস্টেমের মূল্যায়নে ফোকাস করে। সাবমিশন এবং ডেমো ওয়ার্কশপ ওয়েবসাইট https://rtcaneurips26.github.io/-এর মাধ্যমে গ্রহণ করা হচ্ছে।

3. 3

   এন্টারপ্রাইজগুলির অর্ধেক AI এজেন্ট চালু করে যা প্রোডাকশনে ব্যর্থ হয়; বেশিরভাগ মানুষের পর্যালোচনা এড়িয়ে চলে

   কী ঘটেছে: ১৫৭টি এন্টারপ্রাইজের একটি সমীক্ষায় দেখা গেছে যে অর্ধেক ইতিমধ্যে এমন একটি AI এজেন্ট স্থাপন করেছে যা তাদের অভ্যন্তরীণ মূল্যায়ন পাস করেছিল কিন্তু গ্রাহকদের দ্বারা প্রোডাকশনে ব্যবহৃত হলে ব্যর্থ হয়েছিল। আজ মাত্র এক পঞ্চমাংশ স্বয়ংক্রিয় মূল্যায়নকে সম্পূর্ণভাবে বিশ্বাস করে, এবং সবচেয়ে বেশি উল্লেখ করা দুর্বলতা হল যে মূল্যায়নগুলি বাস্তব-বিশ্ব ফলাফলের সাথে সামঞ্জস্যপূর্ণ নয়। কেন এটি গুরুত্বপূর্ণ: সংস্থাগুলি AI এজেন্টগুলিকে আরও বেশি স্বাধীনতা প্রদান করছে যখন সেই স্বাধীনতা নিয়ন্ত্রণ করার জন্য তৈরি মূল্যায়নে আস্থা হারাচ্ছে। সমীক্ষায় অংশগ্রহণকারী দুই-তৃতীয়াংশ এন্টারপ্রাইজ ইতিমধ্যে অনুমতি দিয়েছে, বা সক্রিয়ভাবে স্বয়ংক্রিয় মূল্যায়নের উপর ভিত্তি করে প্রোডাকশনে এজেন্ট পরিবর্তন স্থাপনের দিকে কাজ করছে — মানুষের কোন হস্তক্ষেপ ছাড়াই — যা গবেষণা একটি "মূল্যায়ন ব্যবধান" বলে, যা প্রদত্ত স্বাধীনতা এবং সুরক্ষা ব্যবস্থায় রাখা আস্থার মধ্যে বিদ্যমান।

   যা লক্ষ্য রাখতে হবে: স্বয়ংক্রিয় মূল্যায়নে এন্টারপ্রাইজ আস্থা এবং মানুষের তদারকি ছাড়াই স্থাপনের প্রতি তাদের ইচ্ছার মধ্যে ব্যবধান একটি কাঠামোগত বিসঙ্গতির পরামর্শ দেয়: কোম্পানিগুলি তাদের পরীক্ষা যাচাই করতে পারে এমন চেয়ে দ্রুত চালু করছে, এবং অনেকেই গ্রাহকদের সম্মুখীন হওয়ার পরেই ব্যর্থতা আবিষ্কার করছে।

4. 4

   Cohere-এর VP: এন্টারপ্রাইজ AI সার্বভৌমত্বের জন্য এজেন্ট স্ট্যাকের সম্পূর্ণ নিয়ন্ত্রণ প্রয়োজন

   কী ঘটেছে: কানাডিয়ান AI স্টার্টআপ Cohere-র প্রোডাক্ট ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট Rachad Alao মেনলো পার্কে অনুষ্ঠিত VB Transform 2026-এ AI এজেন্ট সিস্টেম তৈরি করার বিষয়ে আলোচনা করেছেন, যেখানে সংবেদনশীল ডেটা এবং অবকাঠামো এন্টারপ্রাইজের নিয়ন্ত্রণে রাখা হয়। Google এবং Meta-তে দায়িত্বশীল AI দলগুলির নেতৃত্ব দেওয়া Alao যুক্তি দিয়েছেন যে AI সার্বভৌমত্বের জন্য শুধুমাত্র একটি ওপেন মডেল কর্পোরেট ফায়ারওয়ালের পিছনে চালানোই যথেষ্ট নয়। কেন এটি গুরুত্বপূর্ণ: ব্যাংক, হাসপাতাল এবং সরকার যারা মিশন-গুরুত্বপূর্ণ সিস্টেম পরিচালনা করে তাদের তাদের ডেটা কোথায় রয়েছে তা নিয়ে কঠোর নিয়ন্ত্রণ এবং একটি একক AI প্রদানকারীর সাথে আটকে না পড়ে বিক্রেতা পরিবর্তন করার ক্ষমতা প্রয়োজন। সংবেদনশীল তথ্য পরিচালনাকারী এন্টারপ্রাইজগুলির জন্য আংশিক ব্যবস্থা—একটি মডেল ডাউনলোড করা বা ফায়ারওয়াল ব্যবহার করা—অপর্যাপ্ত; প্রকৃত সার্বভৌমত্বের জন্য সম্পূর্ণ AI এজেন্ট স্ট্যাকের উপর নিয়ন্ত্রণ প্রয়োজন।

   যা লক্ষ্য রাখতে হবে: এই আলোচনা বৃহৎ সংস্থাগুলির মধ্যে ক্রমবর্ধমান উদ্বেগ প্রতিফলিত করে যে তৃতীয় পক্ষের AI অবকাঠামো এবং বিক্রেতাদের উপর নির্ভর করা মালিকানাধীন অপারেশন প্রকাশ করতে বা বৃহত্তর ক্লাউড বা AI বিক্রেতাদের উপর নির্ভরতা তৈরি করতে পারে। সম্পূর্ণ স্ট্যাক নিয়ন্ত্রণের উপর Cohere-র জোর সুপারিশ করে যে স্টার্টআপটি বড় ক্লাউড বা AI বিক্রেতাদের কাছে অপারেশনাল স্বায়ত্তশাসন হস্তান্তর করতে অনিচ্ছুক এন্টারপ্রাইজগুলিকে সেবা প্রদানের জন্য নিজেকে অবস্থান করছে।

5. 5

   OpenAI GPT-Red চালু করেছে, স্ব-খেলার মাধ্যমে স্বয়ংক্রিয় নিরাপত্তা ব্যবস্থা

   কী ঘটেছে: OpenAI GPT-Red চালু করেছে, একটি স্বয়ংক্রিয় রেড টিমিং সিস্টেম যা স্ব-খেলার মাধ্যমে কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা, সামঞ্জস্য এবং প্রম্পট ইঞ্জেকশন আক্রমণের বিরুদ্ধে স্থিতিস্থাপকতা উন্নত করে। এটি কেন গুরুত্বপূর্ণ: রেড টিমিং—কৃত্রিম বুদ্ধিমত্তার সিস্টেমে উদ্দেশ্যমূলকভাবে দুর্বলতা খোঁজা—কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা কাজের একটি মূল অংশ। স্ব-খেলার সাথে এই প্রক্রিয়াকে স্বয়ংক্রিয় করা (যেখানে সিস্টেম নিজেকে পরীক্ষা করে) OpenAI কে হাতে-কলমে পরীক্ষার চেয়ে দ্রুত এবং আরও পদ্ধতিগতভাবে দুর্বলতা চিহ্নিত করতে এবং সমাধান করতে সক্ষম করতে পারে, স্থাপিত মডেলগুলির নিরাপত্তা শক্তিশালী করে।

   নজর রাখার বিষয়: সিস্টেমটি তিনটি মূল ক্ষেত্রে ফোকাস করে: কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা, সামঞ্জস্য এবং প্রম্পট ইঞ্জেকশন স্থিতিস্থাপকতা। GPT-Red উৎপাদন মডেলগুলিতে প্রান্তিক ব্যর্থতা ধরার জন্য কতটা কার্যকরভাবে স্কেল করে তা তার বাস্তব-বিশ্বের প্রভাবের একটি পরিমাপ হবে।

6. 6

   OpenAI যুক্তরাষ্ট্রের কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণের জন্য 'রিভার্স ফেডারেলিজম' প্রস্তাব করেছে

   কী ঘটেছে: OpenAI একটি শাসন পদ্ধতির রূপরেখা দিয়েছে যা তারা 'রিভার্স ফেডারেলিজম' বলে অভিহিত করেছে, যেখানে রাজ্যপর্যায়ের আইনগুলি কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা এবং গণতান্ত্রিক নীতিমালার জন্য একটি জাতীয় কাঠামো তৈরিতে সহায়তা করতে পারে। এটি কেন গুরুত্বপূর্ণ: বর্তমানে যুক্তরাষ্ট্রে কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণে কোনো একীভূত জাতীয় মান নেই এবং OpenAI-এর প্রস্তাবটি পরামর্শ দেয় যে রাজ্যপর্যায়ের পরীক্ষা-নিরীক্ষা যুক্তরাষ্ট্রীয় নীতি জানাতে পারে, বরং যুক্তরাষ্ট্রীয় আদেশ নিচের দিকে প্রবাহিত হয় না—সম্ভবত সম্পূর্ণ শিল্পে নিরাপত্তা নর্ম প্রতিষ্ঠার জন্য দ্রুত ও আরও খাপ খাওয়ানোর যোগ্য পথ প্রদান করে।

   যা পর্যবেক্ষণ করতে হবে: এই কাঠামোটি অন্যান্য খাতে চলমান বিতর্কের সাথে সামঞ্জস্যপূর্ণ যেখানে রাজ্যপর্যায়ের উদ্ভাবন যুক্তরাষ্ট্রীয় পদক্ষেপের আগে ঘটে; Congress এবং রাজ্য আইনসভাগুলি এই মডেলটি গ্রহণ করবে কিনা তা আগামী বছরগুলিতে কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা মান কীভাবে আবির্ভূত হয় তা গঠন করবে।