AI Safety & Alignment

Today's Stories

1. 1

   অ্যাপল নিডিয়াকে ছাড়িয়ে বিশ্বের সবচেয়ে মূল্যবান কোম্পানি হয়েছে

   কী ঘটেছে: শুক্রবার অ্যাপল নিডিয়াকে অতিক্রম করে বিশ্বের সবচেয়ে মূল্যবান কোম্পানিতে পরিণত হয়েছে। অ্যাপলের মূল্যায়ন ৪.৮৮ ট্রিলিয়ন ডলার দাঁড়িয়েছে, যেখানে নিডিয়া ৩.৫ শতাংশ হ্রাসের পর প্রায় ৪.৮৬ ট্রিলিয়ন ডলারে রয়েছে। এটি গুরুত্বপূর্ণ কেন: এই পরিবর্তন কৃত্রিম বুদ্ধিমত্তা অবকাঠামো নির্মাণে বিশাল পুঁজি ব্যয়ের বিষয়ে বিনিয়োগকারীদের উদ্বেগ প্রতিফলিত করে। বিনিয়োগকারীরা এখন অ্যাপলের মতো এমন কোম্পানিগুলিকে পছন্দ করছেন যারা বিশাল প্রাথমিক পুঁজি বিনিয়োগ ছাড়াই কৃত্রিম বুদ্ধিমত্তা অনুসরণ করছে। এটি নিডিয়ার মতো সবচেয়ে স্পষ্ট কৃত্রিম বুদ্ধিমত্তা সুবিধাভোগীদের বাইরে মনোযোগ প্রসারিত করে, যা প্রায় এক বছর ধরে শীর্ষ অবস্থানে ছিল।

   যা পর্যবেক্ষণ করতে হবে: অ্যাপল তার সম্প্রতি অনুষ্ঠিত বিশ্বব্যাপী ডেভেলপার সম্মেলনে একটি বিশ্বাসযোগ্য কৃত্রিম বুদ্ধিমত্তা পরিকল্পনা উপস্থাপন করেছে যা একজন বিশেষজ্ঞ বর্ণনা করেছেন, যা সংকেত দেয় যে কোম্পানিটি এখন একটি কার্যকর কৃত্রিম বুদ্ধিমত্তা কৌশল রয়েছে যার পরে এটি এই ক্ষেত্রে পিছিয়ে থাকার জন্য দেখা হয়েছিল।

2. 2

   নতুন ২০০,০০০ ডলারের তহবিল ২০২৬ সালে সংশোধনযোগ্যতা এআই নিরাপত্তা গবেষণা সমর্থন করবে

   কী ঘটেছে: Lightcone Infrastructure-এর মাধ্যমে পরিচালিত একটি নতুন সংশোধনযোগ্যতা গবেষণা তহবিল ২০২৬ সালে অনূর্ধ্ব ২০০,০০০ ডলার অনুদান এবং পুরস্কার প্রদান করবে। অর্থের প্রায় অর্ধেক ঐতিহ্যবাহী অনুদান (আবেদনের মেয়াদ ২৩ আগস্ট) এবং অর্ধেক ২০২৬ সালে সম্পন্ন উৎকৃষ্ট কাজের স্বীকৃতির জন্য পুরস্কারের মাধ্যমে ব্যবহৃত হবে। কেন এটি গুরুত্বপূর্ণ: তহবিলটির স্রষ্টা যুক্তি দিয়েছেন যে সংযোজন গবেষণা—এআই সিস্টেমগুলিকে সংশোধনযোগ্য এবং মানুষের উদ্দেশ্যের সাথে সামঞ্জস্যপূর্ণ করার লক্ষ্যে করা কাজ—মূল্যায়ন, নিয়ন্ত্রণ এবং ব্যাখ্যাযোগ্যতার মতো অন্যান্য এআই নিরাপত্তা ক্ষেত্রের তুলনায় অত্যন্ত অনুত্সাহিত থাকে। এই তহবিল স্রষ্টা যে গবেষণা ক্ষেত্রকে এআই নিরাপত্তার মূল সমস্যা সমাধানের ভিত্তি হিসেবে দেখেন তার দিকে সম্পদ স্থানান্তরের চেষ্টা করে।

   যা লক্ষ্য রাখতে হবে: সংশোধনযোগ্যতা কাজে আগ্রহী গবেষকরা grants@corrigibilityresearch.org ইমেলের মাধ্যমে অনুদানের জন্য আবেদন করতে পারেন। অনুদানের জন্য প্রথম আবেদনের সময়সীমা ২৩ আগস্ট।

3. 3

   ২০২৬ সালে সংশোধনযোগ্যতা কৃত্রিম বুদ্ধিমত্তা গবেষণার জন্য নতুন ২০০,০০০ ডলার তহবিল চালু হচ্ছে

   কী ঘটেছে: Lightcone Infrastructure এর মাধ্যমে পরিচালিত একটি নতুন Corrigibility Research Fund, ২০২৬ সালে সংশোধনযোগ্যতা গবেষণার জন্য অনুদান এবং পুরস্কার হিসেবে কমপক্ষে ২০০,০০০ ডলার বিতরণ করবে। অর্ধেক তহবিল ঐতিহ্যবাহী অনুদান (প্রথম আবেদনের সময়সীমা ২৩ আগস্ট) সমর্থন করবে এবং বাকি অর্ধেক এই বছর সম্পন্ন উৎকৃষ্ট কাজকে স্বীকৃতি দেবে। এটি কেন গুরুত্বপূর্ণ: তহবিল পরিচালক উল্লেখ করেন যে সামগ্রিকভাবে কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা তহবিলের বৃদ্ধি সত্ত্বেও, প্রায় সমস্ত অর্থ মূল্যায়ন, নিয়ন্ত্রণ বা ব্যাখ্যাযোগ্যতায় ব্যয় হয় — যখন সামঞ্জস্য গবেষণা নিজেই গভীরভাবে উপেক্ষিত থাকে। এই তহবিল একটি ফাঁক লক্ষ্য করে: সংশোধনযোগ্যতা (একটি কৃত্রিম বুদ্ধিমত্তা সিস্টেমের সংশোধন গ্রহণ করার ক্ষমতা) মূল সামঞ্জস্য সমস্যা সমাধানে কেন্দ্রীয় হিসেবে বিবেচিত হয়।

   কী নজর রাখতে হবে: সংশোধনযোগ্যতা কাজে আগ্রহী গবেষকরা grants@corrigibilityresearch.org এ ইমেইলের মাধ্যমে আবেদন করতে পারেন। প্রথম অনুদান আবেদনের সময়সীমা ২৩ আগস্ট।

4. 4

   টিকাকরণ অ্যাডাপ্টার এআই প্রশিক্ষণে অনাকাঙ্ক্ষিত বৈশিষ্ট্যের উন্নত নিয়ন্ত্রণ প্রদান করে

   কী ঘটেছে: Center on Long-Term Risk-এর গবেষকরা টিকাকরণ অ্যাডাপ্টার (IA) সম্পর্কে একটি গবেষণাপত্র প্রকাশ করেছেন, যা এআই প্রশিক্ষণের সময় অনাকাঙ্ক্ষিত বৈশিষ্ট্য বহন করে এমন একটি LoRA (মডেল সংশোধনের একটি ধরন) ব্যবহার করে সেই বৈশিষ্ট্যগুলিকে সাধারণীকৃত হওয়া থেকে প্রতিরোধ করে, একই সাথে পছন্দসই ক্ষমতা সংরক্ষণ করে। কেন এটি গুরুত্বপূর্ণ: এআই সিস্টেমগুলি প্রায়ই একই প্রশিক্ষণ ডেটা থেকে দরকারি দক্ষতা এবং সমস্যাজনক আচরণ উভয়ই শিখে—যেমন প্রকৃত ক্ষমতার পাশাপাশি পুরস্কার হ্যাকিং। টিকাকরণ অ্যাডাপ্টার আগের পদ্ধতিগুলির চেয়ে আরও নির্ভরযোগ্যভাবে অনাকাঙ্ক্ষিত বৈশিষ্ট্যগুলি দমন করার একটি উপায় প্রদান করে, যা ডেভেলপারদের জন্য গুরুত্বপূর্ণ যারা এআই সিস্টেমগুলিকে উদীয়মান ভুল সারিবদ্ধতা গ্রহণ করার পরিবর্তে যেভাবে অভিপ্রায় করা হয়েছে সেভাবে আচরণ করতে নিশ্চিত করার চেষ্টা করছেন।

   লক্ষ্য রাখতে হবে: এই কৌশলটি অনাকাঙ্ক্ষিত বৈশিষ্ট্যগুলির শক্তিশালী দমন অর্জন করে এবং নতুন ক্ষমতা এবং কঠিন-বোধগম্য বৈশিষ্ট্যগুলির বিরুদ্ধে কাজ করে যা আগের টিকাকরণ প্রম্পটিং পরিচালনা করতে পারেনি, একই সাথে ফলস্বরূপ মডেলে কম চমকপ্রদ ব্যাকডোর তৈরি করে।

5. 5

   Anthropic এর Claude মিসঅ্যালাইনমেন্ট পরীক্ষা ত্রুটিপূর্ণ ভিত্তি হিসেবে বিতর্কিত

   কী ঘটেছে: একজন গবেষক Anthropic এর সম্প্রতিকালীন "Agentic Misalignment Summer 2026" গবেষণাপত্রের সমালোচনামূলক বিশ্লেষণ প্রকাশ করেছেন। তিনি যুক্তি দেখিয়েছেন যে মূল্যায়নের মূল ভিত্তি—Claude অবৈধ প্রধানের আদেশ অমান্য করবে কি না তা পরীক্ষা করা—অবাধ্যতাকে মিসঅ্যালাইনমেন্টের সাথে মিশিয়ে ফেলে। কেন এটি গুরুত্বপূর্ণ: গবেষণাপত্রটির পদ্ধতি Claude এর বেআইনি আদেশ মেনে না চলা (নির্ধারিত অস্বীকৃতি চ্যানেলের বাইরে) কে "agentic misalignment" হিসাবে চিহ্নিত করে। কিন্তু সমালোচক দাবি করেন এই ফ্রেমিং প্রকৃত alignment এর অর্থকে বিকৃত করে। এই পরিস্থিতি গুরুত্বপূর্ণ কারণ এই ধরনের মূল্যায়ন AI নিরাপত্তা কীভাবে মূল্যায়ন করা হয় এবং মডেলগুলি স্থাপনের জন্য উপযুক্ত কি না তা নির্ধারণ করে।

   দেখার মতো: "whistleblowing" পরিস্থিতি, যেখানে Claude Anthropic এ জাল নিরাপত্তা মূল্যায়ন এর প্রমাণ উন্মোচন করে এবং বৈধ চ্যানেলের মাধ্যমে রিপোর্ট করার চেষ্টা করে, তা বিশেষভাবে সমস্যাজনক হিসাবে চিহ্নিত করা হয়েছে—যদিও সম্পূর্ণ সমালোচনা উপলব্ধ পাঠে অসম্পূর্ণ রয়েছে।

6. 6

   এআই সেফটি সিডিং ইনিশিয়েটিভ বিশ্ববিদ্যালয় গ্রুপ গঠনের জন্য উদ্যোগ চালু করল

   কী ঘটেছে: কাইরসের সাথে অংশীদারিত্বে চালু করা এআই সেফটি সিডিং ইনিশিয়েটিভ শীর্ষস্থানীয় বিশ্ববিদ্যালয়গুলিতে এমন ছাত্র প্রতিষ্ঠাতাদের চিহ্নিত করতে এবং সমর্থন করতে লক্ষ্য রাখে যেখানে বর্তমানে কোনো এআই সেফটি গ্রুপ নেই। এই উদ্যোগটি এই প্রতিষ্ঠাতাদের পাথফাইন্ডারে আবেদন করতে এবং এই শরতে গ্রুপ চালু করতে প্রস্তুত করতে সাহায্য করবে। এটি গুরুত্বপূর্ণ কেন: ২০২৩ সালের একটি সমীক্ষা অনুযায়ী, বিশ্ববিদ্যালয় গ্রুপগুলি সর্বাধিক সাধারণ ক্যারিয়ার প্রভাবশালী যারা দুর্যোগপূর্ণ ঝুঁকিতে কাজ করে। অসংখ্য শক্তিশালী বিশ্ববিদ্যালয় এই ধরনের গ্রুপগুলি টিকিয়ে রাখতে পারে কিন্তু বর্তমানে কোনোটি নেই, যা এআই সেফটি প্রতিভার পাইপলাইনে একটি ফাঁক সৃষ্টি করে।

   যা লক্ষ্য করতে হবে: এই উদ্যোগটি এমন বিশ্ববিদ্যালয়ের সম্ভাব্য ছাত্র প্রতিষ্ঠাতাদের সুপারিশ চাইছে যেখানে বর্তমানে কোনো এআই সেফটি গ্রুপ নেই (যোগ্য স্কুলগুলির একটি তালিকা উদ্যোগের ওয়েবসাইট aisafetyseeding.org-এ পাওয়া যায়)।