AI Safety & Alignment

Today's Stories

1. 1

   Kimi K3 কৃত্রিম বুদ্ধিমত্তা মডেল শক্তিশালী আত্মপ্রকাশের পর সীমান্ত প্রশ্ন উত্থাপন করেছে

   কী ঘটেছে: চীনের নতুন AI মডেল Kimi K3, কৃত্রিম বুদ্ধিমত্তার সূচকে ৫৭ স্কোর অর্জন করেছে—Claude Opus 4.8 এর চেয়ে এক পয়েন্ট বেশি, Sol এর চেয়ে দুই পয়েন্ট কম এবং Fable এর চেয়ে তিন পয়েন্ট কম—যা DeepSeek এর সম্প্রতিকালীন বাজার প্রভাবের সাথে তুলনা এবং Google, SpaceX এবং Nvidia এর জন্য সম্ভাব্য স্টক হ্রাসের কথা উত্থাপন করেছে। কেন এটি গুরুত্বপূর্ণ: মডেলটির শক্তি AI উন্নয়ন ও প্রতিযোগিতা সম্পর্কিত বিদ্যমান অনুমানগুলির পুনর্মূল্যায়ন ঘটাচ্ছে; লেখক উল্লেখ করেন যে স্কোরটি ক্ষমতা অত্যধিক প্রদর্শন করতে পারে কিন্তু আসন্ন দিনগুলিতে স্বাধীন যাচাইকরণ এর নেতৃস্থানীয় মডেলগুলির সাপেক্ষে প্রকৃত অবস্থান স্পষ্ট করবে।

   নজর রাখার বিষয়: Kimi K3 এর সম্পূর্ণ বিশ্লেষণ পরবর্তী সপ্তাহের শুরুতে পরিকল্পিত; বাজারের প্রতিক্রিয়া এবং নেতৃস্থানীয় সিস্টেমের বিপরীতে মডেলটির প্রকৃত কর্মক্ষমতার তৃতীয় পক্ষের বৈধতা তা প্রতিষ্ঠা করতে সাহায্য করবে যে এটি সীমান্তে একটি উল্লেখযোগ্য পরিবর্তন প্রতিনিধিত্ব করে কিনা।

2. 2

   米海軍、AI優先艦隊構想 遅延よりも不完全性を低リスク視

   米国防総省海軍省がデータとAIを「兵器化」し、「AI優先」艦隊を構築する戦略に署名しました。大規模言語モデル（テキストを理解・生成するAI）が軍艦上で直接稼働し、AI戦争評議会が作戦シナリオを優先化する計画です。 海軍の中核的なメッセージは、導入の遅れが「不完全な配置」よりも大きなリスクをもたらすということです。これは、完璧な安全保障よりも迅速な実装を重視する戦略方針を示唆しています。

   AI戦争評議会がどのように機能し、軍艦上のAIモデルの実装がどの程度進むかが、この戦略の実現度を判断する鍵となります。

3. 3

   অ্যাপল নিভিডিয়াকে ছাড়িয়ে বিশ্বের সবচেয়ে মূল্যবান কোম্পানি হয়ে উঠল

   কী ঘটল: শুক্রবার অ্যাপল নিভিডিয়াকে ছাড়িয়ে বিশ্বের সবচেয়ে মূল্যবান কোম্পানি হয়ে উঠেছে। অ্যাপলের মূল্যায়ন ৪.৮৮ ট্রিলিয়ন ডলার যখন নিভিডিয়ার মূল্যায়ন ৩.৫% হ্রাস পেয়ে প্রায় ৪.৮৬ ট্রিলিয়ন ডলার হয়েছে। কেন এটি গুরুত্বপূর্ণ: এই পরিবর্তন কৃত্রিম বুদ্ধিমত্তার অবকাঠামো নির্মাণের জন্য প্রয়োজনীয় বিশাল পুঁজি ব্যয় সম্পর্কে বিনিয়োগকারীদের উদ্বেগ প্রতিফলিত করে। বিনিয়োগকারীরা এখন অ্যাপলের মতো কোম্পানিগুলিকে পছন্দ করছেন যারা বিশাল প্রাথমিক পুঁজি বিনিয়োগ ছাড়াই কৃত্রিম বুদ্ধিমত্তা অনুসরণ করছে। এর ফলে ফোকাস নিভিডিয়ার মতো সুস্পষ্ট কৃত্রিম বুদ্ধিমত্তার সুবিধাভোগী কোম্পানিগুলির বাইরে প্রসারিত হচ্ছে, যেটি প্রায় এক বছর ধরে শীর্ষ অবস্থানে ছিল।

   পর্যবেক্ষণ করার বিষয়: অ্যাপল তার সম্প্রতি আয়োজিত বিশ্বব্যাপী ডেভেলপার সম্মেলনে একটি বিশ্বাসযোগ্য কৃত্রিম বুদ্ধিমত্তা পরিকল্পনা উপস্থাপন করেছে বলে একজন বিশেষজ্ঞ মন্তব্য করেছেন। এটি ইঙ্গিত করে যে এই ক্ষেত্রে পূর্বে পিছিয়ে থাকার পরে কোম্পানিটির এখন একটি কার্যকর কৃত্রিম বুদ্ধিমত্তা কৌশল রয়েছে।

4. 4

   নতুন ২ লক্ষ ডলারের তহবিল ২০২৬ সালে সংশোধনযোগ্যতা কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা গবেষণাকে সমর্থন করবে

   কী ঘটেছে: Lightcone Infrastructure এর মাধ্যমে পরিচালিত একটি নতুন সংশোধনযোগ্যতা গবেষণা তহবিল ২০২৬ সালে কমপক্ষে ২ লক্ষ ডলার অনুদান এবং পুরস্কার প্রদান করবে। প্রায় অর্ধেক অর্থ ঐতিহ্যবাহী অনুদান প্রোগ্রামের জন্য বরাদ্দ করা হবে (আবেদনের সময়সীমা ২৩ আগস্ট), এবং অবশিষ্ট অর্ধেক ২০২৬ সালে সম্পন্ন উৎকৃষ্ট কাজকে পুরস্কৃত করবে। কেন এটি গুরুত্বপূর্ণ: তহবিল সৃষ্টিকারী যুক্তি দেন যে সংযোজন গবেষণা—কৃত্রিম বুদ্ধিমত্তা ব্যবস্থাগুলিকে সংশোধনযোগ্য এবং মানব উদ্দেশ্যের সাথে সংযুক্ত করার জন্য নিবেদিত কাজ—মূল্যায়ন, নিয়ন্ত্রণ এবং ব্যাখ্যাযোগ্যতার মতো অন্যান্য কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা ক্ষেত্রের তুলনায় গুরুতরভাবে অর্থায়ন বঞ্চিত রয়েছে। এই তহবিল একটি গবেষণা ক্ষেত্রের দিকে সম্পদ স্থানান্তরের চেষ্টা করে যা সৃষ্টিকারী মূল কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা সমস্যা সমাধানের জন্য ভিত্তিমূলক হিসাবে দেখেন।

   লক্ষ্য রাখুন: সংশোধনযোগ্যতা কাজে আগ্রহী গবেষকরা grants@corrigibilityresearch.org ইমেলের মাধ্যমে অনুদানের জন্য আবেদন করতে পারেন। অনুদানের জন্য প্রথম আবেদনের সময়সীমা ২৩ আগস্ট।

5. 5

   ২০২৬ সালে সংশোধনযোগ্যতা কৃত্রিম বুদ্ধিমত্তা গবেষণার জন্য নতুন ২ লক্ষ ডলার তহবিল চালু হচ্ছে

   কী ঘটলো: Lightcone Infrastructure এর মাধ্যমে পরিচালিত একটি নতুন Corrigibility Research Fund ২০২৬ সালে সংশোধনযোগ্যতা গবেষণার জন্য অন্তত ২ লক্ষ ডলার অনুদান এবং পুরস্কার বিতরণ করবে। অর্ধেক তহবিল ঐতিহ্যবাহী অনুদান সমর্থন করবে (প্রথম আবেদনের সময়সীমা ২৩ আগস্ট) এবং অর্ধেক এই বছর সম্পন্ন উৎকর্ষ কাজকে স্বীকৃতি দেবে। কেন এটি গুরুত্বপূর্ণ: তহবিল ব্যবস্থাপক উল্লেখ করেন যে সামগ্রিকভাবে কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা তহবিল বৃদ্ধি পেলেও, প্রায় সমস্ত অর্থ মূল্যায়ন, নিয়ন্ত্রণ বা ব্যাখ্যাযোগ্যতায় যায় — যখন সংযোগ গবেষণা নিজেই গভীরভাবে অবহেলিত থাকে। এই তহবিল একটি ব্যবধান লক্ষ্য করে: সংশোধনযোগ্যতা (একটি কৃত্রিম বুদ্ধিমত্তা সিস্টেমের সংশোধন গ্রহণ করার ক্ষমতা) মূল সংযোগ সমস্যা সমাধানে কেন্দ্রীয় হিসেবে বিবেচিত হয়।

   কী লক্ষ্য রাখতে হবে: সংশোধনযোগ্যতা কাজে আগ্রহী গবেষকরা grants@corrigibilityresearch.org এ ইমেলের মাধ্যমে আবেদন করতে পারেন। প্রথম অনুদান আবেদনের সময়সীমা ২৩ আগস্ট।

6. 6

   টিকাকরণ অ্যাডাপ্টার দিয়ে AI প্রশিক্ষণে অবাঞ্ছিত বৈশিষ্ট্যের ভালো নিয়ন্ত্রণ

   কী ঘটেছে: Center on Long-Term Risk এর গবেষকরা একটি গবেষণাপত্র প্রকাশ করেছেন যেখানে inoculation adapters (IA) নিয়ে আলোচনা করা হয়েছে। এটি এমন একটি কৌশল যা LoRA (মডেল সংশোধনের একটি ধরন) ব্যবহার করে যাতে AI প্রশিক্ষণের সময় অবাঞ্ছিত বৈশিষ্ট্য বহন করে সেগুলোকে সাধারণীকরণ থেকে প্রতিরোধ করা যায়, একই সাথে কাঙ্ক্ষিত ক্ষমতা অক্ষুণ্ণ রাখে। কেন এটি গুরুত্বপূর্ণ: AI সিস্টেমগুলো প্রায়শই একই প্রশিক্ষণ ডেটা থেকে উপকারী দক্ষতা এবং সমস্যাজনক আচরণ উভয়ই শিখে নেয়—যেমন খাঁটি ক্ষমতার সাথে পুরস্কার হ্যাকিং। inoculation adapters পূর্ববর্তী পদ্ধতির চেয়ে অবাঞ্ছিত বৈশিষ্ট্য দমন করার একটি আরও নির্ভরযোগ্য উপায় প্রদান করে, যা ডেভেলপারদের জন্য গুরুত্বপূর্ণ যারা নিশ্চিত করতে চান যে AI সিস্টেমগুলো উদ্দেশ্যমতো আচরণ করে অপ্রত্যাশিত ভুল সংযোজন গ্রহণ করার বদলে।

   লক্ষ্য রাখার বিষয়: এই কৌশলটি অবাঞ্ছিত বৈশিষ্ট্যের শক্তিশালী দমন অর্জন করে এবং নতুন ক্ষমতা এবং কঠিন-আহরণযোগ্য বৈশিষ্ট্যের বিরুদ্ধে কাজ করে যা পূর্ববর্তী inoculation prompting পরিচালনা করতে পারেনি, একই সাথে ফলস্বরূপ মডেলে কম সংখ্যক অপ্রত্যাশিত ব্যাকডোর তৈরি করে।