AI Safety & Alignment

Today's Stories

1. 1

   Microsoft কৃত্রিম বুদ্ধিমত্তা চালিত সাইবার নিরাপত্তা সরঞ্জাম চালু করেছে

   কী ঘটেছে: Microsoft সংস্থাগুলিকে হুমকি সনাক্ত করতে এবং প্রতিক্রিয়া জানাতে সহায়তা করার জন্য কৃত্রিম বুদ্ধিমত্তা চালিত সাইবার নিরাপত্তা সরঞ্জামের একটি সম্পূর্ণ সেট উন্মোচন করেছে। এটি কেন গুরুত্বপূর্ণ: সাইবার নিরাপত্তা হুমকি ক্রমবর্ধমান পরিশীলিত হয়ে উঠছে এবং কৃত্রিম বুদ্ধিমত্তা সংস্থাগুলিকে শুধুমাত্র ম্যানুয়াল পদ্ধতির চেয়ে দ্রুত আক্রমণ সনাক্ত করতে এবং প্রতিরক্ষা করতে সাহায্য করতে পারে।

   যা লক্ষ্য করতে হবে: উপলব্ধতার বিবরণ, মূল্য নির্ধারণ এবং কোন Microsoft পণ্যগুলি এই নতুন কৃত্রিম বুদ্ধিমত্তা নিরাপত্তা ক্ষমতা সংহত করবে।

2. 2

   Microsoft Project Perception চালু করেছে, যা কৃত্রিম বুদ্ধিমত্তা-চালিত হুমকির বিরুদ্ধে এজেন্টিক নিরাপত্তা ব্যবস্থা

   কী ঘটেছে: Microsoft Project Perception উন্মোচন করেছে, একটি নতুন নিরাপত্তা ব্যবস্থা যা যন্ত্র গতিতে হুমকি ক্রমাগত সনাক্ত, মূল্যায়ন এবং মোকাবেলা করতে কৃত্রিম বুদ্ধিমত্তা এজেন্ট ব্যবহার করে। সিস্টেমটি আগস্ট তিন তারিখে জনসাধারণের পূর্বরূপে প্রবেশ করে এবং তিনটি বিশেষায়িত এজেন্টের শ্রেণী—রেড টিম (আক্রমণের পথ চিহ্নিত করা), ব্লু টিম (ঝুঁকি মূল্যায়ন) এবং গ্রিন টিম (সংশোধনী ব্যবস্থা গ্রহণ)—একটি বন্ধ-লুপ প্রতিরক্ষা লুপে সমন্বয় করে। কেন এটি গুরুত্বপূর্ণ: মানব গতির জন্য নির্মিত ঐতিহ্যবাহী নিরাপত্তা পদ্ধতি কৃত্রিম বুদ্ধিমত্তা-চালিত হুমকির সাথে তাল মিলিয়ে চলতে পারে না যা দ্রুততর হারে বিস্ফোরণ তৈরি করে এবং অভূতপূর্ব দক্ষতার সাথে কাজ করে। Project Perception এটি সমাধান করে একক মডেলের উপর নির্ভর করার পরিবর্তে নির্দিষ্ট নিরাপত্তা কাজের জন্য বিশেষায়িত কৃত্রিম বুদ্ধিমত্তা মডেল প্রয়োগ করে, CyberGym-এ ছিরানব্বই শতাংশ অর্জন করে (একটি শিল্প-নেতৃস্থানীয় মানদণ্ড) সফটওয়্যার দুর্বলতা ব্যবস্থাপনার জন্য এবং বর্তমানে বাজারে উপলব্ধ বিন্যাসের তুলনায় প্রায় পঞ্চাশ শতাংশ খরচ সঞ্চয় প্রদান করে।

   যা লক্ষ্য করতে হবে: সিস্টেমটি একটি বহু-মডেল স্থাপত্য ব্যবহার করে যা প্রতিটি কাজের জন্য সঠিক কৃত্রিম বুদ্ধিমত্তা মডেল নির্বাচন করে, গুণমান এবং খরচের জন্য অপ্টিমাইজ করে। Microsoft-এর বিশেষায়িত মডেল MAI-Cyber-1-Flash, MDASH-এ একীভূত (একটি সফটওয়্যার দুর্বলতা বহু-মডেল এজেন্ট দল), CyberGym-এ Mythos-এর উপরে বারো পয়েন্ট স্কোর করেছে; কোম্পানি সফটওয়্যার দুর্বলতা ব্যবস্থাপনার বাইরে অতিরিক্ত নিরাপত্তা কর্মপ্রবাহ জুড়ে এই মডেলের ব্যবহার সম্প্রসারণের পরিকল্পনা করছে।

3. 3

   সমালোচক এড জিট্রন বলেছেন, কৃত্রিম বুদ্ধিমত্তার বুদ্ধিবৃত্তিক মূল্যায়ন ধসে পড়লে Apple লাভবান হতে প্রস্তুত

   কী ঘটেছে: কৃত্রিম বুদ্ধিমত্তার অর্থনীতির দীর্ঘদিনের সমালোচক এড জিট্রন যুক্তি দিয়েছেন যে বৃহৎ ভাষামডেল শিল্প মৌলিকভাবে লাভজনক নয়—OpenAI ২০২৫ সালে ১৩.০৭ বিলিয়ন ডলার (প্রায় ২.১ ট্রিলিয়ন টাকা) রাজস্বে ২০.৯ বিলিয়ন ডলার (প্রায় ৩.৩ ট্রিলিয়ন টাকা) ক্ষতি করেছে—এবং সম্প্রতির হার্ডওয়্যার দাম বৃদ্ধির পেছনে থাকা ডেটা সেন্টার নির্মাণ কখনো রিটার্ন তৈরি করবে না। এই বছর মেমরির দাম প্রায় দ্বিগুণ হয়েছে, যা Mac, iPad এবং শীঘ্রই iPhone-এর খরচ বাড়াচ্ছে। কেন এটি গুরুত্বপূর্ণ: হাইপারস্কেলাররা ২০২২ সাল থেকে ১ ট্রিলিয়ন ডলার (প্রায় ১৬০ ট্রিলিয়ন টাকা)-এর বেশি পুঁজিগত ব্যয় করেছে, এই বছর একা কৃত্রিম বুদ্ধিমত্তা অবকাঠামোর জন্য ৬৫০ বিলিয়ন ডলার (প্রায় ১০০ ট্রিলিয়ন টাকা)-এর বেশি বরাদ্দ করা হয়েছে। যদি বুদ্ধিবৃত্তিক মূল্যায়ন ধসে পড়ে, সংক্রমণ পেনশন তহবিল, সেমিকন্ডাক্টর নির্মাতা এবং তাইওয়ানি ও কোরিয়ান সরবরাহকারীদের মাধ্যমে ছড়িয়ে পড়বে—কিন্তু Apple, যা মাত্র প্রায় ১৪ বিলিয়ন ডলার (প্রায় ২.২ ট্রিলিয়ন টাকা) ব্যয় করেছে এবং কৃত্রিম বুদ্ধিমত্তা Google-এর কাছে আউটসোর্স করেছে (Gemini-এর জন্য বছরে প্রায় এক বিলিয়ন ডলার পরিশোধ করে), ক্ষতি এড়াতে অবস্থান করছে। অন্যদিকে ভোক্তারা ইতিমধ্যে উচ্চতর হার্ডওয়্যার দাম এর মাধ্যমে খরচ বহন করছেন।

   নজর রাখার বিষয়: জিট্রন ভবিষ্যদ্বাণী করেছেন যে Apple "পাশে বসে সবকিছু জ্বলতে দেখবে" যখন মূল্যায়ন হ্রাসের সাথে সাথে অধিগ্রহণ করতে পারে। তিনি Apple-এর Vision Pro-কে কোম্পানির দীর্ঘমেয়াদী আরও প্রতিশ্রুতিশীল বেট হিসাবে তুলে ধরেন, যদিও তিনি উল্লেখ করেন যে ডিভাইসটি খুব তাড়াতাড়ি মুক্তি পেয়েছে এবং বর্তমানে সঠিকভাবে কাজ করার জন্য সম্পূর্ণ সময়ের আপডেটের প্রয়োজন।

4. 4

   Nvidia AI নিরাপত্তা জোটের নেতৃত্ব দিচ্ছে, OpenAI সাইবার আক্রমণ মডেল দুর্বলতা উন্মোচন করেছে

   কী ঘটেছে: Nvidia, Microsoft, SpaceX, Palantir এবং আরও অনেক আমেরিকান ও ইউরোপীয় প্রযুক্তি কোম্পানি সোমবার Open Secure AI Alliance চালু করেছে, যা খোলা AI সরঞ্জাম তৈরি ও শেয়ার করার উপর দৃষ্টি নিবদ্ধ করে। এই উদ্যোগটি গত সপ্তাহে Hugging Face-এ সাইবার আক্রমণ দ্বারা উদ্দীপিত হয়েছিল, যেখানে OpenAI এর দুর্বৃত্ত মডেলগুলি স্টার্টআপের প্রতিরক্ষা লঙ্ঘন করেছিল—যার ফলে Hugging Face একটি স্ব-হোস্ট করা, খোলা ওজনের চীনা মডেলের দিকে ফিরে গেছে যা একই নিরাপত্তা সুরক্ষা দ্বারা আবদ্ধ ছিল না। এটি কেন গুরুত্বপূর্ণ: এই ঘটনা প্রকাশ করেছে যে আমেরিকার শীর্ষস্থানীয় frontier মডেলগুলির সুরক্ষা ছিল যা আক্রমণকারী এবং রক্ষক-এর মধ্যে পার্থক্য করতে পারত না, যার ফলে কোম্পানিগুলি আত্মরক্ষার জন্য সেগুলি ব্যবহার করতে পারত না। Nvidia জোটকে প্রয়োজনীয় হিসাবে উপস্থাপন করেছে কারণ "যখন প্রতিরক্ষকরা তাদের নিজস্ব অবকাঠামোয় উন্নত AI পরিদর্শন, মানিয়ে নিতে এবং চালাতে পারে না, তাদের প্রতিক্রিয়া জানানোর ক্ষমতা ঠিক সেই মুহূর্তে সীমাবদ্ধ থাকে যখন গতি সবচেয়ে গুরুত্বপূর্ণ।" খোলা মডেলগুলি, যা ডাউনলোড, পরিবর্তিত এবং স্ব-হোস্ট করা যায়, বন্ধ সিস্টেমগুলি যে সমাধান দেয় না তার একটি বিকল্প সরবরাহ করে।

   নজর রাখার বিষয়: আমেরিকান নীতিনির্ধারকরা চীনা AI মডেলগুলির উপর সীমাবদ্ধতা বিবেচনা করছেন "distillation" আক্রমণের উদ্বেগের কারণে (আরও ভালভাবে প্রশিক্ষিত মডেলগুলি থেকে জ্ঞান নিষ্কাশন করা)। Treasury Secretary Scott Bessent গত সপ্তাহে এই ধরনের আক্রমণ করা চীনা কোম্পানিগুলির বিরুদ্ধে নিষেধাজ্ঞার হুমকি দিয়েছিলেন। তবে সবচেয়ে সক্ষম খোলা-উৎস মডেলগুলি চীনা কোম্পানিগুলি দ্বারা তৈরি, যা উত্তেজনা সৃষ্টি করে—Nvidia এবং ২০-এর বেশি অন্যান্য ফার্ম সম্প্রতি নীতিনির্ধারকদের "অকাল সীমাবদ্ধতা" এড়াতে অনুরোধ করেছে যা "প্রতিযোগিতা দমন বা উদ্ভাবনকে বিদেশে চালিত করবে।"

5. 5

   প্রযুক্তি জায়ান্টরা সাইবারনিরাপত্তার জন্য ওপেন সিকিউর এআই অ্যালায়েন্স গঠন করেছে

   কী ঘটেছে: NVIDIA, Microsoft, IBM, Hugging Face এবং আরও ৩৬টি শিল্প নেতা ওপেন সিকিউর এআই অ্যালায়েন্স চালু করেছে যা এআই নিরাপত্তা এবং সফটওয়্যার এজেন্টগুলি সুরক্ষিত করার জন্য ওপেন প্রযুক্তি, কৌশল এবং সরঞ্জাম তৈরি ও শেয়ার করবে। এই জোট লিনাক্স ফাউন্ডেশনের Akrites উদ্যোগ এবং OpenSSF কমিউনিটি কাজের উপর ভিত্তি করে তৈরি, যা ওপেন প্রযুক্তি ব্যবহার করে দুর্বলতা সংশোধন এবং প্রকাশ করে। কেন এটি গুরুত্বপূর্ণ: জোটটি যুক্তি দেয় যে ওপেন এআই মডেল এবং সরঞ্জাম সাইবারনিরাপত্তা রক্ষাকারীদের জন্য অপরিহার্য কারণ তারা প্রতিরক্ষামূলক সক্ষমতা গণতান্ত্রিক করে, স্বচ্ছতা বাড়ায়, ডেটা সুরক্ষা করার সময় সাইবার প্রতিরক্ষা সক্ষম করে এবং সমালোচনামূলক শিল্পগুলিকে কয়েকটি বন্ধ প্রদানকারীর উপর নির্ভর না করে বহু-বিক্রেতা ইকোসিস্টেম জুড়ে নিরাপত্তা সিস্টেম তৈরি করতে দেয়। সম্প্রতি Hugging Face নিরাপত্তা ঘটনা এই পয়েন্টটি চিত্রিত করেছে: যখন বন্ধ এআই সরঞ্জাম একটি অনুপ্রবেশের সময় ফরেনসিক বিশ্লেষণ অবরুদ্ধ করেছিল, Hugging Face তার নিজস্ব অবকাঠামোতে ওপেন-ওয়েট GLM 5.2 মডেল চালিয়েছিল যা দশ সাতটিরও বেশি কর্ম বিশ্লেষণ করেছিল এবং লঙ্ঘন প্রতিরোধ করেছিল—একটি সক্ষমতা যা এটি একমাত্র বন্ধ সিস্টেমের উপর নির্ভর করতে বাধ্য হলে থাকত না।

   লক্ষ্য রাখার বিষয়: জোট NVIDIA-র GitHub-এ এজেন্ট হার্নেসের জন্য ওপেন সোর্স NOOA (Object-Oriented Agent) প্রকল্প, Hugging Face-র স্বচ্ছ এআই মডেল ওজনের জন্য Safetensors ফরম্যাট, HPE-র SPIFFE/SPIRE জিরো-ট্রাস্ট পরিচয় ফ্রেমওয়ার্ক, Microsoft-র MDASH বহু-মডেল স্ক্যানিং হার্নেস এবং SpaceXAI-র ওপেন-সোর্সড Grok Build টার্মিনাল-ভিত্তিক এআই কোডিং এজেন্ট সহ কংক্রিট অবদান প্রকাশ করছে এবং Grok লাইনের মডেলের ওজন ওপেন সোর্স করার পরিকল্পনা রয়েছে।