AI Safety & Alignment

Today's Stories

1. 1

   CHIVE টুল দেখায় যে LLM ইন্টারপ্রেটেবিলিটি পদ্ধতিগুলি আচরণ পূর্বাভাস দেয় না

   কী ঘটেছে: গবেষকরা CHIVE চালু করেছেন, একটি এজেন্টিক পাইপলাইন যা বাস্তব-বিশ্বের সেটিংসে অপ্রত্যাশিত LLM (কৃত্রিম বুদ্ধিমত্তা ভাষা মডেল) আচরণ আবিষ্কার করে এবং কাউন্টারফ্যাক্চুয়াল প্রম্পট সম্পাদনের মাধ্যমে সেগুলি ব্যাখ্যা করে। মূল্যায়ন করার সময়, অ্যাক্টিভেশন-রিডিং ইন্টারপ্রেটেবিলিটি টুলগুলি—যা AI মডেলগুলি অভ্যন্তরীণভাবে কীভাবে কাজ করে তা বুঝতে লক্ষ্য রাখে—কোনও উন্নতি প্রদান করেনি: এই টুলগুলি ব্যবহারকারী এজেন্টগুলি পরীক্ষার ফলাফল পূর্বাভাস দিয়েছে শুধুমাত্র ট্রান্সক্রিপ্ট পড়া এজেন্টগুলির মতোই। কেন এটি গুরুত্বপূর্ণ: এই আবিষ্কারটি AI ইন্টারপ্রেটেবিলিটি গবেষণার একটি মূল অনুমানকে চ্যালেঞ্জ করে—যে একটি মডেলের অভ্যন্তরীণ অবস্থা পড়ার জন্য ডিজাইন করা টুলগুলি এর আচরণ পূর্বাভাস এবং ব্যাখ্যা করতে সাহায্য করবে। যদি এই টুলগুলি সাধারণ পর্যবেক্ষণের তুলনায় কোনও পূর্বাভাসের সুবিধা প্রদান না করে, তাহলে ভাষা মডেলগুলি কেন আচরণ করে তা বোঝার জন্য তাদের উপযোগিতা অপ্রমাণিত থাকে।

   পর্যবেক্ষণ করার বিষয়: গবেষণায় আরও দেখা গেছে যে প্রম্পট সম্পাদনগুলি LLM আচরণ কীভাবে পরিবর্তন করে তা পূর্বাভাস দেওয়ার জন্য প্রশিক্ষিত মডেলগুলি ধারণকৃত সেটিংসে সাধারণীকরণ করে, যা পরামর্শ দেয় যে এই পূর্বাভাস কাজটি নিজেই বিদ্যমান ইন্টারপ্রেটেবিলিটি পদ্ধতির চেয়ে মডেল প্রতিক্রিয়া বোঝার একটি আরও নির্ভরযোগ্য উপায় হতে পারে।

2. 2

   OpenAI-এর Scott Aaronson AI টেক্সট ওয়াটারমার্কিং এ সমাধান খুঁজে পেয়েছেন—বিনামূল্যে এবং অদৃশ্য

   কী ঘটেছে: OpenAI-তে কাজ করার সময় Scott Aaronson এবং Hendrik Kirchner একসাথে AI টেক্সটের জন্য একটি ওয়াটারমার্কিং পদ্ধতি তৈরি করেছেন। এই কৌশলটি একটি গোপনীয় চাবি থেকে উদ্ভূত একটি ব্যক্তিগত সিউডো-র্যান্ডমনেস উৎস ব্যবহার করে AI-এর আউটপুটে একটি লুকানো পরিসংখ্যানিক স্বাক্ষর এম্বেড করে, তারপর পরিমাপ করে যে পাঠ্য সেই উৎসের সাথে কতটা ভালভাবে মেলে অন্যদের বিপরীতে। কেন এটি গুরুত্বপূর্ণ: ওয়াটারমার্ক আউটপুট গুণমানে কোনো ব্যবহারিক প্রভাব ফেলে না—মানুষ মোটেও কোনো পার্থক্য বুঝতে পারে না—এবং প্রয়োগ করা প্রায় খরচ মুক্ত। এটি যাচাই করার একটি উপায় প্রদান করে যে পাঠ্য একটি নির্দিষ্ট AI মডেল থেকে এসেছে কিনা, ব্যবহারকারীর অভিজ্ঞতা খারাপ না করে সত্যতার উদ্বেগের সমাধান করে।

   যা নজরে রাখতে হবে: OpenAI একটি API প্রদান করেছে যা যে কাউকে ওয়াটারমার্ক পরীক্ষা করতে দেয়। পদ্ধতিটি প্রযুক্তিগত পর্যালোচনার জন্য উপলব্ধ একটি সম্পূর্ণ পেপারে বিস্তারিতভাবে বর্ণিত।

3. 3

   লিংকডইনে কৃত্রিম বুদ্ধিমত্তা-উৎপন্ন পোস্টের বিরুদ্ধে ১০ লাখেরও বেশি ব্যবহারকারী নতুন বোতামে ফ্ল্যাগ জানিয়েছেন

   কী ঘটল: লিংকডইন ৩০ জুলাই একটি 'এটি এআই স্লপ মনে হয়' বোতাম চালু করেছে, যা পোস্টের তিন-বিন্দু মেনু থেকে অ্যাক্সেসযোগ্য। প্রধান পণ্য অফিসার হরি শ্রীনিবাসন বৃহস্পতিবার জানিয়েছেন যে ইতিমধ্যে দশ লাখেরও বেশি মানুষ এটিতে ক্লিক করেছেন, এবং কোম্পানি এআই পোস্ট সনাক্ত করতে উন্নত শ্রেণিবিভাজক চালু করেছে ও একটি পোস্ট-বর্ধন এআই বৈশিষ্ট্য সরিয়ে দিয়েছে। এটি কেন গুরুত্বপূর্ণ: এই পদক্ষেপটি আসে এআই শনাক্তকারী প্যানগ্রাম খুঁজে পাওয়ার পরে যে লিংকডইনের দীর্ঘ-ফর্ম পোস্টের ৪১ শতাংশ সম্পূর্ণরূপে এআই-উৎপন্ন হিসাবে চিহ্নিত ছিল। লিংকডইনের পদক্ষেপ প্ল্যাটফর্মে এআই-উৎপন্ন সামগ্রীর প্রতি ব্যাপক ব্যবহারকারীর হতাশা প্রতিফলিত করে, এবং প্রাথমিক সংকেত পরামর্শ দেয় যে পরিবর্তনগুলি কাজ করছে—ব্যবহারকারীরা এখন লিংকডইন যা এআই স্লপ হিসাবে শ্রেণীবদ্ধ করে তার উপর মাত্র কয়েক সপ্তাহ আগের তুলনায় ৪০ শতাংশ কম ভিউ অনুভব করছেন।

   যা লক্ষ্য করতে হবে: লিংকডইন একটি নতুন বিজ্ঞপ্তি চালু করছে যা পোস্ট নির্মাতাদের জানাবে যখন 'কিছু সদস্য আমাদের বলেছে এই পোস্টটি এআই মনে হয়।' কোম্পানি প্রচেষ্টাটিকে গঠনমূলক প্রতিক্রিয়া হিসাবে অবস্থান করেছে, শ্রীনিবাসন উল্লেখ করে যে লক্ষ্যটি ব্যবহারকারীদের এআইয়ের মতো শোনা এড়াতে সাহায্য করা।

4. 4

   হ্যাকারদের থামাতে T-Mobile কেবল কাটল; GitHub কৃত্রিম বুদ্ধিমত্তার সাথে বাগের সংযোগ অস্বীকার করল

   কী ঘটেছে: হ্যাকারদের থামাতে T-Mobile একটি কেবল সংযোগ বিচ্ছিন্ন করেছে এবং GitHub প্রকাশ্যে অস্বীকার করেছে যে তার প্ল্যাটফর্মে ঘটা একটি বাগের জন্য কৃত্রিম বুদ্ধিমত্তা দায়ী ছিল। এটি কেন গুরুত্বপূর্ণ: T-Mobile এর জরুরি পদক্ষেপ সক্রিয় নেটওয়ার্ক অনুপ্রবেশের ইঙ্গিত দেয়; GitHub এর বিবৃতি স্পষ্ট করে যে সাম্প্রতিক প্রযুক্তিগত সমস্যাগুলি কৃত্রিম বুদ্ধিমত্তা সিস্টেম দ্বারা সৃষ্ট হয়নি এবং স্বয়ংক্রিয়করণ নিরাপত্তা সম্পর্কে ব্যবহারকারীদের উদ্বেগের সমাধান করে।

   যা পর্যবেক্ষণ করতে হবে: খবরে প্রতিকার বা প্রভাব সম্পর্কে নির্দিষ্ট তারিখ, সময়সীমা বা ভবিষ্যত-মুখী বিবরণ নেই।

5. 5

   Palo Alto Networks Anthropic-এর Claude Mythos 5 ব্যবহার করে AI-চালিত নিরাপত্তা প্রতিরক্ষা স্থাপন করছে

   কী ঘটেছে: Palo Alto Networks-এর Unit 42 তার Frontier AI Exposure Analysis সেবা সম্প্রসারিত করেছে Anthropic-এর Claude Mythos 5 একত্রিত করে, যা একটি উন্নত AI মডেল যা পরীক্ষা করতে ডিজাইন করা হয়েছে যে নিরাপত্তা ঝুঁকিগুলি প্রকৃতপক্ষে কাজে লাগানো যায় কিনা এবং প্রকৃত আক্রমণ পথগুলি যাচাই করে। এটি কেন গুরুত্বপূর্ণ: Frontier AI আক্রমণের সময়সীমা সপ্তাহ থেকে মিনিটে সংকুচিত করেছে, যা প্রতিরক্ষাকারীদের মেশিনের গতিতে কাজ করতে বাধ্য করছে। Unit 42-এর সেবা Claude Mythos 5-কে বিশেষজ্ঞ বিশ্লেষণ এবং হুমকি বুদ্ধিমত্তার সাথে একত্রিত করে প্রশ্নের উত্তর দেয় যা প্রচলিত নিরাপত্তা স্ক্যানার দিতে পারে না—একটি দুর্বলতা কাজে লাগানো যায় কিনা, আক্রমণকারীরা এটি থেকে কী পৌঁছাতে পারে এবং প্রথমে কী ঠিক করতে হবে।

   যা দেখার মতো: Unit 42 একটি বহু-মডেল পদ্ধতি ব্যবহার করে যা প্রতিটি কাজের জন্য উপযুক্ত সবচেয়ে শক্তিশালী AI মডেল প্রয়োগ করে, যা সেবাটিকে কভারেজ উন্নত করতে এবং মডেলগুলি অগ্রগতির সাথে সাথে নতুন ক্ষমতা অন্তর্ভুক্ত করতে দেয়। মানব দক্ষতা কেন্দ্রীয় থাকে, আক্রমণকারী নিরাপত্তা বিশেষজ্ঞ এবং বৈশ্বিক টেলিমেট্রি AI-এর অনুসন্ধানকে অগ্রাধিকার নির্ধারণ করা প্রতিকার পরিকল্পনায় পরিচালনা এবং যাচাই করে।

6. 6

   Marvell AI-এর যুক্তিশক্তির ব্যবধান বাস্তব প্রয়োগে চিহ্নিত করেছে

   কী ঘটেছে: Marvell Technology একটি গবেষণা প্রকাশ করেছে যা AI মডেলগুলি ল্যাবরেটরি বেঞ্চমার্কে কীভাবে কাজ করে এবং বাস্তব প্রয়োগে কীভাবে আচরণ করে তার মধ্যে একটি গুরুত্বপূর্ণ ব্যবধান চিহ্নিত করে, প্রকাশ করে যে মান পরীক্ষা ব্যবহারিক যুক্তিশক্তির ব্যর্থতা ধরতে পারে না। এটি কেন গুরুত্বপূর্ণ: যেহেতু এন্টারপ্রাইজগুলি উচ্চ ঝুঁকিপূর্ণ সিদ্ধান্তের জন্য ক্রমবর্ধমান AI সিস্টেমের উপর নির্ভর করছে, নিয়ন্ত্রিত পরীক্ষার শর্ত এবং প্রকৃত প্রয়োগ কর্মক্ষমতার মধ্যে এই ব্যবধান বোঝা একটি AI সিস্টেম সত্যিকারের বিশ্বাসযোগ্য নাকি কেবল বেঞ্চমার্ক-অপ্টিমাইজড তা মূল্যায়নের জন্য অপরিহার্য।

   কী দেখতে হবে: গবেষণা বাস্তব প্রয়োগের শর্তাবলী বিবেচনা করে এমন নতুন মূল্যায়ন পদ্ধতির প্রয়োজনীয়তা তুলে ধরে, যা উৎপাদন সিস্টেমে প্রতিশ্রুতিবদ্ধ হওয়ার আগে কোম্পানিগুলি AI প্রস্তুতি মূল্যায়ন করার উপায় পুনর্নির্ধারণ করতে পারে।