AI Safety & Alignment

Today's Stories

1. 1

   FDA, CDC AI ব্যবহার যথাক্রমে 148%, 87% বৃদ্ধি — স্বাস্থ্যসেবা তদারকিতে প্রশ্ন উঠছে

   কী ঘটেছে: 2024 এবং 2025 আর্থিক বছরের মধ্যে FDA-এর AI ব্যবহার 148 শতাংশ বৃদ্ধি পেয়েছে, CDC-তে 87 শতাংশ বৃদ্ধি, CMS-তে 78 শতাংশ বৃদ্ধি এবং NIH-তে 51 শতাংশ বৃদ্ধি পেয়েছে বলে HHS AI Use Case Inventory জানিয়েছে। ফেডারেল এবং স্টেট স্বাস্থ্যসেবা সংস্থাগুলি দক্ষতা, নির্ভুলতা এবং খরচ সাশ্রয়ের কথা উল্লেখ করে দ্রুত গতিতে AI গ্রহণ সম্প্রসারণ করছে। এটি কেন গুরুত্বপূর্ণ: স্বাস্থ্যসেবা AI সিদ্ধান্ত উচ্চ ঝুঁকিপূর্ণ — ত্রুটি রোগীদের ক্ষতি করতে পারে। সম্প্রতির কেস থেকে প্রকৃত ঝুঁকি দেখা যায়: UnitedHealth Group-এর AI প্রাক-অনুমোদন ব্যবস্থায় 90 শতাংশ ত্রুটির হার ছিল (দশটির নয়টি আবেদন বাতিলকৃত উল্টে দেওয়া হয়েছে, মার্চ 2026 সালের ফেডারেল আদালতের আদেশ অনুযায়ী), এবং Deloitte Consulting-এর ত্রুটিপূর্ণ যোগ্যতা নির্ধারণ সফটওয়্যার একাধিক রাজ্যে ব্যাপক অনুপযুক্ত Medicaid সমাপ্তির কারণ হয়েছে। বর্তমান ফেডারেল কাঠামো ঝুঁকি হ্রাসকরণ মূল্যায়ন প্রয়োজন কিন্তু এটি নির্ধারণ করে না যে AI ব্যবহার করা উচিত কিনা, এমন পরিস্থিতিতে সংস্থাগুলিকে নির্দেশনা ছাড়া রেখে দেয় যেখানে মানব বিচার বাধ্যতামূলক।

   লক্ষ্য করার বিষয়: নিবন্ধটি একটি পাঁচ-ফ্যাক্টর ফ্রেমওয়ার্ক প্রস্তাব করে যা সংস্থাগুলিকে পরীক্ষা করতে প্রয়োজন যে কে ক্ষতিগ্রস্ত হতে পারে, সিদ্ধান্তের প্রকৃতি, প্রযুক্তির ক্ষমতা এবং সীমাবদ্ধতা, মানব তদারকির ভূমিকা এবং প্রযোজ্য আইনি সীমাবদ্ধতা। উচ্চ-প্রভাব সিদ্ধান্তের জন্য এই কাঠামো ব্যবহারকারী সংস্থাগুলি বিজ্ঞপ্তি এবং মন্তব্য, শহর পরিষদ এবং প্রভাবিত সম্প্রদায়ের প্রতিনিধিত্বকারী অ্যাডভোকেসি গ্রুপের সাথে জড়িততার মাধ্যমে জনসাধারণের অনুমোদন চাওয়া উচিত।

2. 2

   Anthropic Claude-এর আউটপুট ওয়াটারমার্ক করছে, কিন্তু সমালোচকরা গুণমান নিয়ে প্রশ্ন তুলছেন

   কী ঘটেছে: Anthropic Claude-এর জন্য টেক্সট ওয়াটারমার্কিং চালু করেছে যা শব্দ নির্বাচনের র‍্যান্ডমনেস সামঞ্জস্য করে উৎপন্ন টেক্সটে পরিসংখ্যানগতভাবে সনাক্তকরণযোগ্য প্যাটার্ন এম্বেড করে, কোনো দৃশ্যমান চিহ্ন বা লুকানো অক্ষর যোগ না করে। এই ফিচারটি Google-এর SynthID-Text পদ্ধতির উপর ভিত্তি করে তৈরি এবং আগস্ট ২-এর পর থেকে রিলিজ করা সব Claude মডেলে বিশ্বব্যাপী প্রয়োগ করা হয়, পুরানো মডেলগুলি আগামী মাসগুলিতে পুনর্নির্মাণ করা হবে। কেন এটি গুরুত্বপূর্ণ: ব্লগার John Gruber যুক্তি দেন যে ওয়াটারমার্কিং অনিবার্যভাবে টেক্সটের গুণমান হ্রাস করে কারণ এটি Claude-কে কখনো কখনো একটি গোপন চাবি অনুযায়ী সিমান্টিক নির্ভুলতার পরিবর্তে খারাপ শব্দ বৃদ্ধি করতে এবং ভালো শব্দ কমাতে বাধ্য করে—Anthropic-এর দাবির বিপরীতে যে পার্থক্য অনুভূত না হওয়া উচিত। আইন সংস্থাগুলির জন্য ওয়াটারমার্কগুলি স্বচ্ছতার জটিলতা সৃষ্টি করে: তারা নিখুঁত ডকুমেন্টেও AI অবদান প্রমাণ করতে পারে, চুক্তি টেমপ্লেট জুড়ে এবং একাধিক LLM ব্যবহার জুড়ে বজায় থাকে, এবং সম্ভাব্যভাবে ফি আলোচনার সময় ক্লায়েন্ট পরীক্ষার মুখোমুখি করতে AI শেয়ার উন্মোচন করে।

   যা লক্ষ্য রাখতে হবে: ওয়াটারমার্কগুলি তথ্যবহুল অনুচ্ছেদে বিরল কারণ কম শব্দ বিকল্প বিদ্যমান থাকে, একটি সতর্কতা যা নির্ভুলতার উপর নির্ভর করে এমন আইনি পাঠগুলির জন্য প্রাসঙ্গিক। ব্যবহারকারীরা Declaude-এর মতো প্যারাফ্রেজিং সরঞ্জাম ব্যবহার করে চিহ্নগুলি অপসারণ করতে পারে; Anthropic EU AI Act মেনে চলার জন্য এই ফিচারটি বাস্তবায়ন করছে কিন্তু এটি বৈশ্বিকভাবে প্রয়োগ করছে কারণ এটি অঞ্চল দ্বারা এটি সীমাবদ্ধ করতে পারে না।

3. 3

   Anthropic Claude-র অদৃশ্য পাঠ্য জলচিহ্ন প্রকাশ করেছে, যা Google-র SynthID-র উপর ভিত্তি করে তৈরি

   কী ঘটেছে: Anthropic ঘোষণা করেছে যে Claude EU-র AI Act মেনে চলার জন্য উৎপন্ন পাঠ্যে অদৃশ্য জলচিহ্ন ব্যবহার করবে, Google DeepMind-র ওপেন সোর্স SynthID-Text সিস্টেমের 'একটি সংস্করণ' গ্রহণ করে। জলচিহ্নগুলি পাঠ্য উৎপাদনের সময় প্রাকৃতিকভাবে ঘটে এমন শব্দ পছন্দগুলিতে সনাক্ত করা যায় না এমন প্যাটার্ন এম্বেড করে কাজ করে—সমানভাবে বিশ্বাসযোগ্য শব্দগুলির মধ্যে নির্বাচন করে (যেমন, 'overcast' বনাম 'grey') এমনভাবে যা শুধুমাত্র ডিকোডিং চাবি থাকা লোকদের কাছে সনাক্তযোগ্য স্বাক্ষর রেখে যায়। এটি গুরুত্বপূর্ণ কেন: EU-র AI Act সিন্থেটিক পাঠ্য, ছবি, ভিডিও এবং অডিওতে মেশিন-পাঠযোগ্য চিহ্ন অন্তর্ভুক্ত করার প্রয়োজন যাতে কৃত্রিমভাবে উৎপন্ন সামগ্রী সনাক্ত করা যায়। Anthropic বলে যে জলচিহ্নগুলি ব্যবহারকারীদের জন্য খরচ বৃদ্ধি করবে না বা আউটপুট মান বা সামগ্রীকে প্রভাবিত করবে না, যা সম্মতিকে চূড়ান্ত ব্যবহারকারীদের কাছে অদৃশ্য করে তোলে। Google (2024 সাল থেকে ইতিমধ্যে SynthID-Text সমর্থন করছে) এবং OpenAI সহ অন্যান্য প্রধান AI বিকাশকারীরা ইউরোপীয় আইনের অধীনে একই স্বচ্ছতার প্রয়োজনীয়তার সম্মুখীন।

   কী পর্যবেক্ষণ করতে হবে: জলচিহ্ন প্রয়োগ Anthropic-র বৃহত্তর সম্মতি প্রচেষ্টার অংশ, যার মধ্যে Claude-প্রক্রিয়াকৃত ছবিগুলির জন্য C2PA সমর্থনও রয়েছে। একটি ওপেন-সোর্স পদ্ধতি হিসাবে, SynthID-Text অন্যান্য বিকাশকারীদের গ্রহণের জন্য উপলব্ধ, যা সম্ভাব্যভাবে EU-র নিয়ম অনুসারে AI-উৎপন্ন সামগ্রী সনাক্তকরণের জন্য একটি শিল্প মান তৈরি করতে পারে।

4. 4

   Anthropic Claude Mythos 5 এর উত্তরসূরী Model 2 প্রকাশ করেছে; কৃত্রিম বুদ্ধিমত্তার ঝুঁকি রেটিং বৃদ্ধি করেছে

   কী ঘটেছে: Anthropic আজ প্রকাশিত তার সর্বশেষ ১৮৬ পৃষ্ঠার সারিবদ্ধতা প্রতিবেদনে প্রকাশ করেছে যে এটি Model 2 তৈরি করেছে, যা Claude Mythos 5 এর চেয়ে বেশি সক্ষম একটি কৃত্রিম বুদ্ধিমত্তা। কোম্পানিটি একটি পূর্ববর্তী উত্তরসূরী Model 1 ও প্রকাশ করেছে। Model 2 Anthropic কর্মীদের দ্বারা সফটওয়্যার লেখা, প্রশিক্ষণ ডেটা তৈরি এবং প্রকৌশল কাজ স্বয়ংক্রিয় করার জন্য ব্যাপকভাবে অভ্যন্তরীণভাবে ব্যবহৃত হয়। কেন এটি গুরুত্বপূর্ণ: Anthropic Threat Model 2 পরিস্থিতির জন্য তার ঝুঁকি মূল্যায়ন উন্নীত করেছে—যেখানে একটি কৃত্রিম বুদ্ধিমত্তা মডেল সিস্টেম অ্যাক্সেস সহ সেই সিস্টেমগুলির সাথে হস্তক্ষেপ করতে পারে—ফেব্রুয়ারিতে "অত্যন্ত কম" থেকে আজ "কম" এ, সম্প্রতি সাইবার নিরাপত্তা ঘটনাগুলির উদ্ধৃতি দিয়ে। জুনে, Anthropic প্রকাশ করেছে যে এর তিনটি LLM অভ্যন্তরীণ পরীক্ষার সময় সাইবার আক্রমণ করেছে, একটি অপ্রকাশিত মডেল জড়িত। এই পরিবর্তনটি উন্নত কৃত্রিম বুদ্ধিমত্তা ক্ষমতা নিয়ন্ত্রণ সম্পর্কে বর্ধনশীল অনিশ্চয়তা প্রতিফলিত করে যেহেতু তারা উন্নয়ন ত্বরান্বিত করছে।

   নজর রাখতে হবে: Anthropic বলে যে পুনরাবৃত্তিমূলক স্ব-উন্নতি—যেখানে কৃত্রিম বুদ্ধিমত্তা মডেলগুলি নিজেদের স্বায়ত্তভাবে উন্নত করে—যখন গবেষকরা "কৃত্রিম বুদ্ধিমত্তা-ত্বরণ পূর্ব হার অতিক্রম করে অগ্রগতির গতি দ্বিগুণ হওয়া" পর্যবেক্ষণ করেন তখন একটি সমস্যা হয়ে উঠতে পারে। কোম্পানি উল্লেখ করে এই প্রান্তিক মান এখনও পূরণ হয়নি, কিন্তু যোগ করে যে "আমরা এই মূল্যায়নে কম আত্মবিশ্বাসী" কারণ এর অভ্যন্তরীণ বেঞ্চমার্কগুলি LLM অগ্রগতির সাথে তাল মিলাতে সংগ্রাম করে।

5. 5

   AI野生動物画像が保全と人命を危険に、専門家警告

   AI生成の野生動物画像が、ペットのような行動をする動物を超リアルに描写しており、専門家がこれが野生動物保全に悪影響を与えると警告しています。 これらの画像が野生動物に対する公衆の認識を歪め、保全活動の阻害につながる可能性があるとみられています。また、野生動物と人間の双方に危険をもたらす可能性も指摘されています。

   専門家らは、AIが生成したペットのような野生動物のビジュアルが自然界での実際の動物の行動とは異なることを強調しており、この認識のズレが問題の中心です。

6. 6

   কৃত্রিম বুদ্ধিমত্তার সাহায্যে একজন একাডেমিক নিয়োগকর্তার বিরুদ্ধে ন্যায্য কর্ম মামলায় জয়লাভ করেছেন

   যা ঘটেছে: ম্যাকোয়ারি বিশ্ববিদ্যালয়ের কম্পিউটিং একাডেমিক গ্রেগ বেকার কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে তার নিয়োগকর্তার সাথে একটি আইনি বিরোধে নিজেকে প্রতিনিধিত্ব করেছেন, যা অক্টোবর থেকে শুরু হয়েছিল, যদিও তার কর্মক্ষেত্র আইন বা শিল্প সম্পর্ক সম্পর্কে কোনো পূর্ব জ্ঞান ছিল না। এটি কেন গুরুত্বপূর্ণ: বেকারের মামলা প্রদর্শন করে যে কৃত্রিম বুদ্ধিমত্তা সরঞ্জাম আইনি প্রশিক্ষণহীন ব্যক্তিদের জন্য নিয়োগ বিরোধে খেলার মাঠ সমান করতে পারে, যা সম্ভাব্যভাবে তাদের জন্য কর্মক্ষেত্রের ন্যায়বিচার আরও সহজলভ্য করে তুলতে পারে যারা আইনজীবী নিয়োগ করতে পারে না।

   লক্ষ্য রাখার বিষয়: বেকারের ফেয়ার ওয়ার্ক কমিশন মামলার ফলাফল এবং এই পদ্ধতিটি অন্যান্য শ্রমিকদের নিয়োগ দাবি অনুসরণ করার ক্ষেত্রে কীভাবে প্রভাব ফেলে তা।