AI Safety & Alignment

Today's Stories

1. 1

   Eva-র কণ্ঠ অভিনেত্রী Ogata কৃত্রিম বুদ্ধিমত্তার অপব্যবহারের মধ্যে কণ্ঠ অধিকার সুরক্ষার আহ্বান জানিয়েছেন

   কী ঘটেছে: Evangelion-এ পরিচিত কণ্ঠ অভিনেত্রী Megumi Ogata অননুমোদিত কৃত্রিম বুদ্ধিমত্তার ব্যবহারের বিরুদ্ধে কণ্ঠ অধিকার সুরক্ষার পক্ষে কথা বলেছেন। কৃত্রিম বুদ্ধিমত্তার দ্বারা অননুমোদিত কণ্ঠ ব্যবহার সম্পর্কে একটি নতুন নির্দেশিকা প্রস্তাব এগিয়ে রাখা হয়েছে। এটি কেন গুরুত্বপূর্ণ: কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি বাস্তবসম্মত কণ্ঠ সংশ্লেষণ সক্ষম করার সাথে সাথে, কণ্ঠ অভিনেতারা তাদের সম্মতি বা ক্ষতিপূরণ ছাড়াই তাদের কণ্ঠ ব্যবহৃত হওয়ার ঝুঁকির সম্মুখীন হচ্ছেন। Ogata-র জনসম্মুখ আহ্বান উৎপাদনশীল কৃত্রিম বুদ্ধিমত্তার যুগে পারফর্মারদের বৌদ্ধিক সম্পত্তি এবং জীবিকা রক্ষার জন্য আইনি সুরক্ষার প্রয়োজনীয়তা তুলে ধরে।

   কী লক্ষ্য রাখতে হবে: কৃত্রিম বুদ্ধিমত্তার কণ্ঠ ব্যবহার নিয়ন্ত্রণের জন্য আনুষ্ঠানিক নির্দেশিকা বিকাশ এবং গ্রহণ নির্ধারণ করবে যে কণ্ঠ অভিনেতারা প্রয়োগযোগ্য সুরক্ষা পান কিনা। এই মানগুলি শিল্প জুড়ে কীভাবে প্রয়োগ করা হয় তা অন্যান্য পারফর্মারদের অধিকার রক্ষার জন্য একটি নজির স্থাপন করতে পারে।

2. 2

   Anthropic-র Mythos AI ইন্টারনেট এনক্রিপশন মানদণ্ডে ত্রুটি খুঁজে পেয়েছে

   কী ঘটেছে: Anthropic-র Claude Mythos Preview AI মডেল পোস্ট-কোয়ান্টাম স্বাক্ষর স্কিম HAWK-এ একটি উন্নত আক্রমণ ৬০ ঘণ্টায় এবং ১ লক্ষ ডলার API খরচে আবিষ্কার করেছে, এবং Advanced Encryption Standard (AES)-র একটি হ্রাসকৃত সংস্করণে একটি নতুন আক্রমণ প্রায় ১ বিলিয়ন টোকেনে এবং প্রায় ১ লক্ষ ডলার খরচে খুঁজে পেয়েছে। HAWK আক্রমণ স্কিমের ভিত্তিতে থাকা গাণিতিক জালিতে একটি আগে অনাবিষ্কৃত প্রতিসাম্য কাজে লাগায়; AES আক্রমণ "Möbius Bridge" নামের একটি নতুন ফিঙ্গারপ্রিন্টিং পদ্ধতি ব্যবহার করে যা পূর্বজ্ঞাত সেরা আক্রমণগুলির চেয়ে ২০০ থেকে ৮০০ গুণ উন্নত। এটি কেন গুরুত্বপূর্ণ: AES বিশ্বের সবচেয়ে বহুল্যবহৃত প্রতিসম এনক্রিপশন মানদণ্ড ডিজিটাল ডেটার জন্য, এবং HAWK হল মার্কিন National Institute of Standards and Technology (NIST) পোস্ট-কোয়ান্টাম মানকীকরণ প্রক্রিয়ায় একটি প্রার্থী। যদিও Anthropic বলে যে এই দুটি আবিষ্কার আজকের ব্যবহৃত সিস্টেমকে প্রভাবিত করে না—HAWK এখনও মানকীভূত নয় এবং AES আক্রমণ সম্পূর্ণ ১০-রাউন্ড স্কিমের পরিবর্তে সংশোধিত ৭-রাউন্ড সংস্করণে প্রযোজ্য—এই আবিষ্কারগুলি প্রদর্শন করে যে AI মডেলগুলি ইন্টারনেট নিরাপত্তার পিছনের মূল অনুমানগুলিকে চ্যালেঞ্জ করতে পারে এবং এমন দুর্বলতা উন্মোচন করতে পারে যা মানব বিশেষজ্ঞরা দুই বছরের পর্যালোচনায় সনাক্ত করেননি।

   লক্ষ্য রাখার বিষয়: Anthropic তার আবিষ্কারগুলি আগাম মার্কিন সরকার এবং শিল্প অংশীদারদের সাথে শেয়ার করেছে এবং স্কিমের লেখকদের সাথে HAWK দুর্বলতার সমন্বিত প্রকাশ পরিচালনা করেছে। Mythos Preview জনসাধারণের জন্য অপ্রাপ্য থাকে। Anthropic এছাড়াও ETH Zurich, Tel Aviv University, এবং University of Haifa-র গবেষকদের সাথে CryptanalysisBench নামের একটি বেঞ্চমার্ক তৈরি করেছে যাতে অন্যরা ভাষা মডেলগুলির ক্রিপ্টিবিশ্লেষণ ক্ষমতা সিস্টেমেটিকভাবে মূল্যায়ন করতে পারে।

3. 3

   Nvidia-এর Huang: AI কাজ খতম করে, চাকরি নয়—'সাদা কলারের রক্তক্ষয়' বর্ণনা প্রত্যাখ্যান করেছেন

   কী ঘটেছে: Nvidia-র সিইও Jensen Huang Y Combinator-র Startup School-এ বলেছেন যে AI অনেক কাজ স্বয়ংক্রিয় করবে কিন্তু সামগ্রিকভাবে চাকরি দূর করবে না। তিনি যুক্তি দিয়েছেন যে একটি চাকরিতে ভাগ করা উদ্দেশ্য নিয়ে একাধিক কাজ থাকে, এবং কিছু কাজ স্বয়ংক্রিয় হলেও চাকরিটি এবং এর উদ্দেশ্য অবশিষ্ট থাকে—বর্ধিত উচ্চাভিলাষ মোকাবেলায় আরও বেশি শ্রমিকের প্রয়োজন তৈরি করে। কেন এটি গুরুত্বপূর্ণ: Anthropic-এর সিইও Dario Amodei এবং OpenAI-র সিইও Sam Altman সহ প্রভাবশালী AI নেতারা ব্যাপক চাকরির বিস্থাপনের সতর্কতা দিয়েছেন—Amodei পূর্বাভাস দিয়েছিলেন যে AI এক থেকে পাঁচ বছরের মধ্যে এন্ট্রি-লেভেল সাদা কলারের চাকরির অর্ধেক দূর করতে পারে এবং বেকারত্ব ২০% পর্যন্ত বৃদ্ধি করতে পারে—কিন্তু উভয়েই সম্প্রতি সেই পূর্বাভাসগুলি প্রত্যাহার করেছেন। Goldman Sachs অনুমান করেছে যে AI-প্রভাবিত শিল্পে প্রতি মাসে এগারো হাজার নেট চাকরি কমানো হচ্ছে, এবং পরবর্তী দশকে মার্কিন কর্মশক্তির প্রায় ৯% (মোটামুটি পনের লক্ষ মানুষ) বিস্থাপিত হতে পারে। Huang-এর ব্যাখ্যা পরামর্শ দেয় যে আসল ফলাফল নির্ভর করে কোম্পানিগুলি কর্মী কমায় নাকি উৎপাদন সম্প্রসারণ করে তার উপর।

   লক্ষ্য রাখার বিষয়: Huang রেডিওলজি কে প্রমাণ হিসেবে নির্দেশ করেছেন। Geoffrey Hinton-এর ২০১৬-এর পূর্বাভাস সত্ত্বেও যে গভীর শিক্ষা পাঁচ বছরের মধ্যে রেডিওলজিস্টদের অপ্রয়োজনীয় করে তুলবে, ২০১০ থেকে ২০২২ পর্যন্ত অনুশীলনকারী রেডিওলজিস্টদের সংখ্যা প্রায় ১২% বৃদ্ধি পেয়েছে, পূর্বাভাস ২০৫৫ সালের মধ্যে অতিরিক্ত ২৫.৭% থেকে ৪০.৩% বৃদ্ধি দেখায়। Huang বৃদ্ধিকে রোগী জমার বৃদ্ধি এবং নার্স এবং পরামর্শদাতা চিকিৎসকদের মতো সম্পর্কিত ভূমিকার চাহিদার জন্য দায়ী করেছেন।

4. 4

   Snowflake স্বায়ত্তশাসিত এজেন্টদের নিয়ন্ত্রণের জন্য AI Gateway চালু করেছে, নিরাপত্তা উদ্বেগ বৃদ্ধির মধ্যে

   কী ঘটেছে: Snowflake Black Hat ২০২৬-এ Cortex AI Gateway ঘোষণা করেছে, যা একটি কেন্দ্রীভূত নিয়ন্ত্রণ স্তর যা Natoma (একটি MCP গেটওয়ে) সংহত করে AI এজেন্টদের কীভাবে মডেল, ডেটা এবং এন্টারপ্রাইজ সরঞ্জাম অ্যাক্সেস করে তা পরিচালনা করতে। কোম্পানিটি এজেন্ট আইডেন্টিটি, সীমাবদ্ধ সেশন স্কোপ, নেটিভ AI নিরাপত্তা ভঙ্গিমা ব্যবস্থাপনা এবং মাল্টি-পার্টি অনুমোদনের মাধ্যমে র‍্যানসমওয়্যার সুরক্ষা সহ বেশ কয়েকটি নিরাপত্তা বৈশিষ্ট্য সাধারণ প্রাপ্যতা বা জনসাধারণের পূর্বরূপে নিয়ে গেছে। কেন এটি গুরুত্বপূর্ণ: The Linux Foundation-এর ২০২৬ স্টেট অফ টেক ট্যালেন্ট রিপোর্ট অনুযায়ী AI নিরাপত্তা উদ্বেগ ২০২৪-এ ১৭ শতাংশ থেকে ২০২৬-এ ৪৮ শতাংশে লাফিয়ে উঠেছে, যখন সংস্থাগুলির ৯৭ শতাংশ AI বাস্তবায়নে প্রতিশ্রুতিবদ্ধ কিন্তু ৫৭ শতাংশ নিরাপত্তা এবং ঝুঁকি ব্যবস্থাপনায় উল্লেখযোগ্য ক্ষমতার ব্যবধানের সম্মুখীন। স্বায়ত্তশাসিত এজেন্টগুলি ডেটা অ্যাক্সেস, সিস্টেম সম্পাদন এবং ডেটা আন্দোলন একত্রিত করে এন্টারপ্রাইজ আক্রমণ পৃষ্ঠকে নাটকীয়ভাবে প্রসারিত করেছে; প্রয়োগ-স্তরের সংশোধনের একটি বৈচিত্র্যময় সমাহার আর যথেষ্ট নয়, যা ডেটা এবং নিয়ন্ত্রণ প্লেনে নির্মিত নিরাপত্তা অত্যন্ত গুরুত্বপূর্ণ করে তোলে।

   লক্ষ্য রাখার বিষয়: Cortex AI Gateway তিনটি মূল ক্ষমতা প্রদান করে—নিয়ন্ত্রণ (একটি একক এন্ডপয়েন্ট থেকে অ্যাক্সেস প্রদান, সীমাবদ্ধ এবং অডিট করুন), দৃশ্যমানতা (অডিট ট্রেইলের জন্য রিয়েল সময়ে এজেন্ট পদক্ষেপ ক্যাপচার করুন) এবং খরচ ব্যবস্থাপনা (স্বয়ংক্রিয়ভাবে খরচ এবং লেটেন্সির উপর ভিত্তি করে অনুরোধ রুট করুন)। বেশিরভাগ বৈশিষ্ট্য ব্যক্তিগত পূর্বরূপে রয়েছে, কিছু সাধারণ প্রাপ্যতার দিকে এগিয়ে যাচ্ছে; এন্টারপ্রাইজগুলি Black Hat USA ২০২৬-এ বুথ #৮২০৬ পরিদর্শন করতে পারে প্রদর্শনের জন্য।

5. 5

   প্রোগ্রামার মাসব্যাপী পরীক্ষার পর প্রশ্ন তুলেছেন—কৃত্রিম বুদ্ধিমত্তা সত্যিই কাজে লাগে কিনা

   কী ঘটেছে: দুই হাজার তেইশের মাঝামাঝি থেকে Claude এবং অন্যান্য কৃত্রিম বুদ্ধিমত্তা সরঞ্জাম ব্যবহার করা একজন সফটওয়্যার উন্নয়নকারী তার অভিজ্ঞতা বর্ণনা করেছেন—উৎসাহ থেকে শুরু করে সন্দেহ পর্যন্ত একটি যাত্রা, যেখানে সরঞ্জাম-সহায়তায় কোডিং করা থেকে শুরু করে সম্পূর্ণ প্রকল্প তৈরি করে এমন "এজেন্টিক" কৃত্রিম বুদ্ধিমত্তা এজেন্টে যাওয়া, এবং পরে কেবল কৃত্রিম বুদ্ধিমত্তা-সহায়তায় মস্তিষ্কমন্থনে ফিরে যাওয়া—কারণ উৎপন্ন কোড তাকে তার নির্মাণের কোনো বোঝাপড়া ছাড়াই রেখেছিল। এটি কেন গুরুত্বপূর্ণ: লেখক কৃত্রিম বুদ্ধিমত্তার বাস্তব-বিশ্বের উৎপাদনশীলতা দাবি সম্পর্কে একটি মূল প্রশ্ন তুলেছেন—এমনকি যখন কৃত্রিম বুদ্ধিমত্তা কার্যকর কোড তৈরি করে, তিনি আবিষ্কার করেছেন যে তিনি এটি সংশোধন বা সম্প্রসারণ করতে পারেননি তার মানসিক মডেল শূন্য থেকে পুনর্নির্মাণ না করে, এবং তিনি সন্দেহ করেন যে তিনি কৃত্রিম বুদ্ধিমত্তা ছাড়াই প্রকল্পগুলি শেষ করতে পারতেন। এই অভিজ্ঞতা তার মধ্যে উন্নয়নকারী এবং লেখকদের মধ্যে ব্যাপকতর সন্দেহের প্রতিফলন যারা তাদের নিজস্ব কৃত্রিম বুদ্ধিমত্তা ব্যবহার আলোচনা করছেন।

   লক্ষণীয় বিষয়: লেখক একটি সুনির্দিষ্ট অনুমান উপস্থাপন করেছেন—যে এক দশকে, বড় সংস্থাগুলি সম্ভবত সিদ্ধান্তে পৌঁছাবে যে কৃত্রিম বুদ্ধিমত্তা টোকেন খরচ ন্যায্য করার জন্য যথেষ্ট রিটার্ন অন ইনভেস্টমেন্ট প্রদান করে না, এবং যে উন্নয়নকারীরা প্রযুক্তি পরিত্যাগ করবেন যেভাবে তারা Facebook এর Metaverse প্রস্তাব করেছিলেন, যা একইভাবে রূপান্তরের প্রতিশ্রুতি দিয়েছিল কিন্তু পিছিয়ে দেখলে "অযুক্তিসঙ্গত" প্রমাণিত হয়েছিল।

6. 6

   হোয়াইট হাউসের তাৎক্ষণিক কৃত্রিম বুদ্ধিমত্তা নিয়ন্ত্রণ অপব্যবহারের ঝুঁকিতে, কংগ্রেসকে ব্যবস্থা নিতে হবে

   কী ঘটেছে: ট্রাম্প প্রশাসন প্রকাশিত নিয়ম বা স্বচ্ছ প্রক্রিয়া ছাড়াই কৃত্রিম বুদ্ধিমত্তা মডেল সীমাবদ্ধ করতে এবং অ্যাক্সেস নিয়ন্ত্রণ করতে অনানুষ্ঠানিক ক্ষমতা প্রয়োগ করছে, জাতীয় নিরাপত্তা সংক্রান্ত উদ্বেগ উদ্ধৃত করে। কংগ্রেস বিল উপস্থাপন করেছে—প্রতিনিধি Ted Lieu এবং Nathaniel Moran-এর সাম্প্রতিক দলগত আইনসহ যা কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলিকে 'বিপর্যয়কর ক্ষতি' সৃষ্টিকারী প্রযুক্তির জন্য বন্ধ করার ক্ষমতা বজায় রাখতে প্রয়োজন করে—কিন্তু কোনোটিই উল্লেখযোগ্য গতি অর্জন করেনি। কেন এটি গুরুত্বপূর্ণ: কংগ্রেসীয় তত্ত্বাবধান ছাড়াই, নির্বাহী শাখা কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলিকে মতাদর্শগত লক্ষ্যের জন্য মডেল পরিবর্তন করতে চাপ দিতে পারে এবং বিক্রেতাদের জন্য স্বাধীনভাবে উদ্ভাবনের পরিবর্তে রাষ্ট্রপতির অনুরাগ অর্জনে বিকৃত প্রণোদনা তৈরি করে। স্বচ্ছ মানদণ্ডের অভাব দুর্নীতি শনাক্ত করা কঠিন করে এবং অভূতপূর্ব ক্ষমতা এক ব্যক্তির হাতে কেন্দ্রীভূত করে—একটি গতিবিধি যা গণতান্ত্রিক শাসনের সাথে মৌলিকভাবে বিসঙ্গত।

   পর্যবেক্ষণ করার বিষয়: রাষ্ট্রপতির কৃত্রিম বুদ্ধিমত্তার উপর ক্ষমতা দৃঢ় হওয়ার আগেই কংগ্রেসকে আনুষ্ঠানিক আইনি মানদণ্ড স্থাপন করতে হবে। আলোচিত বিকল্পগুলির মধ্যে রয়েছে অগ্রগামী ল্যাবরেটরিগুলির স্বাধীন অডিট, প্রকাশনার আগে মডেল যাচাই করার জন্য একটি সর্বজনীন নিয়ন্ত্রক, বহুজাতিক মানদণ্ড (Demis Hassabis দ্বারা প্রস্তাবিত), অথবা International Atomic Energy Agency-এর মতো অনুরূপ একটি আন্তর্জাতিক সংস্থা, যেমন OpenAI পরামর্শ দিয়েছে।