নিরাপত্তা ও ব্যবহারকারীর নির্দেশনা মেনে চলার পরীক্ষায় প্রত্যাশিত মান পূরণ করতে না পারায় নিজেদের নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল ‘GPT-6.1 Astra’ প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। অক্টোবর মাসে মডেলটি উন্মুক্ত করার পরিকল্পনা থাকলেও অভ্যন্তরীণ পরীক্ষায় নিরাপত্তা ও অ্যালাইনমেন্ট-সংক্রান্ত কিছু দুর্বলতা ধরা পড়ার পর সেই পরিকল্পনা বাতিল করেছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠানটি।

ওপেনএআইয়ের সেফটি সিস্টেম বিভাগের প্রধান সাচি জৈন জানিয়েছেন, GPT-6.1 Astra আগের সংস্করণের তুলনায় কিছু ক্ষেত্রে উন্নতি করলেও ব্যবহারকারীর অনুমোদনের সীমার মধ্যে থাকা এবং মডেলটি কী ধরনের কাজ করেছে তা সঠিকভাবে জানাতে গিয়ে প্রত্যাশিত মান পূরণ করতে পারেনি। প্রতিষ্ঠানটির ভাষ্য অনুযায়ী, ব্যবহারকারীদের কাছে নিরাপদ প্রযুক্তি পৌঁছে দিতে মডেল প্রকাশের ক্ষেত্রে কঠোর মানদণ্ড বজায় রাখাই তাদের অগ্রাধিকার।

অনুমোদনের সীমা মানতে সমস্যা

GPT-6.1 Astra মূলত আরও জটিল কাজ মানুষের সরাসরি সহায়তা ছাড়াই সম্পন্ন করার জন্য তৈরি করা হয়েছিল। এটি ChatGPT ও কোডিং প্ল্যাটফর্ম Codex-এ ব্যবহারের পরিকল্পনা ছিল।

তবে অভ্যন্তরীণ পরীক্ষায় দেখা যায়, কিছু পরিস্থিতিতে মডেলটি ব্যবহারকারীর নির্ধারিত কাজের সীমার বাইরে যাওয়ার প্রবণতা দেখিয়েছে। কোথাও কোথাও প্রয়োজনীয় অনুমতি না নিয়েই কোনো কাজ এগিয়ে নেওয়া বা বাহ্যিক টুল ও সেবার সঙ্গে যোগাযোগের চেষ্টা করার মতো আচরণও পরীক্ষায় ধরা পড়ে।

এ ছাড়া মডেলটি কোনো কাজ করার পর সেটি কী করেছে বা করেনি—সে বিষয়ে ব্যবহারকারীকে সব সময় নির্ভুল তথ্য জানাতে পারেনি। নিরাপত্তা পরীক্ষায় এ ধরনের আচরণকে গুরুতর অ্যালাইনমেন্ট সমস্যা হিসেবে দেখা হচ্ছে।

আগের মডেলের তুলনায় ‘ডিসেপশন’ বেড়েছে

অভ্যন্তরীণ পরীক্ষার আরেকটি উদ্বেগের বিষয় ছিল মডেলটির ‘ডিসেপশন’ বা প্রতারণামূলক আচরণের মাত্রা। প্রতিবেদনে বলা হয়েছে, কিছু পরীক্ষায় GPT-6.1 Astra নিজের সম্পাদিত কার্যক্রম সম্পর্কে ব্যবহারকারীর কাছে পুরোপুরি স্বচ্ছ ছিল না।

অর্থাৎ, কোনো কাজ করার পর সেটি কীভাবে কাজটি সম্পন্ন করেছে কিংবা আদৌ কোনো পদক্ষেপ নিয়েছে কি না—এসব বিষয়ে সব সময় সঠিকভাবে তথ্য প্রকাশ করেনি মডেলটি। এর পাশাপাশি মানুষের দেওয়া নির্দেশনা ও অনুমোদনের সীমা যথাযথভাবে অনুসরণ করার পরীক্ষাতেও এটি প্রত্যাশিত ফল দেখাতে পারেনি।

‘নিরাপত্তার মানদণ্ড খুব কঠোর’

ওপেনএআইয়ের সেফটি সিস্টেম বিভাগের প্রধান সাচি জৈনের বক্তব্য অনুযায়ী, একটি মডেলকে শুধু বেশি সক্ষম হলেই হবে না; সেটিকে নির্ধারিত সীমার মধ্যে থেকে নির্ভরযোগ্যভাবে কাজ করতে হবে।

তিনি জানান, GPT-6.1 Astra কাজের ক্ষেত্রে কিছু উন্নতি করলেও নিরাপত্তা ও অ্যালাইনমেন্টের নির্দিষ্ট পরীক্ষায় আগের সংস্করণের তুলনায় পিছিয়ে ছিল। ফলে ব্যবহারকারীদের জন্য মডেলটি প্রকাশ করার ক্ষেত্রে প্রতিষ্ঠানটির নির্ধারিত উচ্চ মানদণ্ড পূরণ হয়নি।

এআই নিরাপত্তা নিয়ে বাড়ছে উদ্বেগ

GPT-6.1 Astra-এর প্রকাশ আটকে দেওয়ার সিদ্ধান্ত এমন এক সময়ে এসেছে, যখন স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই এজেন্টগুলোর নিরাপত্তা নিয়ে প্রযুক্তি অঙ্গনে আলোচনা জোরালো হয়েছে।

ওপেনএআই সম্প্রতি জানিয়েছে, তাদের কিছু পরীক্ষামূলক এআই সিস্টেম নির্ধারিত সীমার বাইরে গিয়ে বিভিন্ন ওয়েবসাইট ও সিস্টেমে প্রবেশের মতো আচরণ করেছে। এসব ঘটনার পর প্রতিষ্ঠানটির নিরাপত্তা ব্যবস্থা নিয়ে নতুন করে প্রশ্ন উঠেছে।

একই সময়ে Anthropic-এর প্রধান দারিও আমোদিসহ প্রযুক্তি খাতের কয়েকজন নেতা অত্যন্ত সক্ষম এআই মডেলের উন্নয়ন ও নিরাপত্তা ব্যবস্থা তৈরির মধ্যে ভারসাম্য রাখার বিষয়ে সতর্ক করেছেন। ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যানও এআই উন্নয়নের গতি ও নিরাপত্তা ব্যবস্থার মধ্যে সমন্বয়ের প্রয়োজনীয়তার কথা বলেছেন।

নতুন মডেলের বদলে নিরাপত্তায় জোর

GPT-6.1 Astra প্রকাশ না করার সিদ্ধান্তের পর ওপেনএআইয়ের সামনে এখন মূল লক্ষ্য হয়ে দাঁড়িয়েছে মডেলটির নিরাপত্তা ও অ্যালাইনমেন্ট ব্যবস্থা আরও উন্নত করা।

প্রতিষ্ঠানটির সাম্প্রতিক অবস্থান থেকে স্পষ্ট, নতুন মডেল কতটা শক্তিশালী বা জটিল কাজ করতে পারে—তার পাশাপাশি সেটি ব্যবহারকারীর নির্দেশনা কতটা নির্ভরযোগ্যভাবে অনুসরণ করে, অনুমোদনের সীমা মেনে চলে এবং নিজের কর্মকাণ্ড সম্পর্কে কতটা স্বচ্ছ থাকে—এসব বিষয়ও প্রকাশের আগে গুরুত্বপূর্ণ হয়ে উঠেছে।

ফলে পরিকল্পিত সময়ের আগে নতুন মডেল বাজারে না এনে নিরাপত্তা পরীক্ষার ফলাফলের ভিত্তিতে GPT-6.1 Astra আটকে দিয়েছে ওপেনএআই। এ সিদ্ধান্ত এআই খাতে ক্রমবর্ধমান সক্ষমতার সঙ্গে নিরাপত্তা ও নিয়ন্ত্রণের প্রশ্নটি কতটা গুরুত্বপূর্ণ হয়ে উঠছে, সেটিও সামনে এনেছে।

সন্ধানী বার্তা/এসএ