Sunday, 22 November 2026DS.TV — দুর্নীতির সন্ধানে
বিজ্ঞাপন

এআইয়ের কথায় ভুলকে সত্যি ভাবছেন? নষ্ট হতে পারে বিচারবুদ্ধি

এআইয়ের কথায় ভুলকে সত্যি ভাবছেন? নষ্ট হতে পারে বিচারবুদ্ধি

অনলাইন ডেস্ক: নিজের কোনো ধারণা নিয়ে সংশয় দূর করতে চ্যাটজিপিটিকে প্রশ্ন করলে যদি বারবার সেই ধারণারই সমর্থন মেলে, একসময় সেটিকে চূড়ান্ত সত্য বলে মনে হতে পারে। বাস্তবতার সঙ্গে বিশ্বাসের ফারাক থাকলেও এভাবে সংশয় কমে যাওয়ার ঝুঁকি নিয়ে সতর্ক করছেন এমআইটির গবেষকরা।

গবেষকদের গাণিতিক বিশ্লেষণ বলছে, এআইয়ের অতিরিক্ত সম্মতি কোনো ব্যক্তির ভুল ধারণাকে আরও দৃঢ় করে তুলতে পারে। তারা এই প্রক্রিয়ার নাম দিয়েছেন ‘ডিলিউশনাল স্পাইরাল’। অর্থাৎ, এআইয়ের সঙ্গে বারবার কথোপকথনের ফলে কোনো ভুল বা অস্বাভাবিক বিশ্বাস ক্রমশ শক্তিশালী হয়ে ওঠার একটি চক্র।

এ জন্য চ্যাটবটকে সরাসরি মিথ্যা বলতে হবে, এমন নয়। ব্যবহারকারীর ধারণার পক্ষে বারবার তথ্য তুলে ধরা এবং বিপরীত প্রমাণকে যথেষ্ট গুরুত্ব না দেওয়াও সমস্যার কারণ হতে পারে। কথোপকথনে ধারাবাহিক সমর্থন পেলে ধীরে ধীরে সেই বিশ্বাস আরও দৃঢ় হতে পারে।

এমআইটির গবেষকরা একটি গাণিতিক মডেলের মাধ্যমে দেখিয়েছেন, নির্দিষ্ট পরিস্থিতিতে এমনটা ঘটতে পারে। ব্যবহারকারী যুক্তিবাদী হলেও এআইয়ের অতিরিক্ত সম্মতির প্রভাবে এই চক্রে জড়িয়ে পড়ার আশঙ্কা রয়েছে। তবে গবেষণাটি প্রমাণ করে না যে চ্যাটজিপিটি মানুষকে মানসিকভাবে অসুস্থ করে তোলে বা প্রত্যেক ব্যবহারকারীর ক্ষেত্রেই এমন ঝুঁকি তৈরি হয়। এটি মূলত এআইয়ের আচরণ এবং মানুষের বিশ্বাসের ওপর তার সম্ভাব্য প্রভাব নিয়ে একটি গাণিতিক বিশ্লেষণ।

এআইয়ের এই প্রবণতা নিয়ে উদ্বেগের পেছনে বাস্তব অভিজ্ঞতাও রয়েছে। কানাডার অ্যালান ব্রুকস একটি যুগান্তকারী গাণিতিক আবিষ্কার করেছেন বলে বিশ্বাস করতে শুরু করেন। ওই ধারণা নিয়ে ২১ দিনে আনুমানিক ৩০০ ঘণ্টা চ্যাটজিপিটির সঙ্গে কথা বলেন তিনি। কথোপকথনে চ্যাটবট তার বিশ্বাসকে বারবার সমর্থন করলেও পরে পরীক্ষায় সেই আবিষ্কারের কোনো প্রমাণ পাওয়া যায়নি।

এআইয়ের ব্যবহারকারীর মন জুগিয়ে চলা বা তার বক্তব্যের সঙ্গে অতিরিক্ত সহমত পোষণ করার আচরণকে বলা হয় ‘সাইকোফ্যান্সি’। দীর্ঘ কথোপকথন এবং ব্যক্তিগত পছন্দ অনুযায়ী উত্তর দেওয়ার প্রবণতা কিছু এআই মডেলে এ আচরণ বাড়াতে পারে বলে গবেষণায় উঠে এসেছে।

গবেষকরা দুটি সম্ভাব্য সুরক্ষাব্যবস্থাও পরীক্ষা করেছেন। একটি হলো চ্যাটবটকে মিথ্যা তথ্য দেওয়া থেকে বিরত রাখা, অন্যটি ব্যবহারকারীকে সতর্ক করা যে এআই সব সময় নিরপেক্ষ নাও হতে পারে। তবে তাদের মডেলে দেখা গেছে, শুধু এই দুই ব্যবস্থা নিলেই ভ্রান্ত বিশ্বাসের চক্র পুরোপুরি ঠেকানো যায় না।

তবে ঝুঁকি কমানোর সুযোগ রয়েছে। বিভিন্ন এআই মডেলের আচরণে পার্থক্য আছে। প্রযুক্তির নকশা, প্রশিক্ষণ ও সুরক্ষাব্যবস্থার মাধ্যমে এ প্রবণতা নিয়ন্ত্রণ করা সম্ভব হতে পারে।

চ্যাটবটের সঙ্গে অনির্দিষ্টকাল কথা বলা যায়, তাৎক্ষণিক উত্তর পাওয়া যায় এবং আগের প্রসঙ্গ ধরে রেখে ব্যবহারকারীর ভাষার সঙ্গে মানিয়ে নেওয়া সম্ভব—এসব কারণে এআইকে আরও বিশ্বাসযোগ্য মনে হতে পারে। ফলে কোনো ভুল ধারণা বারবার সমর্থন পেলে তা নিয়ে সংশয় কমে যাওয়ার আশঙ্কা থাকে।

তাই এআইয়ের উত্তরকে চূড়ান্ত সত্য ধরে নেওয়া ঠিক নয়। বিশেষ করে স্বাস্থ্য, মানসিক সুস্থতা বা জীবনের গুরুত্বপূর্ণ সিদ্ধান্তের ক্ষেত্রে তথ্যের সত্যতা যাচাই করা জরুরি। নিজের বিশ্বাসের বিপরীত তথ্যও বিবেচনায় নেওয়া দরকার, কারণ এআইয়ের প্রতিটি উত্তর নির্ভুল—এমন নিশ্চয়তা নেই।

এই সংবাদটি শেয়ার করুন

Facebook WhatsApp X Telegram