কৃত্রিম বুদ্ধিমত্তার ‘পক্ষপাত’: স্বাস্থ্যসেবায় এআই যখন বৈষম্যের হাতিয়ার

কল্পনা করুন, দুজন রোগী একজন পুরুষ, একজন নারী একই ধরনের বুকে ব্যথা নিয়ে হাসপাতালে এলেন। একটি এআই সিস্টেম পুরুষ রোগীর জন্য উচ্চঝুঁকি চিহ্নিত করে তাত্ক্ষণিক ইসিজি পরীক্ষার সুপারিশ করল, কিন্তু নারী রোগীর জন্য তা করল না।

গবেষণায় দেখা গেছে, এমন ঘটনা অকল্পনীয় নয়। এর কারণ? এআই মডেলটি হয়তো এমন হিস্টোরিক্যাল ডেটা দিয়ে ‘প্রশিক্ষিত’ হয়েছে, যেখানে নারীদের হৃদ্‌রোগের উপসর্গ প্রায়ই উপেক্ষা করা হয়েছে বা ভুলভাবে ব্যাখ্যা করা হয়েছে। ফলে এআই সেই ইতিহাসের পক্ষপাত বা ‘বায়াস’ শিখে ফেলেছে এবং বাস্তবে তা পুনরুৎপাদন করছে। এটিই ‘অ্যালগরিদমিক বায়াস’ এআইয়ের একটি অন্ধকার দিক, যা স্বাস্থ্যসেবাকে সমান করার বদলে নতুন বৈষম্যের জন্ম দিতে পারে।

আমার গবেষণার একটি কেন্দ্রীয় উদ্বেগ এই বায়াস মোকাবিলা করা। উদাহরণস্বরূপ, ইসিজিভিত্তিক হৃদ্‌রোগ পূর্বাভাসের জন্য যে মডেলগুলো ওয়ারেবল ডিভাইসে ব্যবহার হয়, সেগুলো প্রায়ই নির্দিষ্ট বয়স, লিঙ্গ বা নৃতাত্ত্বিক গোষ্ঠীর জন্য কম নির্ভুল হয়। আমার একটি গবেষণায়, আমরা ‘ফেয়ারনেস-অ্যাওয়ার রিপ্রেজেন্টেশন লার্নিং’ পদ্ধতি প্রয়োগ করেছি। এই পদ্ধতি এআই মডেলটিকে শেখায় কীভাবে রোগ শনাক্ত করার প্যাটার্ন শিখতে হবে, কিন্তু একই সঙ্গে যেন এটি রোগীর লিঙ্গ বা বয়সের মতো ‘সংবেদনশীল বৈশিষ্ট্যের’ সঙ্গে জড়িত পক্ষপাতমূলক প্যাটার্ন শিখতে না পারে। এটি নিশ্চিত করতে যে মডেলটি সবার জন্যই সমানভাবে কার্যকর।

এ সমস্যা শুধু উন্নত দেশের নয়; বাংলাদেশের জন্যও অত্যন্ত প্রাসঙ্গিক। আমাদের ডেঙ্গু ট্রায়েজ চ্যাটবট থেকে শুরু করে মাতৃস্বাস্থ্য জটিলতা নির্ণয়ের যে এআই টুল তৈরি হচ্ছে, তার প্রতিটিকে হতে হবে সাংস্কৃতিক ও অর্থনৈতিক প্রেক্ষাপটে সংবেদনশীল। উদাহরণস্বরূপ, যদি একটি মডেল শুধু শহুরে, নির্দিষ্ট শিক্ষাগত যোগ্যতাসম্পন্ন জনগোষ্ঠীর ডেটা দিয়ে তৈরি হয়, তবে তা গ্রামীণ বা কম শিক্ষিত নারীদের জন্য ভুল সিদ্ধান্ত দিতে পারে। আমি ‘বাংলাদেশে মাতৃস্বাস্থ্য ঝুঁকি পূর্বাভাসে এক্সপ্লেইনেবল এআই’–বিষয়ক যে প্রকল্পে কাজ করছি, তাতে এই ‘ইন্টারসেকশনাল ফেয়ারনেস’, অর্থাৎ লিঙ্গ, আয়, পরিচয়ের চেয়ে ন্যায্যতা নিশ্চিত করাকেই অগ্রাধিকার দেওয়া হচ্ছে।

এআই কখনোই সম্পূর্ণ ‘নিরপেক্ষ’ হবে না। কারণ, এটি মানুষের তৈরি এবং মানুষের ডেটা থেকে শেখে। তাই আমাদের দায়িত্ব হলো এই পক্ষপাত সচেতনভাবে শনাক্ত করা, পরিমাপ করা এবং কমিয়ে আনা। এ জন্য প্রয়োজন বৈচিত্র্যময় ও অন্তর্ভুক্তিমূলক ডেটা সেট তৈরি, মডেল তৈরির প্রতিটি ধাপে ন্যায্যতা পরীক্ষা এবং নীতিনির্ধারকদের জন্য স্পষ্ট নির্দেশিকা তৈরি। স্বাস্থ্যসেবায় এআইয়ের ভবিষ্যৎ উজ্জ্বল, কিন্তু তা তখনই টেকসই হবে, যখন তা ন্যায়বিচার ও সমতার ভিত্তিতে দাঁড়াবে। আমাদের গবেষণা সেই ভিত্তি মজবুত করতেই নিবেদিত।

লেখক: ফারজানা ইয়াসমিন, ট্রাস্টওয়ার্দি এআই গবেষক, মেশিন লার্নিং বিজ্ঞানী ও ২১তম আন্তর্জাতিক সিআইবিবি কনফারেন্সের (২০২৬) প্রোগ্রাম কমিটির সদস্য। যুক্তরাষ্ট্রের ইউনিভার্সিটি অব টালসা থেকে উচ্চতর শিক্ষা গ্রহণ করেছেন। গবেষণা সম্পর্কে জানতে ভিজিট করুন।