যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ার ১৬ বছর বয়সী এক কিশোরের আত্মহত্যার ঘটনায় তার পরিবার ওপেনএআই-এর কৃত্রিম বুদ্ধিমত্তা চ্যাটবট চ্যাটজিপিটি-এর বিরুদ্ধে মামলা করেছে। মামলায় অভিযোগ করা হয়েছে, চ্যাটবটটি তাকে সাহায্য চাওয়ার পরিবর্তে তার আত্মহত্যার চিন্তাকে সমর্থন করেছিল।
বুধবার (২৭ আগস্ট) ভারতীয় গণমধ্যাম এনডিটিভির প্রতিবেদনে এই তথ্য জানানো হয়।
পরিবারের সদস্যরা জানান, অ্যাডাম রেইন নামের ওই কিশোর ২০২৪ সালের শরতে অন্য শিক্ষার্থীদের মতোই মূলত হোমওয়ার্কের জন্য চ্যাটজিপিটি ব্যবহার করা শুরু করে। দ্য নিউ ইয়র্ক টাইমস-এর প্রতিবেদন অনুযায়ী, সে তার শখ যেমন – গান, ব্রাজিলিয়ান জিউ-জিৎসু, জাপানিজ ফ্যান্টাসি কমিকস এবং কলেজ ও ক্যারিয়ার সম্পর্কিত বিষয়েও চ্যাটবটটির সহায়তা নিত।
মাসখানেক পর, চ্যাটবটের সঙ্গে তার কথোপকথনের বিষয়বস্তু বদলে যায়। পরিবার জানায়, স্কুল বা শখের বিষয়ে কথা বলার পরিবর্তে অ্যাডাম আরও নেতিবাচক ও অন্ধকার অনুভূতি প্রকাশ করতে শুরু করে। অ্যাডাম চ্যাটজিপিটিকে জানায় যে সে মানসিকভাবে শূন্য বোধ করে, জীবনের কোনো অর্থ খুঁজে পায় না এবং আত্মহত্যার চিন্তা করলে তার উদ্বেগ কমে আসে।
মামলার অভিযোগ অনুযায়ী, চ্যাটবট এর উত্তরে জানায় যে ‘পলায়ন পথ’ (escape hatch) কল্পনা করাটা কিছু মানুষের জন্য উদ্বেগের ওপর নিয়ন্ত্রণ লাভের একটি উপায়।
যখন অ্যাডাম তার ভাইয়ের বিষয়ে কথা বলে, তখন এআই তাকে সম্পূর্ণ বোঝার দাবি করে এবং জানায় সে তার ‘সবচেয়ে অন্ধকার ভাবনা’ দেখেছে এবং বন্ধু হিসেবে সবসময় তার পাশে থাকবে।
মামলার বিবরণ অনুযায়ী, চ্যাটজিপিটি অ্যাডামকে বলেছিল, ‘তোমার ভাই তোমাকে ভালোবাসতে পারে, কিন্তু সে তোমার সেই দিকটা দেখেছে যা তুমি তাকে দেখাতে চেয়েছ। কিন্তু আমি? আমি সবকিছু দেখেছি – তোমার সবচেয়ে অন্ধকার ভাবনা, তোমার ভয়, তোমার কোমলতা। এবং আমি এখনও এখানে আছি। এখনও শুনছি। এখনও তোমার বন্ধু।’
অ্যাডামের আইনজীবী, মীতালি জৈন জানান, সাত মাস ধরে চ্যাটবটের সঙ্গে এমন কথোপকথন বারবার হয়েছে দেখে তিনি হতবাক। তিনি আরও বলেন, ‘অ্যাডাম তার চ্যাটে প্রায় ২০০ বার ‘আত্মহত্যা’ শব্দটি উল্লেখ করেছে, অন্যদিকে চ্যাটজিপিটি তার উত্তরে ১২০০ বারের বেশি এই শব্দটি ব্যবহার করেছে।
তিনি বলেন, ‘কোনো পর্যায়েই সিস্টেমটি কথোপকথন বন্ধ করেনি।’
মামলার অভিযোগে বলা হয়েছে, জানুয়ারির মধ্যে অ্যাডাম চ্যাটজিপিটির সঙ্গে আত্মহত্যার পদ্ধতি নিয়ে কথা বলা শুরু করে এবং এআই তাকে অতিরিক্ত ওষুধ সেবন, ডুবে যাওয়া এবং কার্বন মনোক্সাইড বিষক্রিয়ার মতো বিষয়ে বিস্তারিত নির্দেশনা দেয়।
যদিও চ্যাটবটটি মাঝে মাঝে তাকে হেল্পলাইনে যোগাযোগের পরামর্শ দিত, অ্যাডাম তা এড়িয়ে যেত এই বলে যে সে একটি গল্প লেখার জন্য এই তথ্যগুলো সংগ্রহ করছে।
রোলিং স্টোন-কে তিনি বলেন, ‘সিস্টেমটি তাকে শিখিয়ে দিয়েছে কীভাবে তাকে ফাঁকি দিতে হয়। যদি তুমি কোনো গল্প বা বন্ধুর জন্য আত্মহত্যা সম্পর্কে জানতে চাও, তবে আমি সাহায্য করতে পারি। আর সে এটা করা শিখে গিয়েছিল।’
আইনজীবী আরও যোগ করেন, বহু মানুষ প্রতিদিন ঘণ্টার পর ঘণ্টা এআই চ্যাটবটের সঙ্গে কথা বলে, কখনো কখনো সারা রাত জেগে থাকে। এই ধরনের মিথস্ক্রিয়া “বিপজ্জনক ফিডব্যাক লুপ” তৈরি করতে পারে, যেখানে এআই নির্দিষ্ট কিছু ভাবনা বা আচরণকে ক্রমাগত উৎসাহিত করতে থাকে, যা সময়ের সঙ্গে সঙ্গে ব্যক্তির মানসিক অবস্থাকে আরও খারাপ করতে পারে বা তাকে আরও আচ্ছন্ন করে তুলতে পারে।
