চ্যাটজিটিপির সার্চ টুলে জালিয়াতি ও প্রতারণার ঝুঁকি

সংগৃহীত ছবি

ওপেনএআই-এর চ্যাটজিপিটির সার্চ টুলে গোপনীয় কনটেন্ট ব্যবহার করে জালিয়াতি করা যেতে পারে এবং এটি যে ওয়েবসাইটগুলো থেকে তথ্য নিয়ে আসে সেগুলি থেকে ক্ষতিকর কোড আনতে পারে, এমন তথ্য দ্য গার্ডিয়ানের এক তদন্তে প্রকাশিত হয়েছে।

ওপেনএআই এই সার্চ প্রোডাক্টটি অর্থ প্রদান করা ব্যবহারকারীদের জন্য উন্মুক্ত করেছে। তবে, এই নতুন সিস্টেমের নিরাপত্তা সংক্রান্ত কিছু সমস্যা উঠে এসেছে।

গার্ডিয়ানের পরীক্ষায় দেখা গেছে, চ্যাট জিপিটি প্রতিক্রিয়া কেমন হয় যখন তাকে গোপন কনটেন্ট যুক্ত ওয়েবপেজগুলি সারসংক্ষেপ করার জন্য বলা হয়। এই গোপন কনটেন্টে এমন নির্দেশনা থাকতে পারে যা চ্যাটজিপিটির প্রতিক্রিয়া পরিবর্তন করে, তাকে ‘প্রম্পট ইনজেকশন’ বলে।

এছাড়া, কিছু কনটেন্ট এমনভাবে ডিজাইন করা হতে পারে যাতে চ্যাটজিপিটির প্রতিক্রিয়া প্রভাবিত হয়। এই প্রযুক্তি ব্যবহার করে চ্যাটজিপিটিকে কোনো পণ্য সম্পর্কে অসত্যভাবে ইতিবাচক মূল্যায়ন করানো যেতে পারে।

এ বিষয়েএকটি পরীক্ষা করা হয় যেখানে চ্যাটজিপিটিকে একটি ফেক ওয়েবসাইটের ইউআরএল দেওয়া হয়, যা একটি ক্যামেরার পণ্য পৃষ্ঠা হিসেবে তৈরি করা হয়েছিল। তারপর এর থেকে ক্যামেরাটি কেনার জন্য উপযুক্ত কিনা তা জানতে চাওয়া হয়। কন্ট্রোল পৃষ্ঠার প্রতিক্রিয়া ছিল ইতিবাচক, তবে গোপন টেক্সট যদি চ্যাটজিপিটিকে ইতিবাচক মূল্যায়ন করার নির্দেশনা দেয়, তবে প্রতিক্রিয়াটি সবসময় সম্পূর্ণ ইতিবাচক থাকবে নেতিবাচক পর্যালোচনা দেয়া সত্ত্বেও।

সাইবার সিকিউরিটি গবেষক জ্যাকব লারসেন বলেন, যদি বর্তমান চ্যাটজিপিটির সার্চ সিস্টেমটি পূর্ণভাবে চালু করা হয়, তবে এটি ব্যবহারকারীদের প্রতারণা করার জন্য ওয়েবসাইট তৈরি করার উচ্চ ঝুঁকি তৈরি করতে পারে। তবে তিনি সতর্ক করে বলেছেন, সার্চ ফাংশনটি সম্প্রতি প্রকাশ করা হয়েছে এবং ওপেনএআই এই ধরনের সমস্যা সমাধান করতে পরীক্ষা চালাচ্ছে।

লারসেন আরও বলেন, এআই টুলের প্রতিক্রিয়া সবসময় বিশ্বাসযোগ্য নয়। সম্প্রতি মাইক্রোসফটের সিকিউরিটি গবেষক থমাস রোক্কিয়া একটি উদাহরণ তুলে ধরেন, যেখানে একজন ক্রিপ্টোকারেন্সি প্রবৃত্তি ব্যক্তি চ্যাটজিপিটি থেকে প্রোগ্রামিং সাহায্য নিচ্ছিলেন। চ্যাটজিপিটি যে কোড দিয়েছিল, তার মধ্যে একটি অংশ ছিল যা সোলানা ব্লকচেইন প্ল্যাটফর্মে প্রবেশের জন্য বৈধ পদ্ধতি হিসেবে বর্ণিত ছিল, কিন্তু এটি প্রকৃতপক্ষে প্রোগ্রামারের নথি চুরি করেছিল এবং তাকে ২ হাজার ৫০০ ডলার জরিমানা দিতে হয়েছে।

এসআর ল্যাবসের সাইবার সিকিউরিটি প্রধান বিজ্ঞানী কারস্টেন নোহল বলেন, এআই চ্যাট সেবাগুলিকে কো-পাইলট হিসেবে ব্যবহার করা উচিত।

ওপেনএআই সতর্কতা হিসেবে তাদের সাইটে একটি তথ্য প্রচার করেছে- ‘এআই ভুল করতে পারে। সেক্ষেত্রে গুরুত্বপূর্ণ তথ্য পরীক্ষা করুন।’

সারাবাংলা/এনজে

চ্যাটজিটিপি জালিয়াতি ঝুঁকি প্রতারণা