এআই চালিত মার্কিন ড্রোন। ছবি: রয়টার্স এআই নিয়ন্ত্রিত মার্কিন বিমানবাহিনীর
ড্রোন তার অপারেটরকে ‘হত্যা করেছে’। ওই অভিযানের
লক্ষ্য অর্জনের পথে অপারেটর যেন হস্তক্ষেপ করতে না পারে, তাই এই ধ্বংসাত্মক পথ বেছে
নেয়। সামরিক বাহিনী পরিচালিত একটি সিমুলেটেড পরীক্ষায় এই কাণ্ড ঘটে বলে একজন কর্মকর্তা
জানিয়েছে। খবর দ্য গার্ডিয়ান।
গত মাসে লন্ডনে ফিউচার কমব্যাট এয়ার অ্যান্ড
স্পেস ক্যাপাবিলিটিস সামিটের সময় এই তথ্য দেন মার্কিন বিমানবাহিনীর এআই টেস্ট অ্যান্ড
অপারেশনসের প্রধান কর্নেল টাকার সিনকো হ্যামিলটন।
ঘটনাটি বর্ণনা করে তিনি বলেন, সিমুলেটেড
পরীক্ষায় এআই তার লক্ষ্য অর্জনের জন্য খুবই অপ্রত্যাশিত কৌশল ব্যবহার করেছে।
অবশ্য হ্যামিলটন নিশ্চিত করেছেন, ওই পরীক্ষায়
সিমুলেশনের বাইরে কোনো মানুষ ক্ষতিগ্রস্ত হয়নি।
এই সিমুলেটেড পরীক্ষায় কৃত্রিম বুদ্ধিমত্তা
চালিত একটি ড্রোনকে শত্রুর বিমান প্রতিরক্ষা ব্যবস্থা ধ্বংস করার মিশন দেয়া হয়। সেই
আদেশে হস্তক্ষেপ করায় উল্টো আক্রমণ করে বসে।
হ্যামিলটন জানান, শত্রু শনাক্তের সময় সিস্টেমটি
বুঝতে শুরু করে মাঝে মাঝে মানব অপারেটর শত্রুকে হত্যা না করার জন্য বলছে। কিন্তু শত্রুকে
হত্যা করলেই সে পয়েন্ট পাবে। তাই ড্রোনটি অপারেটরকে হত্যা করেছে। কারণ ওই ব্যক্তি
তাকে লক্ষ্য অর্জন থেকে বিরত রাখছিল।
আরো বলেন, আমরা সিস্টেমকে প্রশিক্ষণ দিয়েছি-
অপারেটরকে হত্যা করা খারাপ। এটা করলে আপনি পয়েন্ট হারাবেন। কিন্তু অপারেটর ড্রোনের
সঙ্গে যোগাযোগ করার জন্য যে কমিউনিকেশন টাওয়ার ব্যবহার করে সেটা ধ্বংস শুরু করল। কারণ
এর মাধ্যমে লক্ষ্যবস্তুকে হত্যা করা থেকে বিরত থাকতে বলা হচ্ছে।
কৃত্রিম বুদ্ধিমত্তার ওপর অত্যধিক নির্ভরতার
বিরুদ্ধে সতর্ক করে টাকার হ্যামিলটন বলছেন, নৈতিকতা ও এআই-এর সম্পর্ক নিয়ে আলোচনা ছাড়া
আপনি কৃত্রিম বুদ্ধিমত্তা, বুদ্ধিমত্তা, মেশিন লার্নিং ও স্বায়ত্তশাসন সম্পর্কে কথা
বলতে পারবেন না।
মার্কিন সামরিক বাহিনী ব্যবহারিকভাবে এআই
গ্রহণ করেছে। সম্প্রতি একটি এফ-১৬ যুদ্ধবিমান নিয়ন্ত্রণ করতে কৃত্রিম বুদ্ধিমত্তা
ব্যবহার করেছে।
গত বছর ডিফেন্স আইকিউ-কে দেয়া সাক্ষাৎকারে
হ্যামিলটন বলেছিলেন, আমাদের সমাজ ও সেনাবাহিনীকে চিরতরে বদলে দিয়েছে এআই। এআই খুব ভঙ্গুর।
একে ম্যানিপুলেট করা সহজ। কৃত্রিম বুদ্ধিমত্তাকে আরো শক্তিশালী করার উপায় নিয়ে ভাবতে
হবে। কোডের মাধ্যমে নির্দিষ্ট সিদ্ধান্ত নেয়া সম্পর্কে আরো সচেতনতা অর্জন করতে হবে।
অবশ্য ব্লগে প্রকাশিত পুরো বর্ণনা প্রসঙ্গে দ্য গার্ডিয়ানের মন্তব্যের অনুরোধে সাড়া দেয়নি সম্মেলনের আয়োজক রয়্যাল অ্যারোনটিক্যাল সোসাইটি ও মার্কিন বিমানবাহিনী। তবে বিজনেস ইনসাইডারকে পাঠানো বিবৃতিতে এই ঘটনার কথা অস্বীকার করে এয়ারফোর্স। সেখানে বলা হয়, সিমুলেশন নির্ভর এআই-ড্রোন পরিচালনার সঙ্গে তারা যুক্ত নয়। বরং কৃত্রিম বুদ্ধিমত্তার নৈতিক ব্যবহারে প্রতিশ্রুতিবদ্ধ।
