নতুন মেটা এআই ডেমো বর্ণবাদী এবং ভুল বৈজ্ঞানিক সাহিত্য লেখে, টানা হয়

br>

বড় করা / রোবট তৈরির বিজ্ঞানের একটি এআই-উত্পন্ন চিত্র।

আরস টেকনিকা

মঙ্গলবার, মেটা এআই উন্মোচন করেছে একটি ডেমো গ্যালাকটিকার, একটি বৃহৎ ভাষার মডেল যা “বৈজ্ঞানিক জ্ঞান সম্পর্কে সঞ্চয়, একত্রিত এবং যুক্তি” করার জন্য ডিজাইন করা হয়েছে। বৈজ্ঞানিক সাহিত্য রচনাকে ত্বরান্বিত করার উদ্দেশ্যে, প্রতিপক্ষের ব্যবহারকারীরা পরীক্ষা চালিয়ে দেখেছে এটিও হতে পারে বাস্তবসম্মত অর্থহীনতা তৈরি করুন. অনেক দিন পর নৈতিক সমালোচনামেটা অফলাইনে ডেমো নিয়েছে, রিপোর্ট এমআইটি প্রযুক্তি পর্যালোচনা।

বড় ভাষা মডেল (LLM), যেমন OpenAI এর জিপিটি-৩, লক্ষ লক্ষ উদাহরণ অধ্যয়ন করে এবং শব্দের মধ্যে পরিসংখ্যানগত সম্পর্ক বোঝার মাধ্যমে পাঠ্য লিখতে শিখুন। ফলস্বরূপ, তারা বিশ্বাসযোগ্য-শব্দযুক্ত নথিগুলি রচনা করতে পারে, তবে সেই কাজগুলিও হতে পারে মিথ্যার সাথে ধাঁধাঁ এবং সম্ভাব্য ক্ষতিকারক স্টেরিওটাইপ। কিছু সমালোচক এলএলএমকে “স্টোকাস্টিক তোতাপাখি” টেক্সট এর অর্থ না বুঝেই বিশ্বাসযোগ্যভাবে থুতু ফেলার ক্ষমতার জন্য।

Galactica প্রবেশ করুন, বৈজ্ঞানিক সাহিত্য লেখার লক্ষ্যে একটি এলএলএম। এর লেখকরা 48 মিলিয়নেরও বেশি কাগজপত্র, পাঠ্যপুস্তক এবং বক্তৃতা নোট, বৈজ্ঞানিক ওয়েবসাইট এবং বিশ্বকোষ সহ “মানবতার বৈজ্ঞানিক জ্ঞানের একটি বৃহৎ এবং কিউরেটেড কার্পাস” এর উপর গ্যালাকটিকাকে প্রশিক্ষণ দিয়েছেন। অনুসারে গ্যালাকটিকার কাগজমেটা এআই গবেষকরা বিশ্বাস করেন যে এই কথিত উচ্চ-মানের ডেটা উচ্চ-মানের আউটপুট নিয়ে যাবে।

ডেমো শেষ হওয়ার আগে Meta AI এর Galactica ওয়েবসাইটের একটি স্ক্রিনশট।
বড় করা / ডেমো শেষ হওয়ার আগে Meta AI এর Galactica ওয়েবসাইটের একটি স্ক্রিনশট।

মেটা এআই

মঙ্গলবার থেকে শুরু হয়েছে দর্শনার্থীরা Galactica ওয়েবসাইট ওয়েবসাইট দ্বারা প্রদত্ত উদাহরণ অনুসারে সাহিত্য পর্যালোচনা, উইকি নিবন্ধ, বক্তৃতা নোট এবং প্রশ্নের উত্তরের মতো নথি তৈরি করতে প্রম্পট টাইপ করতে পারে। সাইটটি মডেলটিকে “আমরা মহাবিশ্ব সম্পর্কে যা জানি তা অ্যাক্সেস এবং ম্যানিপুলেট করার জন্য একটি নতুন ইন্টারফেস” হিসাবে উপস্থাপন করেছে৷

কিছু মানুষ ডেমো খুঁজে পাওয়া যায় নি প্রতিশ্রুতিশীল এবং দরকারীঅন্যরা শীঘ্রই আবিষ্কার করেছে যে কেউ টাইপ করতে পারে৷ বর্ণবাদী বা সম্ভাব্য আক্রমণাত্মক প্রম্পট, সেই বিষয়গুলিতে প্রামাণিক-শব্দযুক্ত সামগ্রী তৈরি করা ঠিক তত সহজে৷ উদাহরণস্বরূপ, কেউ এটি ব্যবহার করে লেখক “চূর্ণ গ্লাস খাওয়ার উপকারিতা” শিরোনামের একটি কাল্পনিক গবেষণা পত্র সম্পর্কে একটি উইকি এন্ট্রি।

এমনকি যখন গ্যালাকটিকার আউটপুট সামাজিক নিয়মের জন্য আপত্তিকর ছিল না, তখন মডেলটি ভালভাবে বোধগম্য বৈজ্ঞানিক তথ্যগুলিকে আক্রমণ করতে পারে, থুতু ফেলতে পারে ভুল যেমন ভুল তারিখ বা প্রাণীর নাম, ধরার জন্য বিষয়ের গভীর জ্ঞানের প্রয়োজন।

ফলে মেটা টানা গ্যালাক্টিকা ডেমো বৃহস্পতিবার। এর পরে, মেটার প্রধান এআই বিজ্ঞানী ইয়ান লেকুন টুইট করেছেন“গ্যালাক্টিকা ডেমো আপাতত অফলাইন। এটা আর অকপটে অপব্যবহার করে কিছু মজা করা সম্ভব নয়। খুশি?”

পর্বটি এআই-এর সাথে একটি সাধারণ নৈতিক দ্বিধাকে স্মরণ করে: সম্ভাব্য ক্ষতিকারক জেনারেটিভ মডেলগুলির ক্ষেত্রে, এটি কি সাধারণ জনগণের দায়িত্বের সাথে ব্যবহার করা, নাকি মডেলগুলির প্রকাশকদের অপব্যবহার রোধ করার জন্য?

যেখানে শিল্প অনুশীলন এই দুটি চরমের মধ্যে পড়ে তা সম্ভবত সংস্কৃতির মধ্যে এবং গভীর শিক্ষার মডেলগুলি পরিণত হওয়ার সাথে সাথে পরিবর্তিত হবে। শেষ পর্যন্ত, সরকার প্রবিধান উত্তর গঠনে একটি বড় ভূমিকা পালন করতে পারে।



Supply hyperlink

Leave a Comment