إيلون ماسك أحد مموليها.. أداة توليد نصوص خطيرة جدا

قامت شركة “أوبن أي آي” (open AI) -وهي شركة أبحاث أميركية غير ربحية- بتطوير نظام تعلم آلي يسمى “جي بي تي-2” قادر على توليد نصوص مزيفة تشبه النصوص الأصلية وقريبة من الكتابة البشرية بشكل لا يصدق.

وتم إنشاء النصوص بعد تغذية النظام بأربعين غيغابايتا من النصوص الموجودة على الإنترنت، حتى يتسنى للنظام تحليل وفهم آلية وأنماط الكتابة المختلفة.

ويجد الباحثون في المشروع خطرا كبيرا على المجتمعات في حال استخدم من قبل منظمات أو دول أو أشخاص لا يلتزمون بالمعايير الأخلاقية للنشر.

فقد كتب الباحثون أليك رادفورد وجيفري وو وريون تشايد وداريو أمودي مدونة حول المشروع شارحين خطورته في حال انتشاره.

وجاء في تلك المدونة أنه “نظرا للمخاوف من استخدام نماذج لغوية لتوليد لغة خادعة أو مضللة أو متحيزة أو مسيئة على نطاق واسع، فإننا لن ننشر إلا إصدارا مصغرا من برنامج “جي بي تي-2″ جنبا إلى جنب مع عينة صغيرة من الشفرات المصدرية”.

كما شدد الباحثون على أهمية وجود ميثاق أخلاقي يحكم معايير استخدام مثل هذه التكنولوجيا ومعالجة قضية معايير النشر بطريقة مدروسة.

وتمول منظمة “أوبن أي آي” من خلال مساهمات مجموعة من المديرين التنفيذيين في مجال التكنولوجيا، أبرزهمإيلون ماسك الرئيس التنفيذي السابق لشركة تسلا.

وتكمن خطورة هذا النوع من البرامج في قدرته على توليد ونشر مواد مزيفة أو متحيزة على الشبكة العنكبوتية لتضليل أو تغيير وجهة نظر الجمهور حول قضية معينة.

ويرى الباحثون أن “جي بي تي-2” فاق نظراءه في قدرته على توليد نماذج كبيرة من عينة صغيرة، فعلى سبيل المثال استطاع البرنامج توليد قصة علمية مزيفة عن اكتشاف وحيد القرن في جبال الإنديز عن طريق إدخال جملتين فقط.

ويمكن استغلال هذه الأداة على سبيل المثال في كتابة مراجعات المستخدمين حول منتج أو كتاب أو حتى تقرير علمي لتغيير الرأي العام حوله.

هذا النوع من إساءة الاستخدام هو ما يثير مخاوف الباحثين حول المشروع، وينظرون له كسلاح سري يمكن أن يؤدي إلى كوارث في حال استخدامه من جهات غير معروفة.

اترك رد

لن يتم نشر عنوان بريدك الإلكتروني.

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More