آیا چت جی‌پی‌تی می‌تواند افکار شیطانی داشته باشد؟

از ۳۰ نوامبر ۲۰۲۲ که چت جی‌پی‌تی رونمایی شد و به سرعت بیش از یک میلیون نفر برای استفاده از آن ثبت‌نام کردند، نگرانی‌هایی درباره آن هم به گوش می‌رسید. این نرم‌افزار یک ابزار پردازش زبان است که توسط فناوری هوش مصنوعی هدایت می‌شود و به شما این امکان را می‌دهد که مکالماتی دقیقا شبیه یک انسان با یک «چت بات» داشته باشید؛ می‌تواندبه سؤالات پیچیده شما پاسخ دهد و برای حل مشکلات راه‌حل نشان دهد و ...! به گزارش فرارو به نقل از نیویورکر، بعد از رونمایی از چت جی‌پی‌تی مدت زمان زیادی به طول نینجامید که داستان‌های ناراحت کننده‌ای ظاهر شدند. در ادامه از این نگرانی‌ها خواهیم گفت و این که آیا چت جی‌پی‌تی، قادر به طرح نقشه‌های شیطانی خواهد بود؟

از تقلب در مدارس تا ترغیب به کار‌های مرگبار

یک استاد اعلام کرد که چت جی‌پی‌تی به پرسش‌های امتحانی دانش‌آموزانش پاسخ داده که خبر بدی برای معلمان بود. فردی دیگر ابزاری را برای نوشتن کل متن یک کتاب کودکان استفاده و سپس فروش آن را در آمازون آغاز کرد که خبر بدی برای نویسندگان بود. یک کاربر باهوش، چت جی‌پی‌تی را متقاعد کرد قوانین ایمنی را دور بزند و او را ترغیب به کار‌های خطرناک و مرگبار کند. نگرانی از این‌که این فناوری بالقوه دردسرساز به زودی در زندگی ما جاسازی خواهد شد چه بخواهیم و چه نخواهیم، تشدید شده است. ناظران عرصه فناوری در مقاله‌ای مشترک هشدار دادند: «ما چیز زیادی درباره آن نمی‌دانیم جز این که بسیار قدرتمند است و هدایای خیره کننده‌ای به ما ارائه می‌دهد، اما می‌تواند پایه‌های تمدن مان را هم هک کند.»

نحوه پاسخگویی چت جی‌پی‌تی

اگر واقعا می‌خواهیم این فناوری را درک کنیم باید درباره نحوه پیاده‌سازی آن در رایانه‌های واقعی هم چیز‌هایی بدانیم. هنگامی که درخواستی را به چت جی‌پی‌تی ارسال می‌کنید متنی که در وب سایت Open AI تایپ می‌کنید به یک برنامه کنترلی که در جایی در مرکز محاسبات ابری اجرا می‌شود، تحویل داده می‌شود. در این مرحله متن شما در دسته‌ای از اعداد بسته‌بندی می‌شود به‌گونه‌ای که درک و مدیریت آن را برای رایانه‌ها آسان‌تر می‌کند. اکنون اعداد آماده پردازش توسط برنامه اصلی چت جی‌پی‌تی هستند که از لایه‌های متمایز زیادی تشکیل شده است که هر یک توسط یک شبکه عصبی مصنوعی عظیم تعریف شده‌اند. ورودی شما به ترتیب در امتداد این لایه‌ها ارسال می‌شود مثل یک نسخه دیجیتالی از بازی تلفنی. هر لایه از شبکه عصبی خود برای شناسایی ویژگی‌های مرتبط در متن استفاده می‌کند و سپس آن را با خلاصه‌هایی از آن چه کشف کرده برای استفاده لایه‌های بعدی حاشیه‌نویسی می‌کند. جزئیات فنی نحوه عملکرد این شبکه‌ها برای اهداف ما کمی مشکل است. نکته مهم آن است که وقتی یک درخواست در هر لایه حرکت می‌کند تعداد زیادی محاسبات ریاضی غیرقابل درک را راه‌اندازی می‌کند که با هم چیزی کم و بیش شبیه به یک نسخه فشرده و درهم از رای گیری کلمه‌ای مبتنی بر قوانین کلی را اجرا می‌کنند. پس از این که ورودی شما از تمام این لایه‌ها عبور کرد خروجی نهایی چیزی است که تعداد آرا را برای هر کلمه بعدی ممکن تقریبی می‌کند. برنامه کنترل از این شمارش‌ها برای انتخاب موارد بعدی به صورت نیمه تصادفی استفاده می‌کند. پس از تمام این کار‌ها ما تنها یک کلمه از پاسخ چت جی‌پی‌تی را تولید کرده‌ایم. برنامه کنترل با وظیفه‌شناسی آن را به درخواست اصلی شما اضافه می‌کند و این متن کمی دراز را از ابتدا در تمام لایه‌های شبکه عصبی اجرا می‌کند تا کلمه دوم را ایجاد کند. سپس دوباره این کار را انجام می‌دهد تا زمانی که پاسخ کاملی برای بازگشت به مرورگر وب شما داشته باشد.

جی‌پی‌تی ایجاد نمی‌کند بلکه تقلید می‌کند

اکنون می‌توانیم به این پرسش اصلی پاسخ بدهیم: برنامه‌ای مانند چت جی پی تی چه نوع ذهنی دارد؟ هنگام تعامل با این سیستم‌ها زمان زیادی به طول نمی‌انجامد که وارد مکالمه‌ای شوید که باعث ناراحتی شما می‌شود. شاید لحظه‌ای از انسانیت غیرعادی آن غافلگیر شده باشید یا از پیچیدگی یک پاسخ شگفت‌زده شوید. با وجود این اکنون می‌دانیم که این شاهکار‌ها در واقع چگونه انجام می‌شوند. می‌توانیم این برداشت‌ها را تعدیل کنیم. سیستمی مانند چت جی‌پی‌تی، ایجاد نمی‌کند بلکه تقلید می‌کند. چت جی‌پی‌تی متنی را کپی می‌کند، دستکاری می‌کند و متنی را که در اصل توسط هوش انسانی نوشته شده بود کپی می‌کند و به هم می‌چسباند تا چیزی را تولید کند که به نظر می‌رسد یک شخص واقعی درباره آن موضوع صحبت می‌کند. چت جی‌پی‌تی هیچ تصور واقعی درخصوص چیزی که درباره آن صحبت می‌کند، ندارد. چت جی‌پی تی هیچ خاطره‌ای از مکالمات گذشته را حفظ نمی‌کند، تنها واژگان را یک به یک در پاسخ به هر ورودی بیان می‌کند و دقیقا همان قوانین را برای هر عمل مکانیکی تولید دستوری به کار می‌گیرد صرف نظر از این که آن کلمه بخشی از توصیف تعمیر یک دستگاه باشد یا یک شوخی در یک نمایش نامه کمدی.

فوق هوشمندشدن هوش‌مصنوعی تهدید است؟

در مجموع، این مشاهدات خبر خوبی برای کسانی است که می‌ترسند هوش‌مصنوعی شکلی فوق هوشمند را به خود بگیرد و تبدیل به تهدیدی رو به پیشرفت شود یا این‌که ممکن است روزی به زودی به‌طور تصادفی یک موجود خودآگاه را در یک رایانه به دام بیندازیم، اما حتی اگر فرض کنیم که چنین سیستمی ظهور خواهد کرد به شکل مدل‌های زبان بزرگ نخواهد بود. با وجود این، حتی اگر چت جی‌پی‌تی هوشمند نباشد آیا باز هم نمی‌تواند شغل‌مان را از ما بگیرد؟ درک تازه‌مان از نحوه عملکرد این برنامه‌ها هم می‌تواند به ما در مقابله با این ترس کمک کند. بر اساس آن چه تاکنون آموخته ایم عملکرد چت جی‌پی‌تی به نظر می‌رسد کم و بیش محدود به نوشتن درباره ترکیبی از موضوعات شناخته شده با استفاده از ترکیبی از سبک‌های شناخته شده است جایی که «شناخته» به این معنی است که برنامه به اندازه کافی در طول مدت زمان با موضوع یا سبک خاصی مواجه شده است. اگرچه برنامه می‌تواند از طریق آموزش، نمونه‌های جالب توجهی را ایجاد کند، اما بعید است که این فناوری در شکل فعلی خود به طور قابل توجهی بازار کار را مختل کند. علاوه بر این، این برنامه‌ها از بحران اعتماد رنج می‌برند: برای تولید متنی طراحی شده‌اند که درست به نظر می‌رسد، اما توانایی محدودی دارند برای تشخیص درستی آن چه می‌گویند. در نتیجه، احتمالا اکثر کارفرمایان در برون سپاری مشاغل به یک افسانه‌گر پشیمان تردید خواهند کرد.

منبع: خراسان