مخفف GPT تنها در عرض چند سال کوتاه به نمادی از یک اختلال بزرگ فناوری تبدیل شده است. در پشت این سه حرف، یک تغییر الگو نهفته است: ما از ابزارهای محاسباتی که توسط دستورات دستکاری میشوند، به همکاران دیجیتالی که با آنها گفتگو میکنیم، منتقل شدهایم. برای درک واقعی عظمت این انقلاب، باید به زیر کاپوت نگاه کرد و مکانیسمهای پیچیده این هوش را بررسی کرد.
I. تعریف فنی: سه رکن اختصار
GPT مخفف عبارت Generative Pre-trained Transformer است. هر اصطلاح، مرحلهای حیاتی در ایجاد مدل را توصیف میکند.
۱. مولد
در دنیای هوش مصنوعی، به طور سنتی بین دو نوع مدل تمایز قائل میشوند: مدل تمایزی و مدل مولد.
- یک مدل تبعیضآمیز دادهها را مشاهده میکند و یک برچسب به آن اختصاص میدهد (مثلاً «این عکس یک گربه است»).
- یک مدل تولیدیمانند GPT، فراتر میرود. بر اساس دانش خود، قادر به تولید دادههای کاملاً جدیدی است که قبلاً وجود نداشته است. اگر میلیونها شعر را تجزیه و تحلیل کرده باشد، یکی را از حفظ نمیخواند؛ بلکه با رعایت قوانین قافیه و وزنی که «درک کرده» است، شعر جدیدی خواهد سرود.
۲. از قبل آموزش دیده
قدرت خام این مدل اینجاست. قبل از رسیدن به صفحه نمایش شما، این مدل یک مرحله یادگیری عظیم را پشت سر گذاشته است. کتابخانهای را تصور کنید که بخش عظیمی از اینترنت جهانی را در خود جای داده است: کل ویکیپدیا، کتابخانههای دیجیتال، انجمنهای گفتگو (مانند ردیت)، مخازن کد کامپیوتر (گیتهاب) و آرشیوهای خبری.
ماهها، روی هزاران پردازندهی قدرتمند، مدل این متن را «میخواند» تا نه تنها حقایق خاص، بلکه ساختار عمیق خود زبان را نیز بیاموزد. این «پیشآموزش» به مدل اجازه میدهد تا قبل از اینکه حتی اولین سوال خود را دریافت کند، با یک پیشینهی فرهنگی و زبانی جهانی وارد عمل شود.
3. ترانسفورماتور
این پیشرفت علمی سال ۲۰۱۷ بود که از یک مقاله تحقیقاتی گوگل با عنوان « توجه، تمام چیزی است که نیاز دارید » سرچشمه گرفت. قبل از ترنسفورمر، مدلهای هوش مصنوعی جملات را کلمه به کلمه و به ترتیب (مدلهای بازگشتی) میخواندند. با این حال، ترنسفورمر به یک جمله به عنوان یک کل و همزمان نگاه میکند.
به لطف مکانیسمی به نام توجه، میتواند اهمیت هر کلمه را نسبت به سایر کلمات بسنجد. در جملهی « حیوان از خیابان عبور نکرد چون خیلی خسته بود »، ترنسفورمر میفهمد که « آن » به حیوان اشاره دارد. اگر جمله با « چون خیلی پهن بود » تمام شود، فوراً میفهمد که «آن» به خیابان اشاره دارد. این توانایی درک زمینههای پیچیده همان چیزی است که باعث میشود پاسخهای GPT بسیار انسانی به نظر برسند.
II. تاریخچه مختصری از تکامل: از GPT-1 تا GPT-5
داستان GPT یکی از رشدهای نمایی است که توسط شرکت OpenAI هدایت میشود.
بیداری (GPT-1 و GPT-2)
در سال ۲۰۱۸، GPT-1 پایه و اساس کار را بنا نهاد. این مدل میتوانست وظایف سادهای را انجام دهد، اما حافظهی آن کوتاه بود. در سال ۲۰۱۹، GPT-2 با ۱.۵ میلیارد پارامتر (اتصالات داخلی مدل) به طور قابل توجهی افزایش مقیاس یافت. این مدل در تولید متن منسجم چنان ماهر شد که OpenAI در ابتدا از انتشار آن خودداری کرد، زیرا میترسید که از آن برای ایجاد اطلاعات نادرست در مقیاس صنعتی استفاده شود.
انفجار (GPT-3 و 3.5)
در سال ۲۰۲۰، GPT-3 با ۱۷۵ میلیارد پارامتر از یک مانع روانشناختی عبور کرد. این یک هیولای محاسباتی بود. دیگر فقط یک مترجم یا نویسنده نبود؛ بلکه قادر به استدلال منطقی و کدنویسی به دهها زبان برنامهنویسی شد. نسخه GPT-3.5 به عنوان موتور راهاندازی عمومی ChatGPT در نوامبر ۲۰۲۲ عمل کرد و باعث ایجاد یک هیجان جهانی شد.
بلوغ (GPT-4 و فراتر از آن)
GPT-4 که در سال ۲۰۲۳ منتشر شد، چندوجهی است. میتواند تصاویر را تجزیه و تحلیل کند، مسائل پیچیده ریاضی را حل کند و سطوح بسیار بالاتری از خلاقیت را نشان دهد. دقت آن برای کاهش «توهم» (لحظاتی که هوش مصنوعی با اطمینان حقایق را اختراع میکند) بهبود یافته است.
مرتبط: ChatGPT-5 نامحدود و رایگان در Free AI Online
III. سازوکار درونی: یک ماشین احتمال
برخلاف تصور رایج، GPT «فکر» یا عقیدهای ندارد. عملکرد آن صرفاً آماری است، اما در چنان مقیاس وسیعی که هوش را شبیهسازی میکند.
وقتی کاربر یک عبارت جستجو تایپ میکند، مدل هر کلمه را به دنبالهای از اعداد به نام جاسازی (یا برداریسازی) تبدیل میکند. این اعداد به کلمات اجازه میدهند در یک فضای ریاضی با هزاران بعد قرار گیرند. در این فضا، کلمه "پادشاه" از نظر ریاضی به "ملکه" یا "تاج" نزدیک است.
فرآیند پاسخ، مجموعهای از پیشبینیها است:
- این مدل، موارد زیر را تجزیه و تحلیل میکند سریع.
- محاسبه میکند که کدام کلمه (یا «رمز«) بیشترین احتمال را برای شروع پاسخ دارد.
- پس از انتخاب آن کلمه، آن را به تحلیل خود بازمیگرداند تا کلمه بعدی را پیشبینی کند.
- این فرآیند را تا رسیدن به یک نقطه پایان تکرار میکند.
چیزی که نتیجه را چشمگیر میکند این است که GPT همیشه محتملترین کلمه را انتخاب نمیکند (که باعث تکراری و خستهکننده شدن آن میشود)، بلکه از یک تنظیم «دما» (تصادفی بودن کنترلشده) برای تغییر سبک و خلاقیت خود استفاده میکند.
چهارم. گام حیاتی: همترازی انسانی (RLHF)
اگر به یک ماشین اجازه دهید کل اینترنت را بخواند، این خطر وجود دارد که پرخاشگر شود یا توصیههای خطرناکی ارائه دهد، زیرا اینترنت هم بهترین و هم بدترین جنبههای بشریت را در خود جای داده است.
برای شخصیسازی GPT، OpenAI از یادگیری تقویتی از بازخورد انسانی (RLHF) استفاده میکند. هزاران آزمایشکننده انسانی با نسخههای اولیه مدل تعامل داشتند و پاسخها را با این عبارات ارزیابی کردند: «این پاسخ خوبی است»، «این بیادبانه است»، «این نادرست است».
از طریق این فرآیند، هوش مصنوعی یاد گرفت که ژست یک دستیار مفید، بیطرف و پایبند به اخلاق را به خود بگیرد. این لایه نهایی، فناوری خام را به یک محصول بازار انبوه تبدیل میکند.
V. چالشها و محدودیتها
با وجود قدرتی که GPT دارد، همچنان ابزاری با نقاط کور است:
- توهماز آنجا که تلاش میکند از نظر آماری معتبر باشد، ممکن است یک زندگینامه یا منبع حقوقی که وجود ندارد را ابداع کند، صرفاً به این دلیل که کلمات در کنار هم «درست» به نظر میرسند.
- عدم آگاهیGPT هیچ چیزی را حس نمیکند. هیچ درکی از دنیای فیزیکی ندارد. اگر نحوه پخت املت را توضیح دهد، نمیداند گرما یا بوی تخممرغ چیست؛ فقط رابطه زبانی بین این مفاهیم را میداند.
- هزینه های زیست محیطی: آموزش و اجرای این مدلها به برق و آب قابل توجهی (برای خنک کردن سرورها) نیاز دارد.
نتیجه
GPT چیزی فراتر از یک نرمافزار پردازش متن است. این یک زیرساخت شناختی است. همانطور که الکتریسیته امکان مکانیزه کردن کار فیزیکی را فراهم کرد، GPT در حال خودکارسازی اشکال خاصی از کار فکری است.
با درک اینکه GPT مخفف کلمات Generative (خلق)، Pre-trained (دانش انبوه) و Transformer (درک زمینهای) است، میتوانیم بهتر درک کنیم که چرا این فناوری نقطه عطفی را رقم زده است. ما تنها در آغاز بررسی این هستیم که این مدلهای به طور فزایندهای سبک و هوشمند چه چیزی را برای علم، آموزش و خلق هنری به ارمغان خواهند آورد.
