مختصر لفظ GPT، صرف چند سالن ۾، هڪ وڏي ٽيڪنالاجي خلل جي علامت بڻجي ويو آهي. انهن ٽنهي اکرن جي پويان هڪ مثالي تبديلي آهي: اسان ڪمپيوٽنگ اوزارن کان ڊجيٽل ساٿين ڏانهن منتقل ٿي ويا آهيون جن سان اسان ڳالهائيندا آهيون. هن انقلاب جي شدت کي صحيح طور تي سمجهڻ لاءِ، ڪنهن کي به پردي هيٺ ڏسڻ گهرجي ۽ هن ذهانت جي پيچيده ميڪانيڪس کي جانچڻ گهرجي.
I. ٽيڪنيڪل وصف: مخفف جا ٽي ستون
جي پي ٽي جو مطلب آهي جنريٽو پري ٽرين ٿيل ٽرانسفارمر. هر اصطلاح ماڊل جي تخليق ۾ هڪ اهم مرحلي کي بيان ڪري ٿو.
1. پيدا ڪندڙ
مصنوعي ذهانت جي دنيا ۾، روايتي طور تي ٻن قسمن جي ماڊلز جي وچ ۾ فرق ڪيو ويندو آهي: امتيازي ۽ پيداواري.
- هڪ امتيازي ماڊل ڊيٽا جو مشاهدو ڪري ٿو ۽ ان کي هڪ ليبل تفويض ڪري ٿو (مثال طور، "هي ٻلي جي تصوير آهي").
- هڪ پيداواري ماڊل، جي پي ٽي وانگر، وڌيڪ اڳتي وڌندو آهي. پنهنجي ڄاڻ جي بنياد تي، اهو مڪمل طور تي نئون ڊيٽا پيدا ڪرڻ جي قابل آهي جيڪو اڳ موجود نه هو. جيڪڏهن هن لکين نظمن جو تجزيو ڪيو آهي، ته اهو هڪ به دل سان نه پڙهندو؛ اهو هڪ نئون لکندو، قافيي ۽ ماپ جي قاعدن جو احترام ڪندي جيڪي هن "سمجهيا" آهن.
2. اڳواٽ تربيت يافته
هي اهو هنڌ آهي جتي خام طاقت آهي. توهان جي اسڪرين تي پهچڻ کان اڳ، ماڊل هڪ وڏي سکيا واري مرحلي مان گذريو. تصور ڪريو هڪ لائبريري جنهن ۾ عالمي انٽرنيٽ جو هڪ وڏو حصو شامل آهي: وڪيپيڊيا جو پورو، ڊجيٽل لائبريريون، بحث مباحثا فورم (جهڙوڪ ريڊٽ)، ڪمپيوٽر ڪوڊ ريپوزٽريز (گٽ هب)، ۽ نيوز آرڪائيوز.
مهينن تائين، هزارين اعليٰ طاقت وارن پروسيسرز تي، ماڊل هن متن کي "پڙهندو" نه رڳو مخصوص حقيقتن کي سکڻ لاءِ، پر ٻولي جي گهري جوڙجڪ کي به. هي "اڳ-تربيت" ماڊل کي پنهنجو پهريون سوال حاصل ڪرڻ کان اڳ هڪ عالمگير ثقافتي ۽ لساني پس منظر سان پهچڻ جي اجازت ڏئي ٿي.
3. ٽرانسفارمر
هي 2017 جي سائنسي ڪاميابي هئي، جيڪا گوگل جي هڪ ريسرچ پيپر مان نڪتي هئي جنهن جو عنوان هو " Attention Is All You Need ". ٽرانسفارمر کان اڳ، AI ماڊل جملن کي لفظ بہ لفظ، ترتيب سان پڙهندا هئا (بار بار ماڊل). بهرحال، ٽرانسفارمر هڪ جملي کي مڪمل طور تي ۽ هڪ ئي وقت ڏسي ٿو.
"Attention" نالي هڪ ميڪانيزم جي مهرباني، اهو ٻين جي حوالي سان هر لفظ جي اهميت کي وزن ڏئي سگهي ٿو. جملي ۾ " جانور گهٽي پار نه ڪيو ڇاڪاڻ ته اهو تمام گهڻو ٿڪل هو ،" ٽرانسفارمر سمجهي ٿو ته " اهو " جانور ڏانهن اشارو ڪري ٿو. جيڪڏهن جملو " ڇاڪاڻ ته اهو تمام گهڻو ويڪرو هو " سان ختم ٿئي ٿو، ته اهو فوري طور تي سمجهي ٿو ته "اهو" گهٽي ڏانهن اشارو ڪري ٿو. پيچيده تناظر کي سمجهڻ جي اها صلاحيت اها آهي جيڪا GPT جي جوابن کي تمام گهڻو انساني محسوس ڪرائي ٿي.
لاڳاپيل: چيٽ جي پي ٽي ڊائون؟ اي آءِ ۾ خرابيون ڇو ۽ مفت ۾ بهترين جي پي ٽي تائين ڪيئن رسائي حاصل ڪجي
II. ارتقا جي مختصر تاريخ: GPT-1 کان GPT-5 تائين
جي پي ٽي جي ڪهاڻي تيز رفتار واڌ جي ڪهاڻي آهي، جيڪا ڪمپني اوپن اي آءِ پاران هلائي وئي آهي.
جاڳڻ (GPT-1 ۽ GPT-2)
2018 ۾، GPT-1 بنياد رکيو. اهو سادو ڪم ڪري سگهي ٿو، پر ان جي ياداشت مختصر هئي. 2019 ۾، GPT-2 1.5 بلين پيرا ميٽرز (ماڊل جا اندروني ڪنيڪشن) سان خاص طور تي وڌيو. اهو مربوط متن پيدا ڪرڻ ۾ ايترو ماهر ٿي ويو جو اوپن اي آءِ شروعات ۾ ان کي جاري ڪرڻ ۾ هٻڪيو، ڊپ هو ته ان کي صنعتي پيماني تي غلط معلومات پيدا ڪرڻ لاءِ استعمال ڪيو ويندو.
ڌماڪو (GPT-3 ۽ 3.5)
2020 ۾، GPT-3 175 ارب پيرا ميٽرز سان هڪ نفسياتي رڪاوٽ کي پار ڪيو. اهو هڪ ڪمپيوٽيشنل جانور هو. اهو هاڻي صرف هڪ مترجم يا ليکڪ نه رهيو؛ اهو منطقي دليل ۽ درجنين پروگرامنگ ٻولين ۾ ڪوڊنگ جي قابل ٿي ويو. GPT-3.5 ورزن نومبر 2022 ۾ ChatGPT جي عوامي لانچ لاءِ انجن طور ڪم ڪيو، جنهن عالمي سطح تي هڪ سنسني پيدا ڪئي.
پختگي (GPT-4 ۽ ان کان پوءِ)
2023 ۾ جاري ڪيل، GPT-4 ملٽي ماڊل آهي. اهو تصويرن جو تجزيو ڪري سگهي ٿو، پيچيده رياضي مسئلا حل ڪري سگهي ٿو، ۽ تخليقيت جي تمام گهڻي سطح ڏيکاري سگهي ٿو. ان جي درستگي کي "خيال" کي گهٽائڻ لاءِ بهتر ڪيو ويو (اهي لمحا جتي AI اعتماد سان حقيقتون ايجاد ڪري ٿو).
لاڳاپيل: مفت AI آن لائن تي لامحدود ۽ مفت چيٽ GPT-5
III. اندروني ڪم: هڪ امڪاني مشين
مشهور عقيدي جي برعڪس، جي پي ٽي وٽ "سوچ" يا رايا نه آهن. ان جو ڪم خالص شمارياتي آهي، پر ايتري وڏي پيماني تي جو اهو ذهانت جي نقل ڪري ٿو.
جڏهن ڪو استعمال ڪندڙ ڪو سوال ٽائيپ ڪندو آهي، ته ماڊل هر لفظ کي انگن جي هڪ ترتيب ۾ تبديل ڪندو آهي جنهن کي ايمبيڊنگ (يا ویکٹرائيزيشن) سڏيو ويندو آهي. اهي انگ لفظن کي هزارين طول و عرض سان رياضياتي جاءِ ۾ رکڻ جي اجازت ڏيندا آهن. هن جاءِ ۾، لفظ "ڪنگ" رياضياتي طور تي "ڪوئين" يا "ڪرائون" جي ويجهو آهي.
جوابي عمل اڳڪٿين جو هڪ سلسلو آهي:
- ماڊل تجزيو ڪري ٿو تڪڙو.
- اهو حساب ڪري ٿو ته ڪهڙو لفظ (يا "ٽڪر") ۾ جواب شروع ڪرڻ جو سڀ کان وڌيڪ امڪان آهي.
- هڪ دفعو اهو لفظ چونڊيو ويندو آهي، اهو ان کي پنهنجي تجزيي ۾ واپس آڻيندو آهي ته جيئن ايندڙ لفظ جي اڳڪٿي ڪري سگهجي.
- اهو هن عمل کي ورجائي ٿو جيستائين اهو ختم ٿيڻ واري نقطي تي پهچي.
نتيجو متاثر ڪندڙ ڳالهه اها آهي ته GPT هميشه سڀ کان وڌيڪ ممڪن لفظ نه چونڊيندو آهي (جيڪو ان کي بار بار ۽ بور ڪندڙ بڻائيندو)، پر پنهنجي انداز ۽ تخليقيت کي مختلف ڪرڻ لاءِ "درجه حرارت" سيٽنگ (ڪنٽرول ٿيل بي ترتيبي) استعمال ڪندو آهي.
IV. اهم قدم: انساني ترتيب (RLHF)
جيڪڏهن توهان صرف هڪ مشين کي پورو انٽرنيٽ پڙهڻ لاءِ ڏيو ٿا، ته اهو جارحانه ٿيڻ يا خطرناڪ صلاح ڏيڻ جو خطرو آهي، ڇاڪاڻ ته انٽرنيٽ ۾ انسانيت جا بهترين ۽ بدترين ٻئي موجود آهن.
GPT کي "قابلِ شخصيت" بڻائڻ لاءِ، OpenAI انساني فيڊ بيڪ کان مضبوطي سکيا (RLHF) استعمال ڪري ٿو. هزارين انساني ٽيسٽرن ماڊل جي شروعاتي نسخن سان رابطو ڪيو، جوابن جي درجه بندي ڪئي: "هي هڪ سٺو جواب آهي،" "هي بدتميز آهي،" "هي غلط آهي."
هن عمل ذريعي، AI هڪ مددگار، غير جانبدار، ۽ اخلاقي طور تي پابند اسسٽنٽ جي حيثيت اختيار ڪرڻ سکيو. هي آخري پرت خام ٽيڪنالاجي کي هڪ وڏي مارڪيٽ جي پيداوار ۾ تبديل ڪري ٿي.
وي. چئلينج ۽ حدون
ان جي طاقت جي باوجود، جي پي ٽي هڪ اوزار رهي ٿو جنهن ۾ انڌا داغ آهن:
- تقسيم: ڇاڪاڻ ته اهو شمارياتي طور تي قابل اعتبار هجڻ چاهي ٿو، اهو هڪ سوانح عمري يا قانوني ذريعو ايجاد ڪري سگهي ٿو جيڪو موجود ناهي، صرف ان ڪري جو لفظ "آواز" صحيح طور تي گڏ آهن.
- شعور جي کوٽ: جي پي ٽي ڪجهه به محسوس نٿو ڪري. ان کي جسماني دنيا جي ڪا به سمجهه ناهي. جيڪڏهن اهو وضاحت ڪري ٿو ته آمليٽ ڪيئن پچائجي، ته ان کي خبر ناهي ته انڊيءَ جي گرمي يا بوءِ ڇا آهي؛ اهو صرف انهن تصورن جي وچ ۾ لساني تعلق کي ڄاڻي ٿو.
- ماحولياتي خرچ: انهن ماڊلز کي تربيت ڏيڻ ۽ هلائڻ لاءِ (سرور کي ٿڌو ڪرڻ لاءِ) وڏي بجلي ۽ پاڻي جي ضرورت آهي.
ٿڪل
جي پي ٽي صرف لفظ پروسيسنگ سافٽ ويئر کان گهڻو وڌيڪ آهي. اهو هڪ سنجيدگي وارو انفراسٽرڪچر آهي. جيئن بجلي جسماني محنت جي مشينري جي اجازت ڏني، جي پي ٽي ذهني محنت جي ڪجهه شڪلن کي خودڪار ڪرڻ شروع ڪري رهيو آهي.
اهو سمجهڻ سان ته GPT جو مطلب آهي جنريٽو (تخليق)، پري-تربيت يافته (وڏي پيماني تي ڄاڻ)، ۽ ٽرانسفارمر (سياق جي لحاظ کان سمجھ)، اسان بهتر طور تي سمجهي سگهون ٿا ته هي ٽيڪنالاجي هڪ موڙ ڇو آهي. اسان صرف ان ڳولا جي شروعات ۾ آهيون ته اهي وڌندڙ هلڪو وزن ۽ ذهين ماڊل سائنس، تعليم ۽ فنڪارانه تخليق ۾ ڇا آڻيندا.
