Ang acronym nga GPT, sa pipila lang ka tuig, nahimong simbolo sa usa ka dakong kagubot sa teknolohiya. Luyo niining tulo ka letra anaa ang usa ka paradigm shift: mibalhin kita gikan sa mga himan sa kompyuter nga gimanipula sa mga sugo ngadto sa mga digital nga kolaborator nga atong gikahinabi. Aron masabtan pag-ayo ang gidak-on niining rebolusyon, kinahanglan nga tan-awon ang ilalom sa hood ug susihon ang komplikado nga mekaniko niining intelihensiya.
I. Teknikal nga Kahulugan: Ang Tulo ka Haligi sa Acronym
Ang GPT nagpasabot og Generative Pre-trained Transformer. Ang matag termino naghulagway sa usa ka kritikal nga yugto sa paghimo sa modelo.
1. Mamugnaon
Sa kalibutan sa artipisyal nga paniktik, tradisyonal nga gihimo ang kalainan tali sa duha ka klase sa modelo: discriminative ug generative.
- Usa ka diskriminatibong modelo nag-obserbar sa datos ug naghatag niini og label (pananglitan, “Litrato kini sa iring”).
- Usa ka modelo sa pagmugna, sama sa GPT, mas labaw pa ang iyang mahimo. Base sa iyang kahibalo, makahimo kini sa paghimo og bag-ong datos nga wala pa kaniadto. Kon naka-analisar na kini og minilyon nga mga balak, dili kini mo-recite og usa-usa; mo-compose kini og bag-o, nga mosunod sa mga lagda sa rima ug sukod nga "nasabtan" niini.
2. Nabansay daan
Dinhi nahimutang ang tinuod nga gahom. Sa wala pa makaabot sa imong screen, ang modelo miagi sa usa ka dakong yugto sa pagkat-on. Handurawa ang usa ka librarya nga adunay dakong bahin sa global internet: ang tibuok Wikipedia, mga digital library, mga discussion forum (sama sa Reddit), mga computer code repository (GitHub), ug mga news archive.
Sulod sa mga bulan, sa liboan ka mga high-powered processors, ang modelo "nagbasa" niini nga teksto aron mahibal-an dili lamang ang piho nga mga kamatuoran, apan ang lawom nga istruktura sa pinulongan mismo. Kini nga "pre-training" nagtugot sa modelo nga moabot nga adunay unibersal nga kultural ug lingguwistika nga background sa wala pa kini makadawat sa una nga pangutana.
3. Transpormador
Kini ang siyentipikong kalampusan sa 2017, nga naggikan sa usa ka research paper sa Google nga giulohan og “ Attention Is All You Need .” Sa wala pa ang Transformer, ang mga AI model nagbasa sa mga sentence pulong por pulong, sa han-ay (recurrent models). Apan, ang Transformer nagtan-aw sa usa ka sentence sa kinatibuk-an ug sa samang higayon.
Tungod sa mekanismo nga gitawag og Attention, matimbang-timbang niini ang kahinungdanon sa matag pulong kalabot sa uban. Sa sentence nga “ Wala mitabok ang hayop sa dalan kay gikapoy kaayo ,” nasabtan sa Transformer nga ang “ it ” nagtumong sa hayop. Kon ang sentence matapos sa “ because it was so wide ,” nasabtan dayon niini nga ang “it” nagtumong sa dalan. Kining abilidad sa pagsabot sa komplikado nga konteksto mao ang nakapahimo sa mga tubag sa GPT nga mobati nga tawhanon kaayo.
May Kalabutan: Ang ChatGPT Napakyas? Ngano nga ang AI glitches ug unsaon pag-access sa labing maayo nga GPT nga libre
II. Usa ka mubo nga kasaysayan sa ebolusyon: Gikan sa GPT-1 ngadto sa GPT-5
Ang istorya sa GPT usa ka istorya sa eksponensiyal nga pagtubo, nga gimaneho sa kompanya nga OpenAI.
Ang pagmata (GPT-1 ug GPT-2)
Niadtong 2018, ang GPT-1 ang nagpahimutang sa pundasyon. Makahimo kini og mga simpleng buluhaton, apan mubo ra ang memorya niini. Niadtong 2019, ang GPT-2 miuswag pag-ayo nga adunay 1.5 bilyon nga mga parameter (ang internal nga koneksyon sa modelo). Nahimo kining hanas kaayo sa pagmugna og makanunayon nga teksto nga sa sinugdanan nagduha-duha ang OpenAI sa pagpagawas niini, nahadlok nga gamiton kini sa paghimo og disinformation sa industriyal nga sukod.
Ang Pagbuto (GPT-3 ug 3.5)
Niadtong 2020, ang GPT-3 milabang sa usa ka sikolohikal nga babag nga adunay 175 bilyon nga mga parametro. Usa kini ka higanteng komputasyon. Dili na kini usa ka maghuhubad o magsusulat lamang; nahimo na kining makahimo sa lohikal nga pangatarungan ug pag-code sa daghang mga pinulongan sa programming. Ang bersyon sa GPT-3.5 nagsilbing makina alang sa publikong paglusad sa ChatGPT niadtong Nobyembre 2022, nga nakahatag og dakong kahinam sa tibuok kalibutan.
Pagkahamtong (GPT-4 ug Labaw Pa)
Gipagawas niadtong 2023, ang GPT-4 kay multimodal. Mahimo kining mo-analisa sa mga imahe, mosulbad sa komplikadong mga problema sa matematika, ug magpakita og mas taas nga lebel sa pagkamamugnaon. Ang katukma niini gipino aron makunhuran ang "mga halusinasyon" (mga higayon diin ang AI masaligong nag-imbento og mga kamatuoran).
May Kalabutan: Walay Kinutuban ug Libre nga ChatGPT-5 sa Libre nga AI Online
III. Mga Internal nga Pagtrabaho: Usa ka Makina sa Probabilidad
Sukwahi sa gituohan sa kadaghanan, ang GPT walay "mga hunahuna" o opinyon. Ang pag-andar niini kay estadistikal lang, apan sa halapad nga sukod nga kini nagsundog sa intelihensiya.
Kung ang usa ka tiggamit mag-type og pangutana, ang modelo magbag-o sa matag pulong ngadto sa sunod-sunod nga mga numero nga gitawag og embeddings (o vectorization). Kini nga mga numero nagtugot sa mga pulong nga ibutang sa usa ka matematikal nga wanang nga adunay liboan ka mga dimensyon. Niini nga wanang, ang pulong nga "Hari" sa matematika duol sa "Rayna" o "Korona."
Ang proseso sa pagtubag usa ka serye sa mga panagna:
- Ang modelo nag-analisar sa aghat.
- Gikalkulo niini kung unsang pulong (o "token") adunay pinakataas nga posibilidad sa pagsugod sa tubag.
- Sa higayon nga mapili na ang maong pulong, ibalik kini sa pag-analisar niini aron matagna ang sunod nga pulong.
- Gisubli niini ang proseso hangtod nga makaabot kini sa punto sa pagtapos.
Ang nakapahimo sa resulta nga impresibo kay ang GPT dili kanunay mopili sa pulong nga lagmit mahitabo (nga makapahimo niini nga balik-balik ug makalaay), apan mogamit og "temperatura" nga setting (kontrolado nga randomness) aron mausab ang estilo ug pagkamamugnaon niini.
IV. Ang importanteng lakang: Human alignment (RLHF)
Kon imong ihatag lang ang tibuok internet sa usa ka makina aron basahon, kini mahimong agresibo o makahatag og delikado nga tambag, kay ang internet adunay sulod nga labing maayo ug labing daotan nga kinaiya sa katawhan.
Aron mahimong "personalable" ang GPT, gigamit sa OpenAI ang Reinforcement Learning from Human Feedback (RLHF). Liboan ka mga tawo nga nagsulay ang nakig-uban sa mga naunang bersyon sa modelo, nga nag-rate sa mga tubag nga: "Maayo kini nga tubag," "Bastos kini," "Sayop kini."
Pinaagi niining proseso, ang AI nakakat-on sa pagsagop sa postura sa usa ka matinabangon, neyutral, ug etikal nga katabang. Kining katapusang lut-od nagbag-o sa hilaw nga teknolohiya ngadto sa usa ka produkto nga magamit sa kadaghanan.
V. Mga Hagit ug Limitasyon
Bisan pa sa gahum niini, ang GPT nagpabilin nga usa ka himan nga adunay mga blind spots:
- PagkahiusaTungod kay kini nagtinguha nga mahimong katuohan sa istatistika, mahimo kini mag-imbento og usa ka biyograpiya o usa ka legal nga tinubdan nga wala maglungtad, tungod lang kay ang mga pulong nga "paminawon" sakto ra.
- Kakulang sa panimuotWalay gibati ang GPT. Wala kiniy pagsabot sa pisikal nga kalibutan. Kon kini mopasabot unsaon pagluto og omelet, wala kini mahibalo kon unsa ang kainit o ang baho sa itlog; ang nahibaloan lang niini mao ang relasyon sa pinulongan tali niining mga konsepto.
- Gasto sa kinaiyahanAng pagbansay ug pagpadagan niini nga mga modelo nanginahanglan ug dakong kuryente ug tubig (aron pabugnawon ang mga server).
Panapos
Ang GPT labaw pa sa word-processing software. Kini usa ka cognitive infrastructure. Sama nga ang elektrisidad nagtugot sa mekanisasyon sa pisikal nga trabaho, ang GPT nagsugod na sa pag-automate sa pipila ka mga porma sa intelektwal nga trabaho.
Pinaagi sa pagsabot nga ang GPT nagpasabot og Generative (paglalang), Pre-trained (dakong kahibalo), ug Transformer (pagsabot sa konteksto), mas masabtan nato nganong kini nga teknolohiya nagtimaan sa usa ka dakong kausaban. Anaa pa lang kita sa sinugdanan sa pagsuhid kon unsa ang madala niining nagkagamay ug intelihente nga mga modelo ngadto sa siyensya, edukasyon, ug artistikong paglalang.
