Kifupi cha GPT kimekuwa, katika miaka michache tu, ishara ya usumbufu mkubwa wa kiteknolojia. Nyuma ya herufi hizi tatu kuna mabadiliko ya dhana: tumehama kutoka kwa zana za kompyuta zilizobadilishwa na amri hadi washirika wa kidijitali ambao tunazungumza nao. Ili kuelewa kweli ukubwa wa mapinduzi haya, mtu lazima aangalie chini ya kofia na kuchunguza mitambo tata ya akili hii.
I. Ufafanuzi wa Kiufundi: Nguzo Tatu za Kifupisho
GPT inawakilisha Generative Pre-trained Transformer. Kila neno linaelezea hatua muhimu katika uundaji wa modeli.
1. Kizalishaji
Katika ulimwengu wa akili bandia, tofauti huwekwa kijadi kati ya aina mbili za mifumo: ya kibaguzi na ya kuzalisha.
- Mfano wa ubaguzi huchunguza data na kuipa lebo (km, “Hii ni picha ya paka”).
- Mfano wa uzalishaji, kama GPT, inaenda mbali zaidi. Kulingana na ujuzi wake, ina uwezo wa kutoa data mpya kabisa ambayo haikuwepo hapo awali. Ikiwa imechambua mamilioni ya mashairi, haitakariri moja kwa moyo; itatunga jipya, ikiheshimu sheria za wimbo na kipimo ambazo "imezielewa."
2. Mafunzo ya awali
Hapa ndipo nguvu ghafi ilipo. Kabla ya kufikia skrini yako, modeli ilipitia awamu kubwa ya kujifunza. Fikiria maktaba iliyo na sehemu kubwa ya mtandao wa kimataifa: Wikipedia nzima, maktaba za kidijitali, mijadala (kama Reddit), hazina za msimbo wa kompyuta (GitHub), na kumbukumbu za habari.
Kwa miezi kadhaa, kwa maelfu ya vichakataji vyenye nguvu nyingi, modeli "ilisoma" maandishi haya ili kujifunza sio tu ukweli maalum, bali pia muundo wa kina wa lugha yenyewe. "Mafunzo haya ya awali" huruhusu modeli kufika na usuli wa kitamaduni na lugha wa ulimwengu wote kabla hata ya kupokea swali lake la kwanza.
3. Transformer
Huu ulikuwa uvumbuzi wa kisayansi wa mwaka 2017, unaotokana na karatasi ya utafiti ya Google yenye kichwa " Usikivu Ndio Unaohitaji ." Kabla ya Transformer, mifumo ya akili bandia (AI) ilisoma sentensi neno kwa neno, kwa mpangilio (mifumo ya mara kwa mara). Hata hivyo, Transformer huangalia sentensi nzima na kwa wakati mmoja.
Shukrani kwa utaratibu unaoitwa Attention, unaweza kupima umuhimu wa kila neno kuhusiana na mengine. Katika sentensi " Mnyama hakuvuka barabara kwa sababu alikuwa amechoka sana ," Transformer inaelewa kwamba " hiyo " inarejelea mnyama. Ikiwa sentensi inaishia na " kwa sababu ilikuwa pana sana ," inaelewa mara moja kwamba "hiyo" inarejelea barabara. Uwezo huu wa kuelewa muktadha tata ndio unaofanya majibu ya GPT kuhisi kama ya kibinadamu.
Kuhusiana: ChatGPT Imepungua? Kwa nini hitilafu za akili bandia (AI) na jinsi ya kupata GPT bora bila malipo
II. Historia fupi ya mageuko: Kutoka GPT-1 hadi GPT-5
Hadithi ya GPT ni moja ya ukuaji wa kasi, unaoendeshwa na kampuni ya OpenAI.
Kuamka (GPT-1 na GPT-2)
Mnamo 2018, GPT-1 iliweka msingi. Ingeweza kufanya kazi rahisi, lakini kumbukumbu yake ilikuwa fupi. Mnamo 2019, GPT-2 iliongezeka kwa kiasi kikubwa na vigezo bilioni 1.5 (miunganisho ya ndani ya modeli). Ilipata ujuzi mkubwa katika kutoa maandishi yenye upatano kiasi kwamba OpenAI mwanzoni ilisita kuyatoa, ikihofia kwamba ingetumika kuunda taarifa potofu za viwandani.
Mlipuko (GPT-3 na 3.5)
Mnamo 2020, GPT-3 ilivuka kizuizi cha kisaikolojia na vigezo bilioni 175. Ilikuwa mnyama wa kompyuta. Haikuwa tena mtafsiri au mwandishi tu; ikawa na uwezo wa kufikiri kimantiki na kuandika katika lugha nyingi za programu. Toleo la GPT-3.5 lilitumika kama injini ya uzinduzi wa ChatGPT hadharani mnamo Novemba 2022, na kusababisha hisia duniani kote.
Ukomavu (GPT-4 na Zaidi)
Iliyotolewa mwaka wa 2023, GPT-4 ina matumizi mengi. Inaweza kuchambua picha, kutatua matatizo tata ya hisabati, na kuonyesha viwango vya juu zaidi vya ubunifu. Usahihi wake uliboreshwa ili kupunguza "njozi" (nyakati ambapo AI huvumbua ukweli kwa ujasiri).
Kuhusiana: ChatGPT-5 isiyo na kikomo na ya bure kwenye AI ya Bure Mtandaoni
III. Kazi za Ndani: Mashine ya Uwezekano
Kinyume na imani maarufu, GPT haina "mawazo" au maoni. Utendaji wake ni wa kitakwimu tu, lakini kwa kiwango kikubwa sana kiasi kwamba inaiga akili.
Mtumiaji anapoandika swali, modeli hubadilisha kila neno kuwa mfuatano wa nambari zinazoitwa upachikaji (au uundaji wa vekta). Nambari hizi huruhusu maneno kuwekwa katika nafasi ya hisabati yenye vipimo maelfu. Katika nafasi hii, neno "Mfalme" linafanana kihisabati na "Malkia" au "Taji."
Mchakato wa majibu ni mfululizo wa utabiri:
- Mfano huo unachambua haraka.
- Huhesabu ni neno gani (au “ishara") ina uwezekano mkubwa zaidi wa kuanza majibu.
- Mara tu neno hilo linapochaguliwa, hulirudisha katika uchambuzi wake ili kutabiri neno linalofuata.
- Inarudia mchakato huu hadi inapofikia hatua ya mwisho.
Kinachofanya matokeo kuwa ya kuvutia ni kwamba GPT haichagui neno linalowezekana zaidi kila wakati (ambalo lingelifanya lijirudie na kuchosha), lakini hutumia mpangilio wa "joto" (nasibu inayodhibitiwa) ili kubadilisha mtindo na ubunifu wake.
IV. Hatua muhimu: Uwiano wa kibinadamu (RLHF)
Ukiipa mashine mtandao mzima wa kusoma, ina hatari ya kuwa mkali au kutoa ushauri hatari, kwani mtandao una watu bora na wabaya zaidi wa ubinadamu.
Ili kuifanya GPT iwe "inayovutia watu," OpenAI hutumia Ujifunzaji wa Uimarishaji kutoka kwa Maoni ya Kibinadamu (RLHF). Maelfu ya wapimaji wa kibinadamu waliingiliana na matoleo ya awali ya mfumo, wakitoa alama kwa majibu: "Hili ni jibu zuri," "Hili ni kosa," "Hili ni uongo."
Kupitia mchakato huu, AI ilijifunza kutumia mkao wa msaidizi msaidizi, asiyeegemea upande wowote, na anayezingatia maadili. Safu hii ya mwisho hubadilisha teknolojia ghafi kuwa bidhaa inayopatikana sokoni kwa wingi.
V. Changamoto na vikwazo
Licha ya nguvu yake, GPT inabaki kuwa kifaa chenye madoa yasiyoonekana:
- Kuongeza maoniKwa sababu inatafuta kuaminika kitakwimu, inaweza kubuni wasifu au chanzo cha kisheria ambacho hakipo, kwa sababu tu maneno "yanasikika" pamoja.
- Kukosa fahamu: GPT haihisi chochote. Haina uelewa wa ulimwengu wa kimwili. Ikiwa inaelezea jinsi ya kupika omelet, haijui joto au harufu ya yai ni nini; inajua tu uhusiano wa lugha kati ya dhana hizo.
- Gharama ya mazingira: Kufundisha na kuendesha mifumo hii kunahitaji umeme na maji mengi (kwa ajili ya kupoeza seva).
Hitimisho
GPT ni zaidi ya programu ya usindikaji wa maneno tu. Ni miundombinu ya utambuzi. Kama vile umeme unavyoruhusu kwa ajili ya uundaji wa mitambo ya kazi za kimwili, GPT inaanza kuendesha aina fulani za kazi za kiakili kiotomatiki.
Kwa kuelewa kwamba GPT inawakilisha Generative (uumbaji), Pre-trained (maarifa makubwa), na Transformer (uelewa wa muktadha), tunaweza kufahamu vyema kwa nini teknolojia hii inaashiria mabadiliko. Tuko mwanzoni tu mwa kuchunguza kile ambacho mifumo hii inayozidi kuwa nyepesi na yenye akili italeta katika sayansi, elimu, na uumbaji wa kisanii.
