Tao anatin'ny taona vitsivitsy monja, ny fanafohezana hoe GPT dia lasa mariky ny fikorontanan'ny teknolojia lehibe. Ao ambadiky ireo litera telo ireo dia misy fiovana lehibe: nifindra avy amin'ny fitaovana informatika ampiasain'ny baiko ho amin'ny mpiara-miasa nomerika izay ifampiresahana isika. Mba hahatakarana marina ny halehiben'ity revolisiona ity dia tsy maintsy mijery ny ao ambadiky ny satroka isika ary mandinika ny mekanika sarotra amin'ity faharanitan-tsaina ity.
I. Famaritana ara-teknika: Ireo andry telo amin'ny fanafohezana
Ny GPT dia fanafohezana ny Generative Pre-trained Transformer. Ny teny tsirairay dia mamaritra ny dingana iray tena ilaina amin'ny famoronana ny modely.
1. Mamokatra
Eo amin'ny tontolon'ny faharanitan-tsaina artifisialy, dia mahazatra ny manavaka karazana modely roa: ny modely manavaka sy ny modely miteraka.
- Modely manavakavaka mandinika ny angon-drakitra ary manome marika azy (oh: "Sarin'ny saka ity").
- Modely famoronana, tahaka ny GPT, dia mihoatra lavitra noho izany. Mifototra amin'ny fahalalany, dia afaka mamokatra angon-drakitra vaovao tanteraka izay tsy nisy teo aloha izy. Raha efa namakafaka tononkalo an-tapitrisany izy, dia tsy hanao tsianjery iray; fa hamorona iray vaovao kosa, manaja ny fitsipiky ny rima sy ny metatra izay "azony".
2. Efa voaofana mialoha
Eto no misy ny hery manta. Talohan'ny nahatongavanao teo amin'ny efijery dia nandalo dingana fianarana goavana ilay maodely. Alaivo sary an-tsaina hoe tranomboky iray misy ampahany betsaka amin'ny aterineto manerantany: ny Wikipedia manontolo, tranomboky nomerika, sehatra fifanakalozan-kevitra (toa ny Reddit), fitahirizana kaody amin'ny solosaina (GitHub), ary arisiva vaovao.
Nandritra ny volana maro, tamin'ny alalan'ny processeur mahery vaika an'arivony, dia "namaky" ity lahatsoratra ity ilay modely mba tsy hianarana zava-misy manokana fotsiny, fa mba hianarana ny rafitra lalina amin'ny fiteny mihitsy. Io "fiofanana mialoha" io dia ahafahan'ny modely tonga miaraka amin'ny fototra ara-kolontsaina sy ara-pitenenana manerantany na dia mbola tsy mahazo ny fanontaniany voalohany aza.
3. Miova
Ity no fandrosoana ara-tsiansa tamin'ny taona 2017, avy amin'ny fikarohana nataon'ny Google mitondra ny lohateny hoe " Ny Fitandremana no Ilainao Rehetra ." Talohan'ny Transformer, ny modely AI dia mamaky fehezanteny isaky ny teny, araka ny filaharany (modely miverimberina). Ny Transformer kosa anefa dia mijery fehezanteny iray manontolo ary miaraka amin'izay.
Noho ny rafitra iray antsoina hoe Attention, dia afaka mandanjalanja ny maha-zava-dehibe ny teny tsirairay mifandraika amin'ny hafa izy. Ao amin'ny fehezanteny hoe " Tsy niampita arabe ilay biby satria reraka loatra ," dia takatry ny Transformer fa ny " it " dia manondro ny biby. Raha mifarana amin'ny " satria malalaka loatra " ny fehezanteny, dia takany avy hatrany fa ny "it" dia manondro ny arabe. Io fahaizana mahatakatra ny teny manodidina sarotra io no mahatonga ny valintenin'ny GPT ho toy ny olombelona.
Mifandraika amin'izany: Tsy mandeha ny ChatGPT? Nahoana no misy olana amin'ny AI ary ahoana no fomba hidirana maimaim-poana amin'ireo GPT tsara indrindra
II. Tantara fohy momba ny evolisiona: Avy amin'ny GPT-1 ka hatramin'ny GPT-5
Ny tantaran'ny GPT dia tantaran'ny fitomboana tsy hay tohaina, tarihin'ny orinasa OpenAI.
Ny fifohazana (GPT-1 sy GPT-2)
Tamin'ny taona 2018, nametraka ny fototra ny GPT-1. Afaka nanao asa tsotra izy, saingy fohy ny fitadidiany. Tamin'ny taona 2019, nitombo be ny GPT-2 niaraka tamin'ny masontsivana 1.5 lavitrisa (ny fifandraisana anatiny amin'ny modely). Lasa nahay namorona lahatsoratra mirindra tsara izy ka nisalasala ny OpenAI tamin'ny voalohany hamoaka azy, natahotra sao hampiasaina hamoronana fampahalalana diso amin'ny ambaratonga indostrialy.
Ny Fipoahana (GPT-3 sy 3.5)
Tamin'ny taona 2020, niampita sakana ara-tsaina ny GPT-3 niaraka tamin'ny masontsivana 175 lavitrisa. Bibidia informatika izy io. Tsy mpandika teny na mpanoratra fotsiny intsony izy io; lasa afaka nieritreritra lojika sy nanao kaody tamin'ny fiteny fandaharana am-polony maro. Ny dikan-teny GPT-3.5 no motera nanombohana ampahibemaso ny ChatGPT tamin'ny Novambra 2022, izay niteraka resabe eran-tany.
Fahamatorana (GPT-4 sy ny sisa)
Navoaka tamin'ny taona 2023, ny GPT-4 dia fitaovana maro samihafa. Afaka mamakafaka sary, mamaha olana matematika sarotra, ary mampiseho fahaiza-mamorona ambony kokoa izy. Nohatsaraina ny fahamarinany mba hampihenana ny "fahatsapana zavatra tsy misy dikany" (fotoana izay ahafahan'ny AI mamorona zava-misy amim-pahatokiana).
Mifandraika amin'izany: ChatGPT-5 tsy misy fetra sy maimaim-poana amin'ny AI an-tserasera maimaim-poana
III. Fiasa anatiny: Milina mety hitranga
Mifanohitra amin'ny finoan'ny besinimaro, ny GPT dia tsy manana "eritreritra" na hevitra. Ny fiasany dia mifototra amin'ny statistika fotsiny, saingy amin'ny ambaratonga midadasika ka maka tahaka ny faharanitan-tsaina.
Rehefa manoratra fangatahana ny mpampiasa iray, dia manova ny teny tsirairay ho andian-isa antsoina hoe embeddings (na vectorization) ny modely. Ireo isa ireo dia ahafahana mametraka teny ao anaty habaka matematika misy refy an'arivony. Amin'ity habaka ity, ny teny hoe "Mpanjaka" dia mitovy ara-matematika amin'ny "Mpanjakavavy" na "Satroboninahitra."
Ny dingana famaliana dia andiana vinavina:
- Mamakafaka ny avy hatrany.
- Kajiny hoe teny inona (na "famantarana") no manana ny mety ho fanombohana ny valiny avo indrindra.
- Raha vantany vao voafidy io teny io dia ampidirina ao amin'ny famakafakana azy indray mba haminavina ny teny manaraka.
- Averiny io dingana io mandra-pahatongany amin'ny teboka famaranana.
Ny mahatonga ny vokatra ho mahavariana dia ny hoe ny GPT dia tsy mifidy foana ny teny azo inoana indrindra (izay hahatonga azy io ho miverimberina sy mankaleo), fa mampiasa fikirana "mari-pana" (kisendrasendra voafehy) mba hanovana ny fomba fiasany sy ny fahaizany mamorona.
IV. Ny dingana tena ilaina: Fandrindrana ny olombelona (RLHF)
Raha omenao fotsiny ny milina iray manontolo hovakiana ny aterineto dia mety ho lasa mahery setra na hanome torohevitra mampidi-doza izy, satria ao amin'ny aterineto no ahitana ny tsara indrindra sy ny ratsy indrindra amin'ny olombelona.
Mba hahatonga ny GPT ho "mahasarika ny olona", ny OpenAI dia mampiasa ny Reinforcement Learning from Human Feedback (RLHF). An'arivony ireo mpitsapa olombelona nifandray tamin'ireo dikan-teny voalohany amin'ilay modely, ary nanome isa ny valiny toy izao: "Valiny tsara ity," "Tsy mahalala fomba ity," "Diso ity."
Tamin'ny alalan'ity dingana ity, ny AI dia nianatra ny handray ny toeran'ny mpanampy manampy, tsy miandany ary mifanaraka amin'ny etika. Ity sosona farany ity dia manova ny teknolojia manta ho vokatra eny an-tsena ho an'ny daholobe.
V. Ireo fanamby sy fetrany
Na dia eo aza ny heriny, dia mbola fitaovana tsy dia misy dikany loatra ny GPT:
- hallucinationSatria mikendry ny ho azo itokisana ara-statistika izy io, dia mety hamorona tantaram-piainana na loharano ara-dalàna izay tsy misy, satria fotsiny hoe mifanaraka tsara ireo teny hoe "maneno".
- Tsy fahampian'ny fahatsiarovan-tenaTsy mahatsapa na inona na inona ny GPT. Tsy mahatakatra ny tontolo ara-batana izy. Raha manazava ny fomba fahandro omelet izy, dia tsy fantany izay atao hoe hafanana na fofon'ny atody; ny fifandraisana ara-pitenenana misy eo amin'ireo hevitra ireo ihany no fantany.
- Vidin'ny tontolo iainanaMitaky herinaratra sy rano be dia be (mba hampangatsiaka ny mpizara) ny fampiofanana sy ny fampiasana ireo modely ireo.
Famaranana
Mihoatra lavitra noho ny rindrambaiko fanodinana teny fotsiny ny GPT. Fotodrafitrasa ara-tsaina izy io. Toy ny namelan'ny herinaratra ny fampiasana milina ny asa ara-batana, dia manomboka manamboatra karazana asa ara-tsaina sasany ho mandeha ho azy ny GPT.
Amin'ny fahatakarana fa ny GPT dia fanafohezana ny Generative (famoronana), Pre-trained (fahalalana goavana), ary Transformer (fahatakarana ny toe-javatra misy), dia afaka mahatakatra bebe kokoa ny antony mahatonga ity teknolojia ity ho teboka fiovana. Mbola eo am-piandohan'ny fikarohana izay hoentin'ireo maodely maivana sy marani-tsaina ireo amin'ny siansa, ny fanabeazana ary ny famoronana zavakanto isika.
