Ann am beagan bhliadhnaichean goirid, tha an acronaim GPT air a bhith na shamhla air mòr-bhriseadh teicneòlach. Air cùl nan trì litrichean seo tha atharrachadh mòr ann: tha sinn air gluasad bho innealan coimpiutaireachd air an làimhseachadh le òrdughan gu co-obraichean didseatach leis a bheil sinn a’ còmhradh. Gus fìor mheudachd an ar-a-mach seo a thuigsinn, feumaidh neach sùil a thoirt fo chochall agus sgrùdadh a dhèanamh air meacanaig iom-fhillte na h-inntleachd seo.
I. Mìneachadh Teicnigeach: Trì Colbhan an Acronym
Tha GPT a’ seasamh airson Generative Pre-trained Transformer. Tha gach teirm a’ toirt cunntas air ìre chudromach ann an cruthachadh a’ mhodail.
1. Gineadach
Ann an saoghal inntleachd fuadain, thathas a’ dèanamh eadar-dhealachadh gu traidiseanta eadar dà sheòrsa mhodail: eadar-dhealaichte agus ginealach.
- Modail eadar-dhealaichte a’ cumail sùil air dàta agus a’ cur leubail air (m.e., “Is e seo dealbh de chat”).
- Modail gineadach, mar GPT, a’ dol nas fhaide. Stèidhichte air an eòlas a th’ aige, tha e comasach air dàta gu tur ùr a thoirt gu buil nach robh ann roimhe. Ma tha e air milleanan de dhàin a sgrùdadh, cha bhith e ag aithris aon air a’ chridhe; cumaidh e fear ùr, a’ toirt urram do riaghailtean rann is meatair a tha e air “tuigsinn”.
2. Ro-thrèanadh
Seo far a bheil a’ chumhachd amh. Mus do ràinig e an sgrion agad, chaidh ìre ionnsachaidh mhòr tro mhodail. Smaoinich air leabharlann anns a bheil cuibhreann mòr den eadar-lìon cruinneil: Uicipeid gu lèir, leabharlannan didseatach, fòraman deasbaid (mar Reddit), stòran-dàta còd coimpiutair (GitHub), agus tasglannan naidheachdan.
Airson mìosan, air mìltean de phròiseasairean cumhachdach, “leugh” am modail an teacsa seo gus ionnsachadh chan ann a-mhàin fìrinnean sònraichte, ach structar domhainn a’ chànain fhèin. Leigidh an “ro-thrèanadh” seo leis a’ mhodail ruighinn le cùl-raon cultarail is cànain uile-choitcheann mus fhaigh e a’ chiad cheist aige eadhon.
3. Cruth-atharrachaidh
B’ e seo an t-adhartas saidheansail ann an 2017, a thàinig bho phàipear rannsachaidh Google leis an tiotal “ Attention Is All You Need .” Mus tàinig an Transformer, bhiodh modailean AI a’ leughadh seantansan facal air fhacal, ann an òrdugh (modalan ath-chuairteach). Ach, bidh an Transformer a’ coimhead air seantans gu h-iomlan agus aig an aon àm.
Le taing do mheacanism ris an canar Aire, faodaidh e cuideam a chur air cudromachd gach facal an coimeas ri feadhainn eile. Anns an t-seantans “ Cha deach am beathach tarsainn na sràide oir bha e ro sgìth ,” tuigidh an Transformer gu bheil “ e ” a’ toirt iomradh air a’ bheathach. Ma thig an seantans gu crìch le “ oir bha e ro leathann ,” tuigidh e sa bhad gu bheil “e” a’ toirt iomradh air an t-sràid. Is e an comas seo co-theacsa iom-fhillte a thuigsinn a tha a’ toirt air freagairtean GPT a bhith a’ faireachdainn cho daonna.
Co-cheangailte: ChatGPT sìos? Carson a tha AI a’ fàiligeadh agus mar a gheibh thu cothrom air na GPTan as fheàrr an-asgaidh
II. Eachdraidh ghoirid mean-fhàs: Bho GPT-1 gu GPT-5
Tha sgeulachd GPT na sgeulachd mu fhàs eas-chruthach, air a stiùireadh leis a’ chompanaidh OpenAI.
An dùsgadh (GPT-1 agus GPT-2)
Ann an 2018, chuir GPT-1 am bunait. B’ urrainn dha gnìomhan sìmplidh a dhèanamh, ach bha a chuimhne gann. Ann an 2019, mheudaich GPT-2 gu mòr le 1.5 billean paramadair (ceanglaichean a-staigh a’ mhodail). Dh’fhàs e cho comasach air teacsa co-leanailteach a chruthachadh is gun robh OpenAI leisg an toiseach a leigeil ma sgaoil, le eagal gum biodh e air a chleachdadh gus fiosrachadh ceàrr a chruthachadh air sgèile gnìomhachais.
An Spreadhadh (GPT-3 agus 3.5)
Ann an 2020, chaidh GPT-3 thairis air cnap-starra saidhgeòlach le 175 billean paramadair. B’ e beithir coimpiutaireachd a bh’ ann. Cha robh e dìreach na eadar-theangair no na sgrìobhadair tuilleadh; thàinig e gu bhith comasach air reusanachadh loidsigeach agus còdadh ann an dusanan de chànanan prògramaidh. Bha an dreach GPT-3.5 na einnsean airson cur air bhog poblach ChatGPT san t-Samhain 2022, ag adhbhrachadh iongnadh cruinneil.
Aibidh (GPT-4 agus nas fhaide air falbh)
Chaidh GPT-4 fhoillseachadh ann an 2023, agus tha e ioma-mhodhail. Faodaidh e ìomhaighean a sgrùdadh, duilgheadasan matamataigeach iom-fhillte fhuasgladh, agus ìrean cruthachalachd mòran nas àirde a thaisbeanadh. Chaidh a chruinneas a leasachadh gus “hallucinations” a lughdachadh (mòmaidean far am bi an AI a’ cruthachadh fhìrinnean le misneachd).
Co-cheangailte: ChatGPT-5 gun chrìoch agus an-asgaidh air Free AI Online
III. Obair a-staigh: Inneal Cothromachd
An aghaidh a’ chreidimh a tha cumanta, chan eil “smuaintean” no beachdan aig GPT. Tha e ag obair gu tur staitistigeil, ach air sgèile cho mòr is gu bheil e ag atharrais air fiosrachadh.
Nuair a thaipeas neach-cleachdaidh ceist, bidh am modail ag atharrachadh gach facal gu sreath de dh’àireamhan ris an canar leabachadh (no vectarachadh). Leigidh na h-àireamhan seo le faclan a bhith air an cur ann an àite matamataigeach le mìltean de thomhasan. Anns an àite seo, tha am facal “Rìgh” faisg air “Banrigh” no “Crùn” gu matamataigeach.
Is e sreath de ro-innse a th’ anns a’ phròiseas freagairt:
- Bidh am modail a’ dèanamh anailis air an luath.
- Bidh e a’ tomhas dè am facal (no “comharradh“) aig a bheil an coltachd as àirde gun tòisich e am freagairt.
- Cho luath ‘s a thèid am facal sin a thaghadh, bidh e ga bhiadhadh air ais dhan anailis aige gus an ath fhacal a ro-innse.
- Bidh e ag ath-aithris a’ phròiseis seo gus an ruig e puing crìochnachaidh.
Is e an rud a tha a’ dèanamh an toraidh drùidhteach nach eil GPT an-còmhnaidh a’ taghadh am facal as coltaiche (a dhèanadh e ath-aithriseach agus sgìth), ach a’ cleachdadh suidheachadh “teòthachd” (riaghailteach fo smachd) gus an stoidhle agus an cruthachalachd aige atharrachadh.
IV. An ceum deatamach: Co-thaobhadh daonna (RLHF)
Ma bheir thu an t-eadar-lìon gu lèir do inneal airson a leughadh, tha cunnart ann gum bi e ionnsaigheach no gun toir e comhairle chunnartaich, oir tha an rud as fheàrr agus as miosa den chinne-daonna air an eadar-lìon.
Gus GPT a dhèanamh “phearsanta”, bidh OpenAI a’ cleachdadh Ath-neartachadh Ionnsachaidh bho Fhios-air-ais Daonna (RLHF). Rinn mìltean de luchd-deuchainn daonna eadar-obrachadh le dreachan tràtha den mhodail, a’ measadh nan freagairtean: “Is e deagh fhreagairt a tha seo,” “Tha seo mì-mhodhail,” “Tha seo meallta.”
Tron phròiseas seo, dh’ionnsaich an AI seasamh neach-cuideachaidh cuideachail, neodrach, agus ceangailte ri beusachd a ghabhail os làimh. Bidh an ìre mu dheireadh seo ag atharrachadh teicneòlas amh gu bhith na thoradh mòr-mhargaidh.
V. Dùbhlain agus cuingealachaidhean
A dh’aindeoin a chumhachd, tha GPT fhathast na inneal le spotan dalla:
- BriathrachasLeis gu bheil e ag amas air a bhith creidsinneach gu staitistigeil, faodaidh e eachdraidh-beatha no stòr laghail a chruthachadh nach eil ann, dìreach air sgàth gu bheil na faclan “a’ fuaimeachadh” ceart còmhla.
- Dìth mothachaidhChan eil GPT a’ faireachdainn dad. Chan eil tuigse aige air an t-saoghal fiosaigeach. Ma mhìnicheas e mar a chòcaicheas tu omelet, chan eil fios aige dè a th’ ann an teas no fàileadh ugh; chan eil fios aige ach air a’ cheangal cànain eadar na bun-bheachdan sin.
- Cosgais àrainneachdTha feum air mòran dealain is uisge (gus frithealaichean fhuarachadh) gus na modailean seo a thrèanadh agus a ruith.
Co-dhùnadh
Tha GPT fada nas motha na dìreach bathar-bog giollachd fhaclan. 'S e bun-structar inntinneil a th' ann. Dìreach mar a leig dealan le meacanaigeadh saothair chorporra, tha GPT a’ tòiseachadh air cruthan sònraichte de shaothair inntleachdail a dhèanamh fèin-ghluasadach.
Le bhith a’ tuigsinn gu bheil GPT a’ seasamh airson Generative (cruthachadh), Pre-trained (eòlas mòr), agus Transformer (tuigse co-theacsail), is urrainn dhuinn tuigse nas fheàrr fhaighinn air carson a tha an teicneòlas seo a’ comharrachadh puing tionndaidh. Chan eil sinn ach aig toiseach sgrùdadh dè a bheir na modailean a tha a’ sìor fhàs nas aotroime agus nas tuigsiche gu saidheans, foghlam agus cruthachadh ealanta.
