I gceann cúpla bliain gearr, tá an t-acrainm GPT ina shiombail ar mhór-shuaitheadh teicneolaíoch. Taobh thiar de na trí litir seo tá athrú paraidíme: táimid tar éis bogadh ó uirlisí ríomhaireachta a ionramháladh le horduithe go comhoibritheoirí digiteacha a mbímid ag comhrá leo. Chun fíormhéid na réabhlóide seo a thuiscint, ní mór breathnú faoin gcochall agus scrúdú a dhéanamh ar mheicnic chasta na hintleachta seo.
I. Sainmhíniú Teicniúil: Trí Cholún an Acrainm
Seasann GPT do Generative Pre-Traened Transformer. Déanann gach téarma cur síos ar chéim ríthábhachtach i gcruthú an mhúnla.
1. Giniúnach
I saol na hintleachta saorga, déantar idirdhealú go traidisiúnta idir dhá chineál samhlacha: idirdhealaitheacha agus giniúnacha.
- Samhail idirdhealaitheach breathnaíonn ar shonraí agus sannann lipéad dóibh (m.sh., “Is grianghraf de chat é seo”).
- Múnla giniúna, cosúil le GPT, téann sé níos faide. Bunaithe ar a eolas, tá sé in ann sonraí nua ar fad a tháirgeadh nach raibh ann roimhe seo. Má tá milliúin dán anailísithe aige, ní dhéanfaidh sé ceann amháin a aithris de ghlanmheabhair; cumfaidh sé ceann nua, ag urramú rialacha an ríme agus an mhéadair atá "tuigthe" aige.
2. Réamh-oilte
Seo an áit a bhfuil an chumhacht amh. Sula sroich sé do scáileán, chuaigh an tsamhail faoi chéim ollmhór foghlama. Samhlaigh leabharlann ina bhfuil cuid mhór den idirlíon domhanda: Vicipéid ina hiomláine, leabharlanna digiteacha, fóraim phlé (cosúil le Reddit), stórtha cóid ríomhaireachta (GitHub), agus cartlanna nuachta.
Ar feadh míonna, ar na mílte próiseálaithe ardchumhachta, “léigh” an tsamhail an téacs seo chun ní hamháin fíricí sonracha a fhoghlaim, ach struchtúr domhain na teanga féin. Ligeann an “réamh-oiliúint” seo don tsamhail teacht le cúlra cultúrtha agus teangeolaíoch uilíoch sula bhfaigheann sí a chéad cheist fiú.
3. Claochladán
Ba é seo an dul chun cinn eolaíoch in 2017, a tháinig as páipéar taighde Google dar teideal “Aird Is gá duit"Roimh an Transformer, léann samhlacha AI abairtí focal ar fhocal, in ord (samhlacha athfhillteacha). Breathnaíonn an Transformer, áfach, ar abairt ina hiomláine agus ag an am céanna.
A bhuíochas le meicníocht ar a dtugtar Aird, is féidir leis tábhacht gach focal a mheá i gcomparáid le focail eile. Sa abairt “Níor thrasnaigh an t-ainmhí an tsráid mar bhí sé ró-thuirseach", tuigeann an Claochladán go bhfuil"itTagraíonn " don ainmhí. Má chríochnaíonn an abairt le "mar bhí sé ró-leathan,” tuigeann sé láithreach go dtagraíonn “sé” don tsráid. Is é an cumas seo comhthéacs casta a thuiscint a fhágann go mbraitheann freagraí GPT chomh daonna sin.
II. Stair ghearr ar an éabhlóid: Ó GPT-1 go GPT-5
Scéal fáis easpónantúil atá i scéal GPT, faoi thiomáint ag an gcuideachta OpenAI.
An múscailt (GPT-1 agus GPT-2)
Sa bhliain 2018, leag GPT-1 an dúshraith. D’fhéadfadh sé tascanna simplí a dhéanamh, ach bhí a chuimhne gearr. Sa bhliain 2019, mhéadaigh GPT-2 go suntasach le 1.5 billiún paraiméadar (naisc inmheánacha an mhúnla). Bhí sé chomh cumasach sin ag giniúint téacs comhtháite gur leisce ar OpenAI é a scaoileadh ar dtús, ar eagla go n-úsáidfí é chun mífhaisnéis ar scála tionsclaíoch a chruthú.
An Phléascadh (GPT-3 agus 3.5)
Sa bhliain 2020, thrasnaigh GPT-3 bacainn shíceolaíoch le 175 billiún paraiméadar. Ba ollphéist ríomhaireachtúil a bhí ann. Ní hamháin gur aistritheoir ná scríbhneoir a bhí ann a thuilleadh; bhí sé in ann réasúnaíocht loighciúil agus códú a dhéanamh i mórán teangacha ríomhchlárúcháin. D’fhóin leagan GPT-3.5 mar inneall do sheoladh poiblí ChatGPT i mí na Samhna 2022, rud a chuir sceitimíní domhanda air.
Aibíocht (GPT-4 agus níos faide anonn)
Scaoileadh GPT-4 in 2023, agus is modh ilmhódach é. Is féidir leis íomhánna a anailísiú, fadhbanna matamaiticiúla casta a réiteach, agus leibhéil chruthaitheachta i bhfad níos airde a thaispeáint. Rinneadh a chruinneas a fheabhsú chun “siabhránachtaí” a laghdú (nóiméid ina gcruthaíonn an AI fíricí go muiníneach).
Gaolmhar: ComhráGPT-5 gan teorainn agus saor in aisce ar Free AI Online
III. Obair inmheánach: Meaisín dóchúlachta
Murab ionann agus a chreideann an pobal, níl “smaointe” ná tuairimí ag GPT. Feidhmíonn sé go staitistiúil amháin, ach ar scála chomh mór sin go ndéanann sé insamhalta ar fhaisnéis.
Nuair a chlóscríobhann úsáideoir ceist, athraíonn an tsamhail gach focal ina sheicheamh uimhreacha ar a dtugtar leabaithe (nó veicteoiriú). Ligeann na huimhreacha seo focail a chur i spás matamaiticiúil le na mílte toise. Sa spás seo, tá an focal "Rí" gar go matamaiticiúil do "Banríon" nó "Coróin".
Is sraith réamhinsintí an próiseas freagartha:
- Déanann an tsamhail anailís ar an pras.
- Ríomhann sé cé acu focal (nó “chomhartha“) a bhfuil an dóchúlacht is airde ann go dtosóidh sé an freagra.
- Nuair a roghnaítear an focal sin, beathaíonn sé ar ais ina anailís é chun an chéad fhocal eile a thuar.
- Déanann sé an próiseas seo arís go dtí go sroicheann sé pointe foirceanta.
Is é an rud a fhágann go bhfuil an toradh suntasach ná nach roghnaíonn GPT an focal is dóichí i gcónaí (rud a dhéanfadh athchleachtach agus leadránach é), ach úsáideann sé socrú “teochta” (randamacht rialaithe) chun a stíl agus a chruthaitheacht a athrú.
IV. An chéim ríthábhachtach: Ailíniú Daonna (RLHF)
Má thugann tú an t-idirlíon ar fad do mheaisín le léamh, tá an baol ann go n-éireoidh sé ionsaitheach nó go dtabharfaidh sé comhairle chontúirteach, toisc go bhfuil an chuid is fearr agus is measa den chine daonna ar an idirlíon.
Chun GPT a dhéanamh “intuigthe”, úsáideann OpenAI Foghlaim Threisithe ó Aiseolas Daonna (RLHF). Rinne na mílte tástálaí daonna idirghníomhú le leaganacha luatha den mhúnla, ag rátáil na bhfreagraí: “Is freagra maith é seo,” “Tá sé seo drochbhéasach,” “Tá sé seo bréagach.”
Tríd an bpróiseas seo, d'fhoghlaim an hintleacht shaorga seasamh cúntóra chabhrach, neodrach agus eiticiúil a ghlacadh. Claochlaíonn an ciseal deiridh seo teicneolaíocht amh ina táirge mais-mhargaidh.
V. Dúshláin agus teorainneacha
In ainneoin a chumhachta, is uirlis í GPT a bhfuil spotaí dalla aici fós:
- LíontachasÓs rud é go bhfuil sé ag iarraidh a bheith inchreidte ó thaobh staitisticí de, féadfaidh sé beathaisnéis nó foinse dlí nach bhfuil ann a chumadh, díreach toisc go “fuaimeann” na focail go ceart le chéile.
- Easpa comhfhiosachtaNí bhraitheann GPT tada. Níl aon tuiscint aige ar an domhan fisiceach. Má mhíníonn sé conas omelet a chócaráil, níl a fhios aige cad is teas ná boladh uibhe ann; níl a fhios aige ach an gaol teangeolaíoch idir na coincheapa sin.
- Costas comhshaoilÉilíonn oiliúint agus rith na samhlacha seo go leor leictreachais agus uisce (chun freastalaithe a fhuarú).
Conclúid
Is i bhfad níos mó ná bogearraí próiseála focal amháin é GPT. Is bonneagar cognaíoch é. Díreach mar a cheadaigh leictreachas meicniú saothair fhisiciúil, tá GPT ag tosú ag uathoibriú cineálacha áirithe saothair intleachtúla.
Trí thuiscint a fháil go seasann GPT do Generative (cruthú), Pre-trained (eolas ollmhór), agus Transformer (tuiscint chomhthéacsúil), is féidir linn tuiscint níos fearr a fháil ar an gcúis gur cor cinniúnach é an teicneolaíocht seo. Nílimid ach ag tús an ama ag iniúchadh cad a thabharfaidh na samhlacha seo atá ag éirí níos éadroime agus níos cliste don eolaíocht, don oideachas agus don chruthú ealaíonta.
