Tá an aigne dhaonna fós domhínithe agus mistéireach le fada an lá. Agus is cosúil gur admhaigh eolaithe iomaitheoir nua ar an liosta seo - Intleacht Shaorga (AI). Ag an tús, fuaimeanna a thuiscint ar an aigne AI sách oxymoronic. Mar sin féin, de réir mar a éiríonn AI níos mothaí de réir a chéile agus a fhorbraíonn níos gaire do dhaoine agus a gcuid mothúchán a aithris, táimid ag féachaint ar fheiniméin atá dúchasach do dhaoine agus d’ainmhithe – siabhránachtaí.
Sea, tá an chuma ar an scéal go bhfuil taithí ag meaisíní freisin ar an turas a dtéann an aigne isteach nuair a thréigtear í i bhfásach, á chaitheamh ar oileán, nó faoi ghlas ina haonar i seomra gan fuinneoga agus doirse. AI siabhránachtaí is fíor agus tá saineolaithe teicneolaíochta agus díograiseoirí tar éis roinnt tuairimí agus tátail a thaifeadadh.
In alt an lae inniu, déanfaimid iniúchadh ar an ngné mistéireach ach suimiúil seo de Múnlaí Móra Teanga (LLMs) agus foghlaim fíricí aisteacha faoi siabhránachtaí AI.
Cad is Hallucination AI ann?
I saol AI, ní thagraíonn siabhránachtaí go doiléir do phatrúin, dathanna, cruthanna, nó daoine ar féidir leis an intinn a shamhlú go soiléir. Ina áit sin, tagraíonn siabhránacht d’fhíricí agus do fhreagraí atá mícheart, míchuí nó fiú míthreorach Uirlisí giniúna AI teacht suas le leideanna.
Mar shampla, samhlaigh go gcuirfeá ceist ar shamhail AI cad is teileascóp spáis Hubble ann agus tosaíonn sé ag freagairt le freagra ar nós, “Is pictiúr gluaisne speisialaithe ard-réiteach é ceamara IMAX….”
Níl an freagra seo ábhartha. Ach níos tábhachtaí fós, cén fáth ar ghin an tsamhail freagra atá difriúil go tadhlach ón leid a cuireadh i láthair? Creideann saineolaithe go bhféadfadh siabhránachtaí eascairt as fachtóirí éagsúla mar:
- Droch-chaighdeán sonraí oiliúna AI
- Samhlacha AI ró-mhuiníneach
- Castacht na gclár um Phróiseáil Teanga Nádúrtha (NLP).
- Earráidí ionchódaithe agus díchódaithe
- Ionsaithe sáraíochta nó hacks samhlacha AI
- Éagsúlacht foinse-tagartha
- Claonadh ionchuir nó athbhrí ionchuir agus níos mó
Tá siabhránacht AI thar a bheith contúirteach agus ní mhéadaítear a dhéine ach amháin nuair a dhéantar sonraíocht mhéadaithe a chur i bhfeidhm.
Mar shampla, is féidir le huirlis siabhránacha GenAI a bheith ina chúis le cailleadh clú d’fhiontar atá á himscaradh. Mar sin féin, nuair a úsáidtear samhail AI den chineál céanna in earnáil mar chúram sláinte, athraíonn sé an chothromóid idir beatha agus bás. Amharc air seo, má dhéanann samhail AI bréagchéadfaíocht agus má ghineann sé freagra ar anailís sonraí ar thuarascálacha íomháithe leighis an othair, féadann sé siad a thuairisciú mar iad urchóideach neamhaireach, rud a fhágann go bhfuil diall cúrsa ar dhiagnóis agus ar chóireáil an duine aonair.
Eiseamláirí de Shamhlaigh AI a thuiscint
Tá hallucinations AI de chineálacha éagsúla. Tuigimid cuid de na cinn is suntasaí.
Freagra mícheart ar fhaisnéis
- Freagraí dearfacha bréagacha mar shampla gramadach cheart a chur in iúl sa téacs mar rud mícheart
- Freagraí diúltacha bréagacha ar nós dearmad a dhéanamh ar earráidí soiléire agus iad a chur in iúl mar fhíor-earráidí
- Aireagán fíricí nach bhfuil ann
- Foinsiú mícheart nó cur isteach ar lua
- Ró-mhuinín i bhfreagairt le freagraí míchearta. Sampla: Cé a chan Here Comes Sun? Metallica.
- Meascadh suas coincheapa, ainmneacha, áiteanna, nó teagmhais
- Freagraí aisteacha nó scanrúla ar nós gáire uathrialach demonic tóir Alexa agus go leor eile
Cosc ar siabhránachtaí AI
Faisnéis mhícheart a ghintear le AI is féidir d'aon chineál a bhrath agus a shocrú. Sin an speisialtacht a bhaineann le bheith ag obair le AI. Cheapamar é seo agus is féidir linn é seo a shocrú. Seo roinnt bealaí inar féidir linn é seo a dhéanamh.
Freagraí a Theorannú
Deir siad gur cuma cé mhéad teanga a labhraíonn muid. Ní mór dúinn fios a bheith againn cathain a stopfaimid ag caint i ngach ceann acu. Baineann sé seo le samhlacha AI agus a gcuid freagraí freisin. Sa chomhthéacs seo, is féidir linn srian a chur ar chumas samhla freagairtí a ghiniúint do mhéid sonrach agus an seans go dtiocfaidh torthaí aisteacha ar a laghad a mhaolú. Tugtar Rialáil air seo agus baineann sé freisin le pionós a ghearradh ar shamhlacha AI as torthaí foircneacha agus sínte a dhéanamh ar leideanna.
Foinsí Ábhartha & Aerdhíonacha Chun Freagraí a Luadh Agus a Bhaint as
Agus múnla AI á oiliúint againn, is féidir linn freisin teorainn a chur leis na foinsí ar féidir le samhail tagairt a dhéanamh dóibh agus faisnéis a bhaint as go dtí foinsí dlisteanacha agus inchreidte. Mar shampla, ní féidir le samhlacha AI cúram sláinte cosúil leis an sampla amháin a phléamar níos luaithe ach tagairt a dhéanamh d'fhoinsí inchreidte i bhfaisnéis atá luchtaithe le híomhánna leighis agus teicneolaíochtaí íomháithe. Cuireann sé seo cosc ar mheaisíní patrúin ó fhoinsí dépholacha a aimsiú agus a chomhghaolú agus freagairt a ghiniúint.
Cuspóir Múnla AI a Shainmhíniú
Is foghlaimeoirí gasta iad samhlacha AI agus ní gá ach a insint dóibh go beacht cad ba cheart dóibh a dhéanamh. Trí chuspóir na samhlacha a shainiú go cruinn, is féidir linn samhlacha a oiliúint chun a gcumas agus a dteorainneacha féin a thuiscint. Cuirfidh sé seo ar a gcumas a gcuid freagraí a bhailíochtú go huathrialach trí fhreagraí ginte a ailíniú le leideanna úsáideoirí agus a gcuspóir torthaí glan a sheachadadh.
Maoirseacht Daonna In AI
Tá córais oiliúna AI chomh ríthábhachtach le leanbh a mhúineadh ag snámh nó ag rothaíocht don chéad uair. Teastaíonn maoirseacht, measarthacht, idirghabháil agus coinneáil láimhe ar dhaoine fásta. Tarlaíonn formhór na siabhránachtaí AI mar gheall ar fhaillí an duine i gcéimeanna éagsúla d’fhorbairt AI. Trí na saineolaithe cearta a imscaradh agus sreabhadh oibre daonna-i-lúb a chinntiú chun freagraí AI a bhailíochtú agus a ghrinnscrúdú, is féidir torthaí cáilíochta a bhaint amach. Thairis sin, is féidir samhlacha a scagadh tuilleadh le haghaidh cruinneas agus cruinneas.
Shaip Agus Ár Ról I gCosc a chur ar Siamsaí AI
Ceann de na foinsí siabhránachtaí is mó eile ná sonraí oiliúna AI lag. Is é an rud a chothaíonn tú an méid a fhaigheann tú. Sin an fáth a ghlacann Shaip céimeanna réamhghníomhacha chun a chinntiú go seachadtar sonraí den chaighdeán is airde do do oiliúint AI giniúna riachtanais.
Tá ár bprótacail dhian um dhearbhú cáilíochta agus ár dtacar sonraí arna bhfoinsiú go heiticiúil thar a bheith oiriúnach do do fhíseanna AI chun torthaí glana a sheachadadh. Cé gur féidir glitches teicniúla a réiteach, tá sé ríthábhachtach go dtabharfar aghaidh ar imní faoi cháilíocht sonraí oiliúna ag a leibhéal féin ag leibhéal an phobail chun cosc a chur ar athoibriú ar fhorbairt samhlacha ón tús. Sin é an fáth do AI agus LLM ba chóir don chéim oiliúna tosú le tacair shonraí ó Shaip.
