Mae'r meddwl dynol wedi aros yn anesboniadwy a dirgel am amser hir, hir. Ac mae'n edrych fel bod gwyddonwyr wedi cydnabod cystadleuydd newydd i'r rhestr hon - Deallusrwydd Artiffisial (AI). Ar y dechrau, mae deall meddwl AI yn swnio braidd yn oxymoronic. Fodd bynnag, wrth i AI ddod yn fwy ymdeimladol yn raddol a datblygu'n agosach at ddynwared bodau dynol a'u hemosiynau, rydym yn gweld ffenomenau sy'n gynhenid i fodau dynol ac anifeiliaid - rhithweledigaethau.
Ydy, mae'n ymddangos bod yr union daith y mae'r meddwl yn mentro iddi wrth gael ei adael mewn anialwch, ei fwrw i ffwrdd ar ynys, neu ei gloi ar ei ben ei hun mewn ystafell heb ffenestri a drysau hefyd yn brofiadol gan beiriannau. AI rhithweledigaeth yn real ac mae arbenigwyr technoleg a selogion wedi cofnodi arsylwadau a chasgliadau lluosog.
Yn yr erthygl heddiw, byddwn yn archwilio'r agwedd ddirgel ond diddorol hon o Modelau Iaith Mawr (LLMs) a dysgu ffeithiau hynod am AI rhithweledigaeth.
Beth Yw Rhithweledigaeth AI?
Ym myd AI, nid yw rhithweledigaethau yn cyfeirio'n amwys at batrymau, lliwiau, siapiau, neu bobl y gall y meddwl eu delweddu'n glir. Yn lle hynny, mae rhithweledigaeth yn cyfeirio at ffeithiau ac ymatebion anghywir, amhriodol neu hyd yn oed gamarweiniol Offer AI cynhyrchiol dod o hyd i awgrymiadau.
Er enghraifft, dychmygwch ofyn i fodel AI beth yw telesgop gofod Hubble ac mae'n dechrau ymateb gydag ateb fel, “Mae camera IMAX yn lun cynnig cydraniad uchel arbenigol….”
Mae'r ateb hwn yn amherthnasol. Ond yn bwysicach fyth, pam y cynhyrchodd y model ymateb sy'n wahanol iawn i'r ysgogiad a gyflwynwyd? Mae arbenigwyr yn credu y gallai rhithweledigaethau ddeillio o ffactorau lluosog fel:
- Ansawdd gwael data hyfforddiant AI
- Modelau AI gorhyderus
- Cymhlethdod rhaglenni Prosesu Iaith Naturiol (NLP).
- Gwallau amgodio a datgodio
- Ymosodiadau gwrthwynebol neu haciau o fodelau AI
- Gwahaniaeth cyfeiriad ffynhonnell
- Tuedd mewnbwn neu amwysedd mewnbwn a mwy
Mae rhithwelediad AI yn hynod beryglus ac mae ei ddwysedd ond yn cynyddu gyda manylder cynyddol ei gymhwysiad.
Er enghraifft, gall offeryn rhithweledigaethol GenAI achosi colli enw da menter sy'n ei ddefnyddio. Fodd bynnag, pan ddefnyddir model AI tebyg mewn sector fel gofal iechyd, mae'n newid yr hafaliad rhwng bywyd a marwolaeth. Delweddwch hyn, os yw model AI yn rhithwelediad ac yn cynhyrchu ymateb i ddadansoddiad data adroddiadau delweddu meddygol claf, gall adrodd yn anfwriadol bod tiwmor anfalaen yn falaen, gan arwain at wyriad cwrs o ddiagnosis a thriniaeth yr unigolyn.
Deall Enghreifftiau Rhithweledigaethau AI
Mae rhithweledigaethau AI o wahanol fathau. Gadewch i ni ddeall rhai o'r rhai amlycaf.
Ymateb ffeithiol anghywir i wybodaeth
- Ymatebion positif ffug fel tynnu sylw at ramadeg cywir mewn testun fel rhywbeth anghywir
- Ymatebion negyddol ffug fel anwybyddu gwallau amlwg a'u pasio fel rhai dilys
- Dyfeisio ffeithiau nad ydynt yn bodoli
- Cyrchu anghywir neu ymyrryd â dyfyniadau
- Gorhyder wrth ymateb gydag atebion anghywir. Enghraifft: Pwy ganodd Here Comes Sun? Metallica.
- Cymysgu cysyniadau, enwau, lleoedd, neu ddigwyddiadau
- Ymatebion rhyfedd neu frawychus fel chwerthin ymreolaethol demonic poblogaidd Alexa a mwy
Atal Rhithweledigaethau AI
Gwybodaeth anghywir a gynhyrchir gan AI o unrhyw fath gellir ei ganfod a'i osod. Dyna'r arbenigedd o weithio gydag AI. Rydym wedi dyfeisio hyn a gallwn drwsio hyn. Dyma rai ffyrdd y gallwn wneud hyn.
Cyfyngu ar Ymatebion
Maen nhw'n dweud nad oes ots faint o ieithoedd rydyn ni'n eu siarad. Mae angen inni wybod pryd i roi'r gorau i siarad ym mhob un ohonynt. Mae hyn yn berthnasol i fodelau AI a'u hymatebion hefyd. Yn y cyd-destun hwn, gallwn gyfyngu ar allu model i gynhyrchu ymatebion i swm penodol a lliniaru'r tebygolrwydd y bydd yn creu canlyniadau rhyfedd. Gelwir hyn yn Reoleiddio ac mae hefyd yn golygu cosbi modelau AI am wneud canlyniadau eithafol ac ymestynnol i anogwyr.
Ffynonellau Perthnasol ac Adynn I Dyfynnu A Dethol Ymatebion
Pan fyddwn yn hyfforddi model AI, gallwn hefyd gyfyngu ar y ffynonellau y gall model gyfeirio atynt a thynnu gwybodaeth ohonynt i rai cyfreithlon a chredadwy yn unig. Er enghraifft, dim ond at ffynonellau sy'n gredadwy mewn gwybodaeth sy'n llawn delweddau meddygol a thechnolegau delweddu y gall modelau AI gofal iechyd fel yr un enghraifft a drafodwyd gennym yn gynharach gyfeirio. Mae hyn yn atal peiriannau rhag canfod a chydberthnasu patrymau o ffynonellau deubegwn a chynhyrchu ymateb.
Diffinio Pwrpas Model AI
Mae modelau AI yn ddysgwyr cyflym a'r cyfan sydd angen ei wneud yw dweud wrthynt beth yn union y dylent ei wneud. Trwy ddiffinio pwrpas modelau yn gywir, gallwn hyfforddi modelau i ddeall eu galluoedd a'u cyfyngiadau eu hunain. Bydd hyn yn eu galluogi i ddilysu eu hymatebion yn annibynnol drwy alinio ymatebion a gynhyrchir ag awgrymiadau defnyddwyr a'u pwrpas i sicrhau canlyniadau glân.
Goruchwyliaeth Ddynol Mewn AI
Mae hyfforddi systemau AI yr un mor hanfodol ag addysgu plentyn i nofio neu feicio am y tro cyntaf. Mae angen goruchwyliaeth oedolion, cymedroli, ymyrraeth, a dal dwylo. Mae'r rhan fwyaf o rithwelediadau AI yn digwydd oherwydd esgeulustod dynol mewn gwahanol gamau o ddatblygiad AI. Trwy ddefnyddio'r arbenigwyr cywir a sicrhau llif gwaith dynol-yn-y-dolen i ddilysu a chraffu ar ymatebion AI, gellir cyflawni canlyniadau o ansawdd. Yn ogystal, gellir mireinio modelau ymhellach ar gyfer cywirdeb a manwl gywirdeb.
Shaip A'n Rôl Wrth Atal Rhithweledigaethau AI
Un o'r ffynonellau mwyaf eraill o rithweledigaethau yw data hyfforddiant AI gwael. Yr hyn rydych chi'n ei fwydo yw'r hyn a gewch. Dyna pam mae Shaip yn cymryd camau rhagweithiol i sicrhau y darperir data o'r ansawdd uchaf ar gyfer eich hyfforddiant AI cynhyrchiol anghenion.
Mae ein protocolau sicrhau ansawdd llym a setiau data o ffynonellau moesegol yn ddelfrydol ar gyfer eich gweledigaethau AI wrth gyflawni canlyniadau glân. Er y gellir datrys gwendidau technegol, mae'n hanfodol bod pryderon ynghylch ansawdd data hyfforddi yn cael sylw ar lawr gwlad er mwyn atal ailweithio ar ddatblygu modelau o'r dechrau. Dyma pam eich AI ac LLM dylai'r cyfnod hyfforddi ddechrau gyda setiau data gan Shaip.
