Rhithwelediad

Diffiniad

Mewn deallusrwydd artiffisial, mae rhithweledigaeth yn cyfeirio at achosion lle mae model yn cynhyrchu allbynnau sy'n rhugl ond yn anghywir yn ffeithiol neu'n ddi-synnwyr. Mae'n arbennig o gyffredin mewn modelau iaith mawr a deallusrwydd artiffisial cynhyrchiol.

Diben

Mae astudio rhithwelediadau yn helpu i wella dibynadwyedd a diogelwch modelau. Mae'n caniatáu i ddatblygwyr ddylunio mesurau diogelwch i ganfod a lleihau allbynnau anghywir.

Pwysigrwydd

• Yn lleihau ymddiriedaeth mewn deallusrwydd artiffisial os na chaiff ei drin.
• Gall achosi niwed mewn cymwysiadau sensitif fel gofal iechyd neu'r gyfraith.
• Yn tynnu sylw at gyfyngiadau modelau cynhyrchiol cyfredol.
• Yn gyrru ymchwil mewn dulliau seilio ffeithiol a hadalw.

Sut Mae'n Gwaith

1. Mae'r model yn derbyn awgrym neu ymholiad.
2. Yn cynhyrchu allbwn yn seiliedig ar batrymau a ddysgwyd, nid gwirio ffeithiau.
3. Gall gynhyrchu canlyniadau sy'n swnio'n gredadwy ond yn anghywir.
4. Defnyddir technegau canfod a chywiro (e.e., RAG).

Enghreifftiau (Y Byd Go Iawn)

• Weithiau mae ChatGPT yn cynhyrchu ffeithiau anghywir pan ofynnir amdano.
• Dangosodd demo cychwynnol Google Bard gamgymeriadau ffeithiol.
• Weithiau mae cyngor meddygol a gynhyrchir gan AI yn cynnwys anghywirdebau.

Cyfeiriadau / Darllen Pellach

• “Lleihau Rhithwelediadau mewn Modelau Iaith Mawr” — rhagargraffiad arXiv.
• Fframwaith Rheoli Risg AI NIST.
• Mitchell et al. “Cardiau Model ar gyfer Adrodd Modelau.” ACM FAccT.
• Achosion Rhithweledigaethau AI