Diffiniad
Mae rhagfarn mewn deallusrwydd artiffisial yn cyfeirio at wallau systematig mewn allbynnau deallusrwydd artiffisial a achosir gan ddata camarweiniol, dyluniad diffygiol, neu anghydraddoldebau cymdeithasol a adlewyrchir mewn setiau data. Gall arwain at ganlyniadau annheg neu wahaniaethol.
Diben
Pwrpas astudio rhagfarn yw nodi a lliniaru annhegwch mewn systemau AI. Nod sefydliadau yw adeiladu modelau mwy cyfartal drwy fynd i'r afael â'r materion hyn.
Pwysigrwydd
- Yn arwain at wahaniaethu wrth gyflogi, benthyca, neu ofal iechyd os na chaiff ei drin.
- Yn tanseilio ymddiriedaeth mewn systemau AI.
- Yn gofyn am gydymffurfiaeth reoliadol mewn diwydiannau sensitif.
- Yn gysylltiedig â thegwch ac arferion AI cyfrifol.
Sut Mae'n Gwaith
- Nodwch ffynonellau posibl o ragfarn (casglu data, labelu, modelu).
- Dadansoddi setiau data am anghydbwysedd.
- Defnyddiwch ddulliau hyfforddi sy'n ymwybodol o degwch.
- Profi allbynnau gyda metrigau tegwch.
- Addasu'r dyluniad ac ailhyfforddi os oes angen.
Enghreifftiau (Y Byd Go Iawn)
- Offeryn asesu risg COMPAS: wedi'i feirniadu am ragfarn hiliol.
- Algorithm cyflogi Amazon: wedi'i wrthod oherwydd rhagfarn rhywedd.
- Adnabyddiaeth wyneb: yn hysbys am gamddosbarthu rhai grwpiau demograffig.
Cyfeiriadau / Darllen Pellach
- Rhagfarn AI — NIST.
- Tegwch a Dysgu Peirianyddol — Barocas, Hardt, a Narayanan (llyfr).
- Rhagfarn Algorithmig — Trafodion Cynhadledd ACM FAccT.
- Data Hyfforddi Deallusrwydd Artiffisial Amrywiol: Yr Allwedd i Ddileu Rhagfarn
