Indholdsfortegnelse:
Definition - Hvad betyder Value Learning Problem?
Værdilæringsproblemet er et specifikt grundlæggende problem i udviklingen af maskinlæring og teknologier til kunstig intelligens, der adresserer forskellen mellem mennesker og computere og de måder, de tænker.
Kort sagt er værdilæringsproblemet baseret på, hvor svært det er for computere at finde ud af, hvad de skal "værdsætte" (med hensyn til både data og politik), og hvordan man handler i et maskinlæringsnetværk, og hvordan programmerere kan optimere, hvordan programmet fungerer som det matcher deres oprindelige intentioner, da de oprettede det.
Techopedia forklarer Value Learning Problem
Nøglen til værdilæringsproblemet er, at det er ekstremt vigtigt for programmerere at være i stand til at lave maskinlæringsprogrammer, der udfører de tilsigtede værdier. Dog er catch-22, at værdierne ikke kan udtrykkeligt angives på måder, der hindrer selve programets læring.
Folk taler undertiden om 'konvergens' af maskinlæringsteknologier som det vellykkede med fokus på værdidata, men værdilæringsproblemet er på nogle måder lidt anderledes. Det er tanken, at der skal være en eller anden grundlæggende måde at vise maskinlæringsprogrammet, hvad der ønskes, snarere end bare at stave det ud, hvilket er en deterministisk måde at køre ML på.
Tag for eksempel dette papir om værdilæringsproblemet, der antyder, at maskinlæringsprogrammer kan have et lager sæt af input, der viser positive menneskelige reaktioner på stimuli. Når man læser disse typer adresser til værdilæringsproblemet, bliver det klart, at der er et stort hul i maskinlæring, som ikke er nemt at løse - i det væsentlige - hvordan skaber mennesker maskiner, der virkelig kan tænke som mennesker? En anden måde at forklare dette på er, at værdilæringsproblemet går i hjertet af, hvordan vi tænker som mennesker, og hvordan vores tanker ikke altid er baseret på input fra input.
For computere at modellere vores intuition, vores instinkt, vores sociale tilbøjeligheder og vores dybeste etiske værdier er en høj rækkefølge, selv når computere kan lære at spille skak på en menneskelig måde eller overgå os til at løse vanskelige matematikproblemer. Fagfolk kan forvente, at værdilæringsprogrammet fortsat vil være centralt i udviklingen af maskinlæringsteknologier.
