Q:
Hvorfor er det vigtigt for dataforskere at søge gennemsigtighed?
EN:Gennemsigtighed er væsentligt vigtigt i datavidenskabelige projekter og maskinlæringsprogrammer, delvis på grund af den kompleksitet og sofistikering, der driver dem - fordi disse programmer er "læring" (genererer sandsynlige resultater) snarere end at følge forudbestemte lineære programmeringsinstruktioner, og fordi de som et resultat, det kan være svært at forstå, hvordan teknologien når konklusioner. "Black box" -problemet med maskinlæringsalgoritmer, der ikke kan forklares fuldt ud for menneskelige beslutningstagere, er et stort problem på dette felt.
Med det i tankerne vil det at være i stand til at mestre forklarbar maskinlæring eller "forklarbar AI" sandsynligvis være et hovedfokus i, hvordan virksomheder forfølger talentindsamling for en datavidenskabsmand. Allerede DARPA, den institution, der bragte os internettet, finansierer en undersøgelse på flere millioner dollars i forklarbar AI, der prøver at fremme de færdigheder og ressourcer, der er nødvendige for at skabe maskinlæring og teknologier til kunstig intelligens, der er gennemsigtige for mennesker.
En måde at tænke over det på er, at der ofte er et ”læsefærdighedsstadium” af talentudvikling og et ”hyperliteratursfase.” For en datavidenskabsmand ville det traditionelle læseevne-trin være viden om, hvordan man sammensætter maskinlæringsprogrammer, og hvordan man bygger algoritmer med sprog som Python; hvordan man konstruerer neurale netværk og arbejder med dem. Hyperlitteraturfasen ville være evnen til at mestre forklarbar AI, tilvejebringe gennemsigtighed i brugen af maskinlæringsalgoritmer og at bevare gennemsigtighed, da disse programmer arbejder mod deres mål og deres håndterings mål.
En anden måde at forklare vigtigheden af gennemsigtighed i datavidenskaben er, at de datasæt, der bruges, bliver mere sofistikerede og derfor mere potentielt indgribende i folks liv. En anden vigtig drivkraft for forklarbar maskinlæring og datavidenskab er den europæiske almindelige databeskyttelsesforordning, der for nylig blev implementeret for at forsøge at begrænse uetisk brug af personoplysninger. Brug af GDPR som en testtilfælde kan eksperter se, hvordan behovet for at forklare datavidensprojekter passer ind i hensynet til privatlivets fred og sikkerhed samt forretningsetik.
