Q:
Hvorfor undersøger DARPA "forklarbar AI"?
EN:Generelt er forklarbar kunstig intelligens ved at blive en meget indvarslet del af det banebrydende arbejde inden for datalogi. Det hjælper med at guide menneskelig kontrol over en iboende flygtig og dynamisk type teknologi - forklarbar AI hjælper med at besvare mange af vores kollektive spørgsmål om, hvordan kunstig intelligens vil fungere.
For at forstå forklarbar AI hjælper det med at forstå, hvordan "almindelig AI" ser ud. Traditionelt, da AI begynder at tage form, består det typiske projekt af en smuk ny softwarekapacitet, skjult i algoritmer og træningssæt og lineær kode, det er en slags "blokboks" for brugerne. De ved, at det fungerer - de ved bare ikke nøjagtigt hvordan.
Dette kan føre til "tillidsspørgsmål", hvor brugere kan sætte spørgsmålstegn ved det grundlag, hvorpå en teknologi træffer beslutninger. Det er det, som AI skal forklare: Forklarbare AI-projekter leveres med yderligere infrastruktur for at vise slutbrugerne AI's hensigt og struktur - hvorfor det gør, hvad det gør.
I en tidsalder, hvor topinnovatorer som Bill Gates og Elon Musk udtrykker bekymring for, hvordan kunstig intelligens vil fungere, synes AIs forklarende yderst attraktiv. Eksperter hævder, at god forklarbar AI kan hjælpe slutbrugerne med at forstå, hvorfor teknologier gør det, de gør, øger tilliden og også øger brugervenligheden og anvendelsen af disse teknologier.
Dog specifikt forklarer DARPA alene, hvorfor det er interesseret i de nye projekter. En side om DARPA viser, at forsvarsdepartementet forventer en "torrent" af kunstig intelligensapplikationer og en vis mængde kaos i dens udvikling.
”Fortsatte fremskridt lover at producere autonome systemer, der vil opfatte, lære, beslutte og handle på egen hånd, ” skriver David Gunning. ”Effektiviteten af disse systemer er imidlertid begrænset af maskinens aktuelle manglende evne til at forklare deres beslutninger og handlinger for menneskelige brugere. … Forklarelig AI - især forklarbar maskinlæring - vil være vigtig, hvis fremtidige krigsflyvere skal forstå, på passende måde stole på og effektivt styre en voksende generation af kunstigt intelligente maskinpartnere. ”
Gunnings online-essay antyder, at forklarbare AI-systemer vil hjælpe med at ”give grundlaget” for teknologier, vise deres styrker og svagheder og gøre anvendelsessager mere gennemsigtige. En grafik på siden viser, hvordan en ligetil pipeline med kunstig intelligensfunktionalitet fra træningsdata vil blive forøget af noget, der kaldes en forklarbar model og en forklarbar grænseflade, der hjælper brugeren med at besvare spørgsmål. Gunning antyder endvidere, at et forklarbart AI-program vil have to hovedfokusområder - det ene ville sigtes gennem multimediedata for at finde, hvad der er nyttigt for brugerne, og et andet fokus ville være at simulere beslutningsprocesser til beslutningsstøtte.
DARPA håber at give et ”værktøjssæt”, der kan hjælpe med at udvikle fremtidige forklarbare AI-systemer.
