Kan du stole på AI? Bør du acceptere dens fund som objektivt gyldige uden spørgsmål? Problemet er, at selv spørgsmålstegn ved selve AI ikke ville give klare svar.
AI-systemer har generelt fungeret som en sort boks: Data indlæses, og data udsendes, men processerne, der transformerer disse data, er et mysterium. Det skaber et dobbelt problem. Den ene er, at det er uklart, hvilke algoritmernes ydelse der er mest pålidelige. Det andet er, at de tilsyneladende objektive resultater kan skejses af værdier og forudindvindinger for de mennesker, der programmerer systemerne. Dette er grunden til, at der er behov for gennemsigtighed for de virtuelle tankeprocesser, som sådanne systemer bruger, eller "forklarbar AI."
Det etiske imperativ er blevet et lovligt krav for enhver, der er underlagt GDPR, som ikke påvirker virksomheder kun hjemmehørende i EU, men enhver, der har forhold til mennesker eller organisationer der. Det indeholder en række bestemmelser om databeskyttelse, der udvider EU-borgere til "retten til ikke kun at være underlagt automatiseret beslutningstagning, undtagen i visse situationer" og "retten til at blive forsynet med meningsfulde oplysninger om den logik, der er involveret i beslutningen .”
