Q:
Hvorfor er nogle mennesker bekymrede for kunstig intelligens?
EN:Forandring er ikke let, og mange mennesker har svært ved at tilpasse sig det. Dette gælder især for teknologisk forandring. Den bemærkede Harvard-professor Calestous Juma skrev en bog om emnet "Innovation and Its Enemies: Why People Resist New Technologies." Bogen skitserer spændingerne mellem innovation og den sociale orden, der bygger på 600 års historie. Effekten af teknologi er især besværlig, når det kommer til kunstig intelligens.
Ikke alle er uheldige over disse fremskridt. Ray Kurzweil, forfatter af "Singulariteten er nær" og "Age of Spiritual Machines", er intet mindre end en evangelist, der fremmer fordelene ved genetik, nanoteknologi og robotik (et udtryk, der bruges til ikke-biologisk intelligens). Men dette er de samme problemer - og Kurzweil den samme person - der skabte stor bekymring i år 2000 for Bill Joy, chefforsker ved Sun Microsystems.
Joy skrev om sine bekymringer i en nu berømt artikel i Wired-magasinet kaldet ”Hvorfor fremtiden ikke har brug for os.” Han troede, at selve fremtiden for den menneskelige race stod på spil. Med henvisning til konkurrencen i udviklingshistorien skrev Joy, ”Biologiske arter overlever næsten aldrig møder med overlegne konkurrenter.” Videnskabelige gennembrud, der resulterer i maskiner, der overgår mennesker, har betydelige risici. Visioner om en dystopisk fremtid kommer i tankerne.
Antag, at forskere er i stand til at udvikle maskiner med kunstig superintelligens (ASI), et niveau af intelligens, der er højere end mennesker. Joy siger, at en af to ting kan forekomme: Enten får maskinerne lov til at tage deres egne beslutninger, eller så vil mennesker opretholde kontrol over dem. Hvad sker der, hvis du overleverer strømmen til maskinerne? Hvad kan resultatet være?
Bill Joy er ikke den eneste, der giver udtryk for bekymringer. Teknisk guru Elon Musk sagde: "Med kunstig intelligens indkalder vi dæmonen." Han kaldte det "vores største eksistentielle trussel." Fysiker Stephen Hawking fortalte deltagere på en teknologikonference, at "vi kan ikke vide, om vi vil blive uendeligt hjulpet af AI, eller ignoreret af det og sidefremstillet eller tænkeligt ødelagt af det. ”Og han sagde til Wired-magasinet, ” jeg frygter, at AI kan erstatte mennesker helt. ”
Er denne frygt berettiget? Sci-fi-film som "Transcendence", hvor Johnny Depps karakter binder sig med kunstig intelligens og skaber ødelæggelse, minder om Kurzweils forudsigelser om, hvordan mennesker kunne smelte sammen med maskiner. Fantasier løber løst om alle måder, som kunstig intelligens kan gå galt. Hvad sker der, når maskinerne tager kontrol?
To eksempler fra det virkelige liv illustrerer, hvordan bekymring for kunstig intelligens kan være forståelig. I 2007 dræbte en robotkanon ni mennesker og sårede 14. Nogle avancerede militære våben vælger automatisk deres mål, men venter på, at et menneske skal trække i udløseren. Hvem tog beslutningerne her? I 2016 bankede en sikkerhedsrobot på 300 pund ned og løb over en seksten måneder gammel småbørn. Hvem havde kontrol i dette tilfælde: mand eller maskine?
Årsagen til, at nogle mennesker er bekymrede for kunstig intelligens, er, at risikoen er reel. Det næste spørgsmål: Hvordan håndterer vi disse risici?
