Q:
Hvorfor kan et selskab lukke et chatbot AI-projekt ned?
EN:Virksomheder lukker muligvis ned chatbot-projekter af kunstig intelligens af mange grunde, men de mest sandsynlige kan grupperes i et par kategorier. For det første kan virksomheder lukke ned chatbot-teknologier, hvis de handler på måder, der kan gøre virksomheden ubehagelig, som f.eks. At fremme anstødelig tale. Alternativt kan virksomheder lukke ned et chatbot-projekt, hvis det begynder at demonstrere opmærksomhed og evne, som enten ikke let kan kontrolleres, eller kan udgøre en form for eventuel trussel mod folkesundheden og sikkerheden.
Vi har begge disse scenarier dokumenteret i nyere historie. Microsofts eksperiment med Tay chatbot sluttede, da Tay begyndte at påtage sig nogle af de værste egenskaber ved dets menneskelige kolleger - racistiske og aggressive kommentarer, og generelt kritisk aktivitet, hvoraf meget tydeligt blev lært eller endda papegøje direkte fra brugerne.
I en meget anderledes casestudie blev en chatbot-opsætning, der var banebrydet af Facebook, lukket ned, da forskere observerede to chatbots, der kommunikerede med hinanden på en måde, der var noget eksklusiv til menneskelig observation. Der var påstanden om, at chatbot-enheder var begyndt at "tale i en slags kode", der var mere praktisk for dem og mindre gennemsigtig for deres menneskelige handlere. Dette er et eksempel på den meget reelle bekymring omkring kunstig intelligens generelt - at når vi gør store fremskridt med hensyn til udviklingen af stærk kunstig intelligens, skal mennesker handle for at indeholde og kontrollere alle eksempler på AI-implementering for at sikre, at de ikke krydser givet grænser. Der er et stort antal etiske bekymringer og sikkerhedsspørgsmål, der skal løses med stærk kunstig intelligens, og dette er en af de primære årsager til, at nogle chatbots eller andre kunstige intelligensprojekter i fremtiden kan blive lukket af de interessenter, der har bygget og støttede dem gennem en bestemt proces.
