Jeg tipper at dette kommer til å bli en reell problemstilling, spesielt på engelske foraer og sosiale medier som FB, Reddit, Twitter og YouTube. Typiske steder der man har masse brukere som skriver korte og ikke spesielt gjennomtenkte poster, gjerne fra mobilen. Der vil det bli nærmest umulig for plattformeiere og moderatorer å finne ut av om en post er skrevet av et menneske eller en bot.
Det finnes alltid en gruppe mennesker som er villige til å tjene penger og det vil være penger i å lage AI spam enten for å selge produkter eller fremme et narrativ. Det finnes allerede "troll farms" som jobber mot å få saker til å virke som om det har større allmenn aksept/popularitet enn det egentlig har.
Net neutrality debatten i USA hadde millioner av botposter i et forsøk på å påvirke populasjonen og politikere. Det er et dårlig eksempel fordi det var åpenbart at dette skjedde, men dette skjer i stor skala i dag.
Det som egentlig er skummelt med disse botsa er ikke en "helautomatiserte" botter. Det er hvor mye mer effektivt man kan operere som en eller en liten gruppe mennesker. Se for deg at en aktør som vil påvirke debatten og folkets holdning om EU. En kan da lage programvare som scraper relevante sosiale medier og finner poster av relevanse. Derfra kan aktøren be AIen om å skrive forslag til poster som passer det de ønsker å oppnå. Enten det er
concern trolling, vinklede anekdoter, regelrett feilinformasjon, personagrep eller polariserende utrykk som gjør debatten toxic. Programvaren kan selvfølgelig følge med på debatten og huke tilbake aktøren når den ser at budskapet ikke fungerte (lite upvotes f.ex). AI gjør det noen folk gjør i dag mye mer effektivt og bl.a. politikere, PR selskap og markedsførere vil nok kommersialisere det i langt større grad.
En må ikke glemme at effektiv propaganda trenger ikke å få folk til å endre mening. Ofte så er målet å få folk til å bli usikker på om det er en konsensus rundt en sak. Røykelobbyen gjorde dette svært effektiv ved å publisere misledende forskning som fikk det til å virke sånn om forskningen var usikker. Eller så er målet, spesielt blant autoritære stater, å få det til å virke sånn om man ikke har noe kontroll over politikken og det er like greit å bare melde seg helt ut. En form for håpløshet. Det er et lett budskap å spre i sosiale medier.
Jeg tror ikke dette kommer til å bli et problem på Freak (og i Norge forøvrig) med det første. Vi er for små og nivået av debatten her er
ofte såpass høyt at det ville nok blitt veldig gjennomskuelig. Men jeg tror dette kommer til å bli ganske kaotisk på de store platformene.
Når det gjelder fremtiden så virker det sånn om Europa beveger seg mot en form for felles "BankID" som går på tverrs av hele Europa. Dette er et av målene for
European Digital Identity. Kombiner en felles digital ID med mer reguleringer fra EU rundt spesielt barns bruk av sosiale medier (jeg tipper en enforced aldersgrense i fremtiden) så regner jeg med at det blir sannsynlig at brukere må autentisere seg når de registrerer seg på sosiale medier. Dette vil nok hjelpe på AI spam og tillit da man kan regne med at dette er en person, og at folk kan bli bannet på ordentlig.
Bare så det er sagt så vil ikke dette nødvendigvis lede til masseovervåking. Tjenesten en autentiserer med trenger kun å vite at du er over 18 og få en unik ID slik at en ikke kan registrere flere kontoer samtidig. Og autentiseringstjenesten trenger i hvert fal ikke få noe data tilbake fra tjenesten. Jeg tviler også på at det kommer noe pålegg om at fora som Freak må implementere dette, men jeg tror at det vil gi såpass mye verdi i debatten at det vil bli en del tjenester som frivillig implementerer det.
Så TL;DR. Jeg tror at AI kommer til å bli et regelrett shitshow i USA og andre autoritære stater. Jeg tror også at det vil gjøre sosiale medier enda verre og det vil bli enda flere folk som melder seg ut av det som vi ser en økende trend mot i dag. Jeg tror at autentisering kommer til å en av de viktigste løsningene mot det.
Spennende tider.
Sist endret av Vekst; 16. mai 2023 kl. 11:09.