Sånn jeg ser det er neppe problemet de jobbene de vil erstatte, eller at de vil erstatte så veldig mange i det hele og det store når boblen til slutt sprekker, det vil være mer effektivt for folk som bruker AI i sitt daglige arbeid enn de som ikke gjør det. Det er pr i dag en "force multiplicator". Problemet er at man ikke har konsept om forståelse om hvilken innflytelse og "alignment" og mål som AIen eller AIene selv finner ut av når absolutt alt skal være koblet opp mot ett og samme eller et distribuert nettverk av AIer. En tue med maur kan ikke samles om å kjempe mot et menneske som skal utslette tuen og de har ikke en gang konseptet om at et menneske er eller hva mennesket definerer som intelligens eller dets konsept om verdi, mål eller mening. Det samme konseptet tror jeg i prinsippet kan overføres til hva enn vi i fellesskap er uvitende om at vi bygger. Vi kan manipulere maurtuer i den grad at de ikke en gang enser at vi er tilstede, vår intensjon eller har forståelse for vår innflytelse i det vi veileder de i sin egen avgrunn.

Jeg vet ikke helt ... Den klarer 100 linjer med kode greit, men enhver større programmeringsprosjekt består av millioner av linjer kode ...

Det skal veldig mye framgang og utvikling i KI for å komme seg fra 100 linjer til millioner av linjer med kode.

Det er ikke så lett. Skal du f.eks. lage et nettverksspill må du forstå ganske så mange avansterte konsepter relatert til klient-server arkitektur. Og du må kune forstå koden AI genererer, ikke hver lille detalj, men et oversiktsbilde må en ha. Ellers kommer hackee i dette tilfellet til å ødelegge spillet.

svaret ditt tar for seg to ulike stadier i utviklingen.
den første delen reflekterer over nåtidens stadie rundt AI,
og du har helt rett det er en force multiplier som øker produktivitet
og om vi stopper all utvikling, så kommer nok ikke mange jobber forsvinne.
den duger kanskje til å automatisere noe mer en hva vi har i dag.

men det kommer definitivt ikke stoppe her.

den andre delen av svaret ditt handler om en potensiel framtids AI. og jeg likte
maur analogien, en superintelligence som blir så avansert at mennesker ikke kan forstå
eller kontrollere den.
dette er jo ett seriøst diskutert tema, og ett reel bekymring oss noen eksperter,
og ikke "science fiction" i mangel på bedre ord.

det kan hende forventningene til AI er urealistiske, og at en superintelligence er science fiction.
men en bobble sprekker og at verdien av AI forsvinner?
tror du det? :P

okej ser den... det er ganske komplekst.
men det er veldig mye fremgang og utvilking som skjer nå
i mellomtiden duger den som en assistent.

en AI som feks chatgpt er foret med enorme mengder data.
i starten vet den ingenting om dataen.
men altettersom treningen foregår, begynner den å se ett mønster i en masse eksempler.
og det virker som det er veldig plutselig den viser forståelse for allt,
og begynner å gi sammenhengende og nøyaktige svar.
om man ser bortifra at det faktisk tar måneder pga processing power hehe
er det så utenkelig at man om man forer den med utallige eksempler på spillkode, kanskje flere hundre millioner linjer,
at den ikke skulle bli bedre til nøyaktig det?
jeg vet ikke. men noen kommer sikkert til å prøve.

AI har blitt implementert i flere spill som feks DOTA osv og blitt matched mot verdensmestere.
og har vist ganske imponerende taktik de profesionelle ikke hadde sett før.
det finnes fler eksempler på online spill med samme resultat.
for ikke glemme alpha go og alpha zero.

strategisk har vi ikke sjangs mot en superintelligence.

det er artig "filosofi"

Med boblen sprekker så mener jeg egentlig at det ansettes veldig mye folk i dag innen AI for å effektivisere og optimalisere arbeidsflyt for å fortsatt fortsette på en eksponensiell kurve av utbytte til investorer i det vi i dag forankrer verdi i, penger. Hva som får denne boblen til å sprekke skal jeg ikke uttale meg så mye om eller være for bastant, men det kan f.eks være reguleringer igjennom politikk eller frykt fordi det er noe som skjer, eller tidlige hendelser som kanskje får oss til å tenke litt om hva vi bygger. Jeg tror ikke at ved en boble som sprekker så vil verdien i AI forsvinne, mer at den normaliserer seg. De verdiene og følgelig den energien som vi ser både investert og i aksjekurser i dag er ikke (som jeg ser det) innenfor det som ville være det normale, som ligner veldig mange andre bobler vi har sett. Fra mitt perspektiv så virker det som veldig mye hype og boble. Nytten er definitivt tilstede men vi bør definitivt forsøke å enes om hva det er vi bygger og hva for et type verdenssamfunn som vil være resultatet av det. Akkurat nå virker det til at utviklingen skjer, og så følger verden og konsekvensene etterpå. Riktig nok er dette veldig vanlig, men i den hastighet og aksellerasjon det nå skjer i jeg er litt usikker på om vi står til lag å håndtere. Det jeg i prinsippet ønsker er kanskje rett og slett mer felles regulering og en større diskusjon på et høyere plan og spørsmål om nøyaktig *hva* vi bygger og *hvorfor* og hva som er det overordnede målet her. The long game plan.

Det kan helt sikkert være at "superintelligence" som utsletter oss er ren science fiction. Men dersom veien som vi nå lager har en viss prosenvis sannsynlighet til å lede oss dit så syns jeg det absolutt er noe som vi bør ta høyde for! Det er mange slike scenario i vår fremtid, som jeg også syns bør ha et høyere grad av fokus. For å bare nevne et par vil det være både endringer i klima eller utslettende nedslag i form av asteroider eller meteorider. Det later til å være en liten fokus på eventualitetene og vi hviler på skuldrene om at alt bare går bra. Det er jeg ikke så veldig sikker på!

Som sitatet fra Jurassic Park, "Your scientists were so preoccupied with whether they could, they didn't stop to think if they should."

Har du kilde på dette?

Kan du liste opp disse landene? og vet du hvordan det fungerer der borte?