Problemen med AI eller rättare sagt stora språkmodeller (LLM) är inte att vi kan dödas av artificiell intelligens som börjat tänka själv. Helt enkelt för att det inte är möjligt att de ska kunna tänka själva eller vara självmedvetna. Det bara ser ut så då LLM:er använder vanligt språk som ett programmeringsspråk. Självlärande program har dock funnits mycket länge men de har tidigare bara använt språk som specialskrivit för att vara programmeringsspråk.
Inte heller behöver vi LLM till speciellt mycket. Det är bar att ha för att söka igenom stora datamassor och lämna resultaten till människor för att använda resultaten. För speciella ändamål av olika slag är de också användbara. Förmodligen är AI bättre än människor att döma i vissa typer av brottmål då de saknar fördomar. Exempelvis i våldstäktsrättegångar och misshandelsrättegångar. De är värdelösa som sökmotorer. Traditionella indexbaserade sökmotorer är mycket bättre på att ge länkar till relevanta svar.
De stora problemen är annars den extrema koncentrationen av makt och kapital till en handfull AI-jättar i USA som Rasmus Fleischer skriver om i Aftonbladet. Han skriver bland annat om hur ansvarslöst dessa företag släpper lös AI-modeller med destruktiv potential. Datacentrens skenande förbrukning av energi är ett annat stort problem. Däremot förbrukar de inga stora mängder vatten. Det är en missuppfattning som bygger på att folk inte begriper hur kylsystem fungerar. Inte heller Fleischer begriper hur de fungerar. Kylsystem med kylvatten innebär att kylvattnet släpps ut igen. Det förbrukas inte.
Dessutom skapar AI-företagen problem i den finansiella sektorn vilket beskrivs av Rasmus Fleischer:
Ekonomijournalister riktar ljusetpå hur AI-industrins storspelare blåser upp varandras balansräkningar i ett slags finansiell rundgång. Hårdvarutillverkaren Nvidia öser investeringar över alla slags AI-företag, så att dessa kan bygga ännu större datacenter, fyllda med hårdvara köpt från Nvidia. OpenAI och Anthropic tecknar fleråriga avtal där de förbinder sig att spendera hundratals miljarder dollar på hyra av datorkraft från molnleverantörer som Meta, Microsoft och Amazon.
Mottagarna har redan bokfört detta som framtida intäkter, men varifrån pengarna ska komma förblir oklart. Varken OpenAI eller Anthropic går ju med vinst. De intäkter man har kommer främst från några hundra tech-startups som använder AI-modellerna som grundsten för olika specialtjänster, vilka i sin tur inte går med vinst utan hålls igång av riskkapital. Kretsloppet av låtsaspengar bygger på att investerarna fortsätter tro på ständig tillväxt i AI-industrin, en tillväxt som rent konkret innebär en ständigt ökad klimatpåverkan från energislukande datacenter. Hur mycket kan räntorna stiga innan denna tilltro slår över i tvivel, marknadspanik och en ny global finanskris?
Läs mer:
- Överdriven rädsla för AI
- Det här med AI eller LLM
- AI, sociala medier och sökmotorer
- AI-företag och sociala medier
- Kylvatten försvinner inte – apropå stora datacenter
- Att Sverige har billig el är lockande för AI-företagen
- Helautomatisk lyxkommunism – det stundande överflödet
- Helautomatisk lyxkommunism – Kapitalism och kommunism
- AI-företag och sociala medier
- AI: ett annat hot
- Hur mycket el drar en AI-fråga egentligen?
Upptäck mer från Svenssons Nyheter
Prenumerera för att få de senaste inläggen skickade till din e-post.
LLMer saknar _absolut_ inte fördomar. Snarare tvärtom! Se Race After Technology (Ruha Benjamin), Algorithms of Oppression (Safiya Noble), och mycket mycket forskning om hur LLMer och annan maskininlärning snarare vidarebefordrar och kodar in existerande fördomar, och ger dem ett sken av ”objektivitet” snarare än kontrar dem.
Jo. LLM:er saknar fördomar. Människor har fördomar. Därför reproducerar LLM:er dess fördomar då de använder mänskligt material. Men de (LLM:er) har inga fördomar. De kan inte tänka.
Men när det gäller att tolka lagtexter så är AI bevisat bättre än människan. Exempelvis blir det fler fällande domar i våldtäktsmål för att den våldtagnas klädsel, utseende, uttal, språkbruk, dialekt och uppförande inte spelar nån roll för domen. Jag skrev om detta för många år sen och det har prövats. Det fungerade bra. Jag hittar dock inte texten just nu.
> Datacentrens skenande förbrukning av energi är ett annat stort problem. Däremot förbrukar de inga stora mängder vatten.
Det här är en sanning med modifikation. Det finns ett direkt omvänt samband mellan vatten- och energiåtgång för stora datacenter: Kylning mha avdunstning gör av med enormt mycket vatten, men är energieffektivt. Luftkylning mha vad som i praktiken är enorm luftkonditionering är betydligt mer vatteneffektiv (även om det även där går åt en del), men kräver i gengäld mer energi.
Avdunstning används istället för luftkonditionering. Och ja det används i en del datahallar för att minska elförbrukningen. Det vatten de avdunstar är om jag förstått det rätt sådant som finns i luften. Naturlig avdunstning. Inget vatten tillförs från vattendrag och det förbrukas alltså inget vatten.
Men det är inte vad vi talar om här. I AI-datacenter behövs helt andra kylresurser som jag förstår det. Samma sorts kylning som vänds i processindustri. Jag har jobbat petrokemisk industri, oljekraftverk och skrivit dataprogram för kärnkraftverk. Har aldrig nånsin sett avdunstning som en del i ett kylsystem men däremot har jag sett användas istället för luftkonditionering..
Kylsystem kan vara slutna. Kylvattnet används i värmeväxlare som kyler kylmediet. Det blir varmt och släpps sen ut. Det finns också kylsystem som använder vatten som sen kyls ner av luft i kyltorn. Då kondenseras lite vatten men det mesta återvinns och används igen eller släpps ut.
Problemet med LLM uppstår bara om folk litar på dem.
Eftersom de inte kan tänka själva och inte vet vilka uppgifter som är riktiga sprider de en massa dumheter, se https://sv.wikipedia.org/wiki/Hallucination_(artificiell_intelligens). Det är ungefär som när jag använder LLM-baserad AI för att översätta, något jag gör nästan varje dag. Om jag skulle lita på resultatet skulle folk få mycket konstiga meddelanden.
Nu översätter jag bara till och från språk jag kan, så jag kan gå igenom resultatet och rätta. Kort sagt, jag behandlar AI-programmet som en chef skulle behandla en lärling. Dvs till att göra enkla saker som jag själv tycker är tråkiga och tidskrävande.
Men det krävs ju att folk i gemen har den insikten och inte tror på drömmar.
Det stora problemet är dock ekonomin, som Fleischer säger: AI-bubblan börjar betänkligt att likna andra bubblor och kommer rimligen att brista. Och det kan skapa stora problem i hela västvärldens ekonomi, jfr 2008.
Du är alldeles för tvärsäker i frågan om LLM:r kan blir ett hot. De behöver inte kunna ”tänka” och definitivt inte vara självmedvetna för att vara farliga. Det räcker att vi ger de möjlighet att agera på nätet, med långa planeringshorisonter, för att de ska kunna göra verklig skada, anting därför att en människa ber om det eller för att det är en oavsiktlig konsekvens.
En LLM försöker uppfylla sina instruktioner, utifrån träningsdata som inte ens AI-företagen förstår. Och åtminstone Elon Musks MechaHitller är tränade på nazipropaganda.
Jag vet inte om det räcker med att en LLM har tusen gånger högre kapacitet än det vi ser idag. Men om inte den exponsentiella utvecklingen börjar mattas snart börjar det bli farligt snart.
Det räcker med att en LLM som löper amok utlöser ett kärnvapenkrig, konstruerar ett nytt virus, orsaker en bank-krasch eller sänker elnäten för att orsaka verklig skada. Och risken för det är tillräckligt hög för att vi behöver ta den på allvar.
Jag tror att vi kommer att se riktiga katastrofer som får att oss dra i nödbromsen redan innan vi kommer i närheten av superintelligens. Men det är inte en risk som bör avfärdas lättvindigt. Det är inte heller ett skäl att ignorera alla de andra riskerna med LLM-er.
Det går alltid att stänga av strömmen. Därför är jag tvärsäker. De är inget hot mot mänskligheten. Däremot är det hot på andra nivåer. Det håller jag med om. Det har jag också berört i tidigare inlägg.
När du säger att det alltid går att stänga av strömmen antar du saker som inte nödvändigtvis stämmer.
Det stämmer nog för dagens LLM:er som kräver gigantiska datahallar. Men vad säger att en AI som genomgått ytterligare 10 eller 30 eller 30 fördubblingar i kapacitet inte skulle kunna klara sig på solkraft och batterier?
Det finns redan nedladdningsbara LLM:er som funkar utan tillgång till nätet. De är betydligt mindre kraftfulla, men de kommer också att bli bättre med tiden.
Det stämmer även då. Ström går alltid att stänga av.
Dessutom är det en definitionsfråga vad man menar med ”mänskligheten”. Det förefaller som om vissa tech-miljardärer inte bekymrar sig så mycket om den utan gärna ser att 95 procent av den dör, bara de själva kan leva kvar i överflöd. Är detta då ett hot mot mänskligheten eller inte?
Och sen har vi ju frågan om kärnvapenkrig av misstag pga dåliga algoritmer. Jodå, i sydligaste Sydamerika kommer kanske folk att överleva. Är det då ett hot mot mänskligheten?
Det första är inget hot mot mänsklighetens överlevnad. Kärnvapen liksom klimatförändringar kan självklart vara ett hot mot mänskligheten. Men inte AI sig. Och mänskliga misstag kan orsaka en kärnvapenkatastrof. Felaktiga algoritmer är ett mänskligt misstag och inte ett resultat av en tänkande eller självmedveten AI. Detta även om en AI använts för att räkna ut och skapa koden bakom algoritmerna. Sånt har också varit möjligt så länge vi haft kärnvapen och datorer, dvs i alla fall sen 1950-talet och har inget med LLM:er i sig att göra.
Det har faktiskt nästan hänt: https://www.theguardian.com/commentisfree/2026/oct/01/forget-superintelligence-error-prone-ai-nearly-sparked-world-war-iii-this-month
Självklart är det alltför mycket förlitande till AI som är problemet. Dvs mänskligt beteende. Men ju mer som automatiseras desto större blir risken att det inte går att stoppa.
I och för sig har vi redan nästan haft kärnvapenkrig – redan 1983 då sovjetiska missilvarningssystemet fick skrämselhicka. Som väl var hade befälhavande officer tretti minuter på sig att kolla eftersom missilerna då skulle ha kommit från Tyskland eller liknande. Han konstaterade att det var ett tekniskt fel. Men ju närmare de står desto större är risken att man inte har tid att kolla.
Incidenten 1983 var den jag tänkte på när jag skrev att det inte har med AI i sig att göra. Att USA använde AI var en del av orsakerna till att skolan där en massa elever dödades i Iran bombades. Men det hade också med att AI:n fick gamla uppgifter att arbeta med att göra. Det hade inte med hastighet och tid att göra.