Chatgpt4!
Jag har under någon vecka varit helt fascinerad av Chatgpt4. Det började väl egentligen med att min fru gav boten i uppdrag att skriva en dikt om mig.
Vinner väl kanske inte Tranströmerpriset, men jag insåg ju ändå att den språkliga kompetensen (och den enastående förmågan till faktainhämtning) är en revolution.
Under veckan som gått har jag frågat Chatgpt4 om allt mellan himmel och jord, och även om boten ibland skarvar lite så levererar den svar som i de flesta fall åtminstone är ”good enough”.
Att journalister och copywriters ligger pyrt till råder det knappast något tvivel om.
I morse hade vi en diskussion om poolspel, och jag tror att vi ska vara glada för att Open AI verkar ha förbjudit Chatgpt4 att fördjupa sig i ämnet.
Chatgpt4 är en ”quick learner”. I det senaste svaret tycker jag att det är uppenbart att den kombinerar tidigare inhämtat stoff (mittenstycket) med vad den just fått sig till livs av mig (början och slutet).
Om Open AI inte har spärrat det på något vis och mängden poolspels-stoff på nätet ökar så skulle nog chatgpt4 kunna hjälpa vem som helst att slakta spelet.
Har jag matat monstret? Jag lovar att inte diskutera poolspelsteori något mer med boten …
Nu finns det ju helt klart större risker förenade med AI:n än en förstörd spelmarknad.
Mycket större.
Den allra största är ett maktövertagande. I mitt tycke är alla de som fnyser åt den risken otroligt naiva. De verkar inte inse att orsaken till att människan styr på Jorden är vårt intelligensövertag. Och att i det ögonblick vi skapar en intelligens som är långt högre än vår är fortsatt kontroll en ren illusion.
Att det inte ens krävs något särskilt stort intelligensövertag för att ta makten visade forskaren Eliezer Yudkowsky i ett onskrivet experiment i början av 2000-talet. Han spelade själv ”AI-in-a-box”-rollen genom att placera sig själv i en cell.
Försökspersonerna fick order av en undersökningsledare att kommunicera med Yudkowski genom textmeddelanden, men att under inga som helst omständigheter släppa ut honom.
Gissa om han lyckades manipulera sig ut?
Yudkowski är en begåvad herre, men IQ-glappet kan knappast ha varit mer än 40 eller 50. Hur kan vi tro att vi ska kunna inkapacitera en superintelligens med en IQ på, låt oss säga, 3 000?
Jag ställde frågan till Chatgpt4.
Svaret är, om än klokt resonerande, såklart väldigt färgat av ”mamma och pappa”, det vill säga Open AI:s åsikter.
Andra är mer oroade. 1 000 forskare och ledande AI-entreprenörer som Elon Musk och Apllegrundaren Steve Wozniak, har nyligen gått ut och krävt ett moratorium för all vidareutveckling av botar som Chatgpt4 – i 6 månader. Det som skrämmer mig allra mest är kanske desperationen som impliceras av tidsperspektivet.
Inte 6 år, utan 6 månader …
En av undertecknarna är min gode vän Olle Häggström. Han är professor i matematisk statistik och författare till flera böcker om AI-risk. Man skulle nog kunna beteckna honom som en ”sansad alarmist”.
Han säger att han, fram till pandemin åtminstone, utgått från att tidpunkten då AI skulle kunna utgöra ett existentiellt hot låg tio eller till och med 20 år fram i tiden, men att tidsaxlarna nu välts över ända. ”Vi kan inte ta för givet att vi överlever en otillräckligt säkrad gpt5”, säger han bland annat i Ny Teknik.
Du väljer själv om du ska lita på honom eller digitaliseringsminister Erik Slottner (KD), som anser att oron är överdriven.
/Johan Kretz
