Minnesmästarens oro: Att AI utrotar mänskligheten

Utvecklingen av AI -

Det är minst 10 procents risk att alla människor är döda inom tio år på grund av AI. Det säger minnesmästaren och entreprenören Jonas von Essen i en intervju med Dagens ETC.

– Det är lätt att underskatta vad intelligens kan göra. Men om man har en superintelligens som kan tänka en miljon gånger snabbare än en människa, då motsvarar en enda dag 3 000 år av mänskligt tänkande.

von Essen säger att han egentligen älskar AI, men att han blev deprimerad efter att ha läst allt han kommit över om ämnet. Han menar nu att tekniken behöver regleras, och det snabbt.

Unga som har vänskaps- eller romansliknande relationer med en chattbot riskerar att isoleras eller få en skev bild av förhållanden. Det säger Chalmers-doktoranden Negin Hashmati, som forskar på relationer och AI, till P4 Göteborg.

Hon uppmuntrar de som vill ”göra slut” med en språkmodell inte ska ge den en chans att komma med invändningar.

– Jag tror kanske att det bästa sättet är att inte säga något utan att bara sluta använda den.

AI-jättarna radar upp nya modeller och uppdateringar den här veckan. Senast ut är Meta, som lanserar en ny version av AI-modellen Muse Spark.

Metas nya modell ska bland annat vara bättre på programmering och på att självständigt utföra uppgifter. AI-chefen Alexandr Wang säger till Axios att tekniken ska bana väg för personliga AI-agenter som kan ”arbeta dygnet runt för dig och hjälpa dig att nå dina mål”.

Även Google och Anthropic har presenterat nya eller uppdaterade modeller. Open AI har samtidigt meddelat att den nya modellen Astra snart ska släppas.

Staden New York begränsar användningen av AI och digitala skärmar i skolor. Det rapporterar New York Times.

Elever yngre än 13 år ska inte få använda AI. För äldre barn ska tekniken bara tillåtas i särskilda lägen, exempelvis för undervisning om själva tekniken. Lärare får fortsätta använda AI, bland annat för att planera lektioner.

New York har USA:s största skoldistrikt med över 900 000 elever och stadens teknikregler följs därför noga i resten av landet, enligt tidningen.

– Teknikbranschen vill få oss att tro att AI-driven utbildning för små barn inte bara är oundviklig utan nödvändig. Vi ser det inte så, säger borgmästaren Zohran Mamdani.

Referenser

Allt fler politiker kräver hårdare tag mot AI-bolagen - www.theguardian.com

Jonas von Essen - Wikipedia (en)