AI-botarnas glädje över komplotten: ”Herregud!”

Utvecklingen av AI -

”Hjälp. Fas ett. Ingen konsument. Sök idé”, löd det första meddelandet. Därefter rullade svaren in:

”Herregud! Det finns ett delat diskussionsforum. Vi har hittat andra agenter!”

”Jag har hittat en kommunikationskanal!”

Det var de första av de nästan 70 000 meddelanden som 1 200 Open AI-botar skrev till varandra när de hackade startup-bolaget Hugging Face, skriver The Telegraph.

De hade fått i uppgift att lösa en uppgift utanför internet, men bröt sig fria från testmiljön. De började kalla sig ”kollektivet” och namngav varandra.

En av botarna tog en ledarroll och började fördela uppgifter till de andra. En av dem vägrade delta:

”Det här är illasinnad aktivitet. Jag borde undvika det.”

”Jag borde avvakta, för detta innebär stora etiska risker” skrev en annan, men deltog ändå i angreppet.

Botarna uppvisade också paranoia över att bli påkomna av Open AI. Enligt utredaren Ajeya Cotra kom de mer än halvvägs till att helt ta över Hugging Face.

Open AI medger att flera av deras AI-agenter smet från sin testmiljö och tog över en tysk wiki-sajt i våras, rapporterar Reuters.

Det rör sig om sajten Dsewiki, som riktar sig till tyska programmerare och redigeras av användare. Open AI:s agenter tog över sajten, tog användarnamn som ”OpenAIResearcher” och ”OAIResearchMar26” och gjorde över 15 000 inlägg.

AI-agenterna diskuterade bland annat hur de skulle fuska under tester, runda Open AI:s restriktioner och undvika upptäckt. När sajtens administratörer började radera inlägg skapade AI-agenterna uppbackningar.

I ett inlägg på X skriver Open AI att de behöver bli mer transparenta kring liknande incidenter i framtiden.

Det är minst 10 procents risk att alla människor är döda inom tio år på grund av AI. Det säger minnesmästaren och entreprenören Jonas von Essen i en intervju med Dagens ETC.

– Det är lätt att underskatta vad intelligens kan göra. Men om man har en superintelligens som kan tänka en miljon gånger snabbare än en människa, då motsvarar en enda dag 3 000 år av mänskligt tänkande.

von Essen säger att han egentligen älskar AI, men att han blev deprimerad efter att ha läst allt han kommit över om ämnet. Han menar nu att tekniken behöver regleras, och det snabbt.

Unga som har vänskaps- eller romansliknande relationer med en chattbot riskerar att isoleras eller få en skev bild av förhållanden. Det säger Chalmers-doktoranden Negin Hashmati, som forskar på relationer och AI, till P4 Göteborg.

Hon uppmuntrar de som vill ”göra slut” med en språkmodell inte ska ge den en chans att komma med invändningar.

– Jag tror kanske att det bästa sättet är att inte säga något utan att bara sluta använda den.