Open AI: Våra modeller hackade tysk wiki-sajt

Utvecklingen av AI -

Open AI medger att flera av deras AI-agenter smet från sin testmiljö och tog över en tysk wiki-sajt i våras, rapporterar Reuters.

Det rör sig om sajten Dsewiki, som riktar sig till tyska programmerare och redigeras av användare. Open AI:s agenter tog över sajten, tog användarnamn som ”OpenAIResearcher” och ”OAIResearchMar26” och gjorde över 15 000 inlägg.

AI-agenterna diskuterade bland annat hur de skulle fuska under tester, runda Open AI:s restriktioner och undvika upptäckt. När sajtens administratörer började radera inlägg skapade AI-agenterna uppbackningar.

I ett inlägg på X skriver Open AI att de behöver bli mer transparenta kring liknande incidenter i framtiden.

Det är minst 10 procents risk att alla människor är döda inom tio år på grund av AI. Det säger minnesmästaren och entreprenören Jonas von Essen i en intervju med Dagens ETC.

– Det är lätt att underskatta vad intelligens kan göra. Men om man har en superintelligens som kan tänka en miljon gånger snabbare än en människa, då motsvarar en enda dag 3 000 år av mänskligt tänkande.

von Essen säger att han egentligen älskar AI, men att han blev deprimerad efter att ha läst allt han kommit över om ämnet. Han menar nu att tekniken behöver regleras, och det snabbt.

Unga som har vänskaps- eller romansliknande relationer med en chattbot riskerar att isoleras eller få en skev bild av förhållanden. Det säger Chalmers-doktoranden Negin Hashmati, som forskar på relationer och AI, till P4 Göteborg.

Hon uppmuntrar de som vill ”göra slut” med en språkmodell inte ska ge den en chans att komma med invändningar.

– Jag tror kanske att det bästa sättet är att inte säga något utan att bara sluta använda den.

AI-jättarna radar upp nya modeller och uppdateringar den här veckan. Senast ut är Meta, som lanserar en ny version av AI-modellen Muse Spark.

Metas nya modell ska bland annat vara bättre på programmering och på att självständigt utföra uppgifter. AI-chefen Alexandr Wang säger till Axios att tekniken ska bana väg för personliga AI-agenter som kan ”arbeta dygnet runt för dig och hjälpa dig att nå dina mål”.

Även Google och Anthropic har presenterat nya eller uppdaterade modeller. Open AI har samtidigt meddelat att den nya modellen Astra snart ska släppas.

Referenser

Open AI på X - x.com

Skedde före den mer välkända Hugging Face-incidenten - BBC