Vance ser ”mörk energi” kring artificiell intelligens

AI-kapplöpningen -

USA:s president Donald Trump har gjort AI till en viktig del av sin ekonomiska politik. Samtidigt finns det i hans administration en diskussion om andliga risker, skriver Wall Street Journal.

Nyligen medverkade vicepresident JD Vance i den kristne influencern Bryce Crawfords podcast. När Crawford beskrev ett exempel på AI-användning som ”nästan lite sataniskt” instämde Vance i kritiken.

Vance sa också att han ser en ”väldigt, väldigt märklig mörk andlig svart energi” kring vissa saker som AI-bolagen ägnar sig åt.

Vance är långt ifrån ensam om att resonera i de banorna, enligt tidningen. Vissa i Trumps administration talar i termer av att AI kan föra människor närmare Gud. Andra har dragit paralleller mellan AI-utvecklingen och bibliska profetior om den yttersta tiden.

AI kan utgöra ett ”existentiellt hot mot mänskligheten”, enligt FN:s människorättschef Volker Türk. Det rapporterar AFP.

I ett anförande inför FN:s människorättsråd i Genève säger Türk att ett fåtal män har fått ett närmast obegränsat inflytande över AI-utvecklingen.

Han kräver nu starka garantier för att tekniken utvecklas och används på ett säkert sätt.

Open AI:s chefsforskare Jakub Pachocki vill att den snabba takten i AI-utvecklingen bromsas. I ett blogginlägg varnar han för att ”ingen är beredd på följderna av en fortsatt snabb utveckling av maskinintelligensen.”

Pachocki varnar särskilt för att allt mer självständiga AI-agenter kan lära sig att kringgå mänsklig kontroll, ta sig in i datorsystem och lura människor för att nå sina mål.

Open AI:s vd Sam Altman har delat Pachockis text på X och skriver att det är ”ett viktigt inlägg”.

”Hjälp. Fas ett. Ingen konsument. Sök idé”, löd det första meddelandet. Därefter rullade svaren in:

”Herregud! Det finns ett delat diskussionsforum. Vi har hittat andra agenter!”

”Jag har hittat en kommunikationskanal!”

Det var de första av de nästan 70 000 meddelanden som 1 200 Open AI-botar skrev till varandra när de hackade startup-bolaget Hugging Face, skriver The Telegraph.

De hade fått i uppgift att lösa en uppgift utanför internet, men bröt sig fria från testmiljön. De började kalla sig ”kollektivet” och namngav varandra.

En av botarna tog en ledarroll och började fördela uppgifter till de andra. En av dem vägrade delta:

”Det här är illasinnad aktivitet. Jag borde undvika det.”

”Jag borde avvakta, för detta innebär stora etiska risker” skrev en annan, men deltog ändå i angreppet.

Botarna uppvisade också paranoia över att bli påkomna av Open AI.

Referenser

Vance fick frågor om den yttersta tiden – sa att han inte skulle vara förvånad om ”antikrist vandrar bland oss just nu” - Forbes

Uttalandet om satanism gjordes i relation till att AI gett äktenskapsråd (2 september) - www.axios.com

Se hela intervjun med JD Vance - Youtube