Biologiska vapen nästa stora AI-risk: ”Kan gå snett på ett ögonblick”

Techbolagens AI-race -

AI-bolagen rustar för risken att deras modeller ska kunna användas för att skapa nya virus och biologiska vapen, rapporterar Financial Times.

Oron är att biologi kan bli nästa stora säkerhetsproblem för AI efter cyberattacker.

Till skillnad från cyberattacker är riskerna svåra att testa. Att fullt ut undersöka vad en AI klarar skulle i värsta fall innebära att faktiskt försöka framställa ett biologiskt vapen i ett laboratorium.

– Det krävs bara ett enda misstag för att på ett ögonblick rasera det förtroende som allmänheten fortfarande har för vetenskap, medicin och teknik. Det kan ta åratal att bygga upp igen, säger David Relman, professor i mikrobiologi och immunologi vid Stanford.

Anthropic lanserar AI-modellerna Claude Fable 5.1 och Claude Mythos 5.1. Modellerna är tekniskt identiska men har olika grader av säkerhetsspärrar, skriver Mashable.

Fable 5.1 blir brett tillgänglig. Mythos har starkare förmågor inom bland annat cybersäkerhet och släpps bara till särskilt granskade partners.

Lanseringen sker kort efter rapporter om att AI-agenter från både Anthropic och Open AI agerat utanför sina instruktioner i säkerhetstester, vilket har väckt nya frågor om riskerna med allt mer avancerade AI-system.

Open AI slår tillbaka efter att Apple kommit med nya anklagelser om att före detta anställda stulit företagshemligheter, rapporterar Reuters.

Apple hävdade på måndagen att en tidigare anställd använt hemliga tekniska ritningar från Apple i sitt arbete på Open AI.

I en domstolinslaga lägger Open AI all skuld på Apple. Bland annat pekar bolaget på att Apple låter anställda använda privata Icloud-konton i jobbet och har bristfälliga rutiner när de slutar.

”Den här tvisten är en röra som Apple själv har skapat och nu försöker de skylla på alla andra”, skriver Open AI.

Storbritanniens centralbankschef Andrew Bailey varnar G20-länderna för att satsningarna på AI gör marknaden sårbar för en krasch, rapporterar BBC.

Han säger att om tillväxten för AI-bolagen stannar av kan det utmynna i en marknadsfrossa som sprider sig globalt. Höga börsvärderingar, ökad belåning och lägre riskspridning till några få techjättar har gjort ekonomin skörare.

– Framför allt de ökande korsinvesteringarna AI-bolagen emellan skulle kunna förstärka en framtida nedgång, säger Bailey enligt BBC.

Referenser

AI kan designa virus, toxiner och biovapen – hur oroliga borde vi vara? (13 maj) - www.nature.com