tisdag 21 november 2023

Probability of doom

"Det här är ett stort jävla problem. Det är som att någon kom på hur man kunde göra en tio gånger kraftfullare atombomb av sand och blekmedel, som alla kan göra hemma. Det är riktigt läskigt. När jag insåg det var det som att mitt hjärta skulle stanna"  säger Emmett Shear. 

Han bli ny vd för Open AI, efter att företrädaren Sam Altman fick sparken i fredags. 

Emmett Shear vill, som det berättas, sakta ner utvecklingen med artificiell intelligens. 

Altman tycks istället för säkerhet vilja driva det mer lommersiellt med större risktagande. Han köptes  efter avskedet från Open AI upp av Microsoft.

Så domedagen närmar sig, eller...? Enligt Emmett Shear är risken att det "ska gå åt helvete" upp till 50 procent.

Ett nytt begrepp som brukar användas är P(doom) (probability of doom, eller sannolikhet för undergång), och svaret anges i procent. Så bisarr har världen blivit. 

Huvudlöst.

PS! Open AI startades som en icke vinstdrivande organisation, med syftet att utveckla AI på ett ansvarsfullt sätt. 

"Att inte ha vinsthungriga aktieägare flåsande i nacken var en viktig del", meddelas i DN. 

I dag är Open AI en hybrid mellan vinstdrivande och icke vinstdrivande. Ju fler flåsanden i nacken ju högre procenttal för att det ska gå åt helvete... 

Samma problem som med svensk skola således.