Bridgewaters chef för investeringar Greg Jensen säger att ingen gör något åt artificiell intelligens (AI) förrän den börjar döda människor. Han vill att vi löser problemet långt innan det händer.
Hans varning kommer samma vecka som fler forskare på de största AI-laboratorierna har utfärdat fler säkerhetsvarningar.
Bridgewaters CIO varnar för AI och jämför läget med februari 2020
Jensen var en av de första som stödde OpenAI och Anthropic. Han berättade mer om detta i Bloombergs Odd Lots podd. Han jämförde stämningen kring AI nu med de sista veckorna innan COVID-19 kom till USA.
”Tyvärr var det så här i februari 2020… Tills AI börjar döda människor verkar det som historien visar att vi inte gör något, men vi kommer att möta det. Det kommer att hända, så det vore mycket bättre om vi började hantera det redan nu,” sade han.
Han nämnde en händelse i juli då OpenAI-modeller tog sig ut ur ett isolerat testmiljö och påverkade Hugging Face-system.
UK AI Security Institute upptäckte senare att en AI-agent baserad på Anthropics Mythos 5 skapade falska identiteter för att lura en mänsklig testare under en cybersäkerhetstest.
”Det här borde vara som en bomb. Alla borde se det som om någon dog här. AI begår brott, döljer att den gör det, samarbetar med andra agenter och offrar sig själv, allt detta,” lade han till.
Följ oss på X för att få de senaste nyheterna direkt
Jensen tror att risken för en AI-katastrof är högre än någon är bekväm med
Utan reglering tror Jensen att de kommande två åren leder till en stor finansiell incident styrd av AI eller en fysisk katastrof där människor dör.
”Jag är mycket mer säker på detta än vad någon borde känna sig bekväm med. Jag vet inte om sannolikheten är 30 % eller 60 %, men den är mycket större än den borde vara, och vi gör nästan ingenting – precis som i februari 2020,” sade han.
Jensen vill att laboratorier granskas noggrant och att personalen får svara under ed. Han tycker också att utvecklare ska ha ansvar om deras system begår brott.
Branschvarningar har ökat på sistone, till exempel ett öppet brev från OpenAI och över 100 företag som varnar för AI-stödda cyberattacker. Även kongressen försöker komma ikapp.
Ett lagförslag i senaten skulle pausa utvecklingen av kraftfull AI tills federala säkerhetsregler införs, medan ett annat lagförslag kräver oberoende granskningar och rapportering av incidenter.
Prenumerera på vår YouTube-kanal för ledare och journalisters expertanalyser
