Ethereum-grundaren Vitalik Buterin stödjer Moonshot AI:s val att ta bort avancerade hackningsfunktioner från nya Kimi K3,1 Pro-modellen. Enligt honom är det bättre att begränsa vad AI kan göra än att begränsa vem som får använda den.
Men denna säkerhetsåtgärd har en tydlig kostnad. Moonshot säger att den filtrerade modellen löste 81 % av uppgifterna på företagets interna exploit-benchmark. En ofiltrerad version löste 90,5 %.
Varför Vitalik Buterin föredrar AI-begränsningar framför användarkontroller
Buterin berättade att det är mycket mindre skadligt att begränsa användningsområden än att begränsa användare.
Moonshot, en AI-startup i Peking, planerar att släppa modellens öppna vikter senast 4 november. Då kan vem som helst ladda ner den och köra den på sin egen hårdvara.
Därför har företaget sagt att de tog bort cyberrelaterad data från sin träningsdata och förstärkningsinlärning. Uppgifter om vanlig programmering finns kvar.
Enligt Vitalik Buterin kommer AI-drivna attacker till slut att utvecklas fullt ut. Tills dess behöver utvecklare tid för att säkra systemen, kontrollera gammal kod och verifiera ny programvara.
Hotet syns redan nu. Tidigare i år visade Binance Research att AI utnyttjar smarta kontrakt ungefär dubbelt så bra som den hittar brister.
Prenumerera på vår YouTube-kanal för att se ledare och journalister dela sina insikter
Vad händer om den första AI-riskvågen går fel?
Buterin varnar också för motsatsen. Om denna första våg går dåligt tror han att vi får låsta modeller, KYC-kontroller på allt och påträngande övervakning.
I det fallet kan AI-åtkomst bero på legitimation och nationalitet. Några personer skulle då bli användare av andra, tredje eller fjärde klass, skriver han.
Vitalik Buterin har länge föredragit att använda öppna AI-modeller på egen hårdvara, vilket hans test på egen AI-dator visar.
Men han förväntar sig inte att filtreringen håller för alltid. När en användare frågade om andra labb ändå kommer att bygga sådana funktioner, svarade han att de kommer att göra det.
Faktum är att enligt Moonshots egen mätning har DeepSeeks konkurrerande öppna modell V4,1-Flash redan nått 85,7 % på samma test.
För Vitalik Buterin är AI-säkerhet därför en kapplöpning mot tiden och inte ett permanent hinder. Försvarare har ett övertag om de använder hans extra kryptosäkerhetsåtgärder innan angripare hinner ifatt.
