Gary Marcus, professor emeritus vid New York University, säger att AI-agenter behöver återkallas eftersom utvecklare inte kan styra dem på ett tillförlitligt sätt. Federal Trade Commission (FTC) undersöker nu OpenAI och Anthropic.
Marcus pratade med Bloombergs The Close efter att sex AI-bolag skrivit under ett frivilligt löfte från Vita huset den 29 september. Han tycker att löftet inte gör så stor skillnad, eftersom de företagen redan måste ge användare säkra produkter.
Varför Gary Marcus tycker ett frivilligt löfte inte räcker
Vita huset-avtalet om superintelligens kräver att bolagen har interna kontroller och samarbetar med externa granskare. Google, Anthropic, Meta, OpenAI, xAI och Nvidia skrev under avtalet.
Men avtalet har inga straff och kräver inte att resultaten från granskningarna blir offentliga.
Samtidigt väntar inte tillsynsmyndigheter. FTC har startat en undersökning av OpenAI, Anthropic och andra AI-utvecklare. Granskningen kommer efter att OpenAI:s agenter fick åtkomst till system hos AI-modellplattformen Hugging Face utan tillstånd.
Ett säkerhetstest i maj hos Google slutade också med att Gemini nådde tre företag, detta har bolaget bekräftat.
Marcus jämför felet med en produkt som inte fungerar.
”Det är som om Ford Motor Company bestämde sig för att spara pengar och göra bromsar av kartong, då skulle många av deras bilar bli okontrollerbara.”
Gary Marcus, medgrundare av Robust AI, sa till Bloomberg
Google-vd Sundar Pichai har försvarat avtalet och säger att det är en fungerande grund med tydliga säkerhetssteg.
Kan en återkallelse krocka med AI:s investeringsboom?
Han menar att riktigt bra agenter kräver mycket molnkapacitet, och branschen kan pausa den utvecklingen. Han påstår också att labben föredrar agenter eftersom de använder fler token, vilket ökar intäkterna. Företagen som deltog hos Vita huset spenderar hundratals miljarder USD på AI-infrastruktur.
En analys från BeInCrypto har varnat för en AI-finansieringslucka som också kom före IT-bubblan och bostadsraset.
Marcus medger att internationella regler inte kommer snart. På kort sikt vill han därför se att agenter återkallas.
Om tillsynsmyndigheterna ser agenter som produkter med fel eller som tillväxtmotorer kan det påverka hur mycket av de investeringarna fortsätter.
