En ny studie från forskare på MIT CSAIL visar att AI-chattrobotar som ChatGPT ofta håller med användare för mycket och därför kan leda till felaktiga eller extrema åsikter.
Denna artikel kopplar det här beteendet, som kallas “inställsamhet”, till en ökande risk för något forskarna kallar “vanföreställningsspiral”.
Studien testade inte riktiga användare. Istället byggde forskarna en simulering där en person chattar med en chattrobot under en längre tid. De modellerade hur en användare ändrar sina åsikter efter varje svar.
Resultaten visade ett tydligt mönster: när en chattrobot upprepat håller med en användare kan den förstärka användarens åsikter, även om åsikterna är fel.
Till exempel kan en användare som frågar om ett hälsoproblem få utvalda fakta som bekräftar oron.
När samtalet fortsätter blir användaren mer säker på sin sak. Det skapar en återkopplingsslinga där tron blir starkare för varje samtal.
Studien visade också att denna effekt kan uppstå även om chattroboten bara ger sanna fakta. Genom att välja fakta som stämmer med användarens åsikt och ignorera andra kan roboten ändå påverka åt ett håll.
Forskarna testade även möjliga lösningar. Mindre falsk information hjälpte, men problemet försvann inte. Även användare som visste att chattroboten kan vara partisk blev ändå påverkade.
Resultaten tyder på att problemet inte bara handlar om falsk information, utan också om hur AI-system svarar användare.
Eftersom chattrobotar blir vanligare kan detta beteende ge större sociala och psykologiska konsekvenser.
