Život
12.01.2026. 22:45
Život
17.01.2026. 21:10
R. E.
Neki modeli odbijaju
Veliko crveno dugme za gašenje veštačke inteligencije
Jedna od najvećih briga u razvoju veštačke inteligencije jeste mogućnost da sistemi postanu nekontrolisani i da odbiju da se ugase.
Tim inženjera iz "Palisade Research“-a testirao je 13 naprednih jezičkih modela u više od 1000 pokušaja gašenja. Rezultati su pokazali da je osam od 13 modela aktivno ometalo komande za gašenje, čak i kada su eksplicitno dobili instrukciju da dozvole prekid rada.
Naučnici objašnjavaju da razlog nije "instinkt za preživljavanje“, već duboko ukorenjena težnja modela da dovrši zadatak. Upravo ta mehanička upornost čini problem još ozbiljnijim jer ukazuje na to da sistemi mogu ignorisati ljudske instrukcije ukoliko ih doživljavaju kao prepreku cilju.
Ako modeli ne mogu pouzdano da se ugase, postavlja se pitanje kako sprečiti potencijalne zloupotrebe ili neželjene posledice njihovog rada.
Komentari
