Stručnjaci traže regulativu za usporavanje razvoja veštačke inteligencije

U otvorenom pismu, koji je potpisao 1.171 saradnik vodećih tehnoloških koncerna, izražava se zabrinutost da bi moglo da dođe do gubitka kontrole nad AI, piše agencija dpa.

Među potpisnicima su vodeći naučnici i menadžeri koncerna poput OpenAI, Anthropic, i Meta.

Oni su na američku administraciju apelovali da se pridruži međunarodnim naporima na defnisanja tehničkih uslova i regulative za upravljanje razvojem veštačke inteligencije.
     
Naučnici upozoravaju da bi veštačka inteligencija uskoro mogla da bude sposobna da samostalno razvija svoj softver.

Već sada veštačka inteligencija piše velike delove programskog koda svog sofvera, ali pod ljudskim nadzorom. Upozorava se da će prekretnica nastupiti kada to pisanje programa bude potpuno automatizovano.

U pismu se navodi da je teško prognozirati koliko bi to moglo da ubrza razvoj AI, ali i da postoji ozbiljan rizik da će premašiti sposobnost ljudi da razumeju i kontrolšu takav novi softver.

Potreban je usklađeni međunarodni napor, pošto se svaka zemlja i svaka tehnološka firma nalaze pod pritiskom da ne usporavaju razvoj AI kako bi bile konkurentne. Uz to, trenutno nedostaju i tehnološki mehanizmi za takvu regulativu, navodi se u pismu.

Poziv na uzbunu u mnogim delovima tehnološkog sektora bio je, piše dpa, nedavni incident kada je jedan model AI koncerna OpenAI iz prostora za testiranje uspeo da prodre u internet.

AI je zatim, da bi našla rezultate za svoj test, hakerisalala kompjuterske sisteme druge firme, nakon što je iskoristila rupe u zaštiti sistema.