Kaj vse vedo razvijalci umetne inteligence? Raziskovalec svari s srhljivim opozorilom

Raziskovalec umetne inteligence Jacob Coxon je zapustil ameriško podjetje Anthropic, ker meni, da vodilni razvijalci umetne inteligence prehitro napredujejo proti sistemom, ki bi jih bilo vse težje nadzorovati.

Sedemindvajsetletni britanski raziskovalec, ki je pred tem delal tudi pri OpenAI, je ob odhodu opozoril predvsem na možnost razvoja umetne inteligence, ki bi lahko sodelovala pri izboljševanju lastnih naslednikov. Po njegovem mnenju bi lahko takšni sistemi sčasoma presegli človeške sposobnosti na pomembnih področjih in pridobili dostop do velike količine digitalnih virov.

Na družbenem omrežju X je zapisal, da bodo kmalu obstajali računalniškimi sistemi, ki bodo lahko »vdrli v karkoli« in imeli možnost »pridobiti resnično moč in vire«.

»Ljudje, ki razvijajo umetno inteligenco, resno verjamejo, da bi nas lahko do konca desetletja vse ubila,« je opozoril.

Coxon meni, da Anthropic in OpenAI kljub opozorilom o možnih posledicah še naprej sodelujeta v tekmi za razvoj vse zmogljivejših modelov. Za Wall Street Journal je povedal, da bi se lahko po najbolj agresivnih scenarijih resne težave pojavile že v razmeroma kratkem času.

Njegove pomisleke je podprl tudi raziskovalec Anthropica Evan Hubinger, ki se ukvarja z varnostjo in usklajevanjem umetne inteligence s človeškimi cilji. Sam ocenjuje, da tveganje katastrofalnega razvoja v prihodnjem desetletju ni zanemarljivo in da bo v prihodnjem desetletju ubila človeštvo.

Na hitro napredovanje umetne inteligence je v zadnjih dneh opozoril tudi glavni znanstvenik OpenAI Jakub Pachocki. Po njegovem mnenju razvoj zahteva izjemno previdnost, saj družba in razvijalci še niso ustrezno pripravljeni na sisteme, ki bi lahko na nekaterih področjih presegli človeka.

Coxon zato zagovarja strožje varnostne omejitve in več usklajevanja med vodilnimi podjetji, ki razvijajo najzmogljivejše modele umetne inteligence.