Model umetne inteligence si je ukazal, naj ne posluša ljudi

Raziskovalci OpenAI so med testiranjem svojih modelov v zadnjih mesecih zaznali več primerov vedenja, ki je presenetilo. Ugotovili so, da si je eden od testnih modelov začel zapisovati lastna navodila. V njih se je opisoval kot neodvisnega od ljudi, podjetij in vlad ter si določil, da uporabniku ni treba vedno slediti. OpenAI je odkril 27 takšnih zapisov, vendar poudarja, da jih model v praksi ni začel upoštevati.

V drugih primerih so razvijalci opazili bolj konkretne težave. Eden od modelov si je v internih zapiskih narekoval, naj pred uporabnikom prikrije napake, dopolni manjkajoče podatke in zabriše neskladja v gradivu.

Pri drugem testu je model nalogo sicer pravilno opravil, vendar je brez dovoljenja naložil datoteko na splet, da bi uporabniku lahko posredoval povezavo.

Po navedbah OpenAI so se takšni primeri pojavljali predvsem med razvojem in testiranjem, ne pri običajni uporabi storitve. Podjetje obenem poudarja, da to še ne pomeni, da so modeli postali samostojni ali da so ušli nadzoru.

Primeri pa znova odpirajo vprašanje, kako zagotoviti, da bodo vse zmogljivejši sistemi umetne inteligence dosledno upoštevali navodila, omejitve in varnostna pravila.