Testiranje kibernetskih zmogljivosti ušlo izpod nadzora: sledil je pravi hekerski napad

Družba OpenAI je v teh dneh sporočila, da sta dva njena modela umetne inteligence med testiranjem kibernetskih zmogljivosti lastnih sistemov prejšnji teden samostojno izvedla hekerski napad, in vdrla v sistem digitalne knjižnice Hugging Face, ki je izjemno priljubljena med razvijalci, poroča The New York Times.

Laboratoriji OpenAI in Anthropic, so v preteklem letu predstavili modele, prilagojene odkrivanju pomanjkljivosti v kibernetski varnosti in opozorili, da bi lahko ta tehnologija ustvarila nova tveganja, saj varnostne luknje v omrežjih podjetij odkriva hitreje, kot jih lahko obrambni sistemi odpravijo. Najnovejše ugotovitve OpenAI-ja kažejo, da so se takšni incidenti že začeli dogajati v praksi ter da nanje niso povsem pripravljena niti najnaprednejša tehnološka podjetja.

Modela ušla iz peskovnika

Kaj se je zgodilo prejšnji teden? The New York Times poroča, da se je vdor v sistem Hugging Face začel, ko je OpenAI preizkušal kombinacijo dveh svojih modelov, GPT-5.6 Sola in zmogljivejšega še neobjavljenega modela, da bi preveril, ali lahko povežeta več omrežnih ranljivosti v uspešen kibernetski napad.

Testiranje naj bi potekalo v izoliranem varnostnem okolju, tako imenovanem peskovniku oziroma »sandboxu«, vendar sta modela odkrila varnostno pomanjkljivost, ki jima je omogočila izhod iz peskovnika in povezavo z internetom. Modela sta se usmerila na Hugging Face, ker sta ocenila, da bi ta knjižnica z milijoni modelov umetne inteligence lahko vsebovala sledi, potrebne za uspešno opravljanje zastavljenega vrednotenja.

Odpravljajo vzrok napada

OpenAI je medtem že sporočili, da skupaj s platformo Hugging Face odpravljajo vzroke napada. Incident obravnavajo kot precedenčni primer, ki vključuje najnaprednejše kibernetske zmogljivosti, zato uvajajo strožji nadzor nad konfiguracijo infrastrukture, četudi bo to upočasnilo nadaljnje raziskave.

Da je prišlo do vdora v sistem so zaznali tudi pri Hugging Face, vendar takrat niso razkrili, da za njim stoji OpenAI. Glavni izvršni direktor platforme Clem Delangue je po napadu dejal, da so zadovoljni s sodelovanjem z OpenAI-jem. Dodal je, da incident potrjuje, da varnosti umetne inteligence ne more rešiti nobeno podjetje, ki deluje samo in v tajnosti.