NJUJORK – OpenAI pokreće javni program nagrađivanja za sigurnosne greške usmjeren na identifikovanje načina na koje se njegovi alati vještačke inteligencije mogu zloupotrebiti.
Program će nadopuniti postojeći program nagrađivanja za greške ispitivanjem problema koji predstavljaju značajan rizik od zloupotrebe i sigurnosti, čak i ako ne ispunjavaju kriterijume za sigurnosnu ranjivost.
“Naš je cilj osigurati da naši sistemi ostanu sigurni i zaštićeni od zloupotrebe koja bi mogla dovesti do opipljive štete”, rekao je OpenAI u objavi na blogu.
Još su naveli:
“Kroz ovaj program radujemo se nastavku saradnje s istraživačima sigurnosti i zaštite kako bismo identifikovali i riješili probleme koji ne spadaju u konvencionalne sigurnosne ranjivosti, ali i dalje predstavljaju stvarne rizike.”
Da bi se kvalifikovali, problemi moraju predstavljati problem dizajna ili implementacije u aktivnom OpenAI proizvodu koji napadač može zloupotrebiti za nanošenje materijalne štete i moraju se moći riješiti jasnim skupom preporučenih koraka ili ublažavanja.
“Cilj ovog programa je nagraditi ispravke grešaka i ne možemo nagraditi zahtjeve za opšta poboljšanja proizvoda”, rekla je kompanija.
Problemi moraju biti dosljedno reproducibilni, svi računi korišteni kao žrtve moraju biti testni računi u vlasništvu istraživača, a testiranje ranjivosti ne smije rizikovati oštećenje ili kompromitovanje bilo kojeg računa iz stvarnog svijeta. “ITpro”/Nezavisne novine