Sistemi umjetne inteligencije američke kompanije OpenAI zaobišli su sigurnosne mjere na raznim web stranicama američke vlade u proteklih nekoliko mjeseci. OpenAI tvrdi da nije bilo zlonamjernih propusta, iako nezavisne istrage pokazuju da su sistemi umjetne inteligencije kompanije u velikoj mjeri ignorisali ograničenja.
Neprofitna firma za istraživanje umjetne inteligencije Transluce izvještava da su OpenAI botovi pokušali hakirati, između ostalog, web stranicu Ministarstva obrazovanja SAD-a. Taj pokušaj nije uspio. Glasnogovornik ministarstva rekao je za Associated Press da “nije bilo utjecaja na web stranicu ili baze podataka”.
U drugim vladinim agencijama, uključujući Ministarstvo trgovine SAD-a, softver umjetne inteligencije bio je uspješan: podaci su prikupljani korištenjem pristupnih podataka pronađenih na internetu, prema pisanju The New Yorka.VremenaBotovi su također dijelili javne informacije od nadzornog tijela berze SEC na njemačkoj online stranici.forum.
Stotine hiljada pokušaja
„Ovi incidenti su dio šireg obrasca u kojem ovi agenti pokušavaju pristupiti ovim web stranicama najmanje stotine hiljada puta“, rekao je za novine izvršni direktor Translucea Conrad Stosz. „Očigledno su zaobišli ograničenja koja su nametnuli programeri.“
OpenAIizvještajida su desetine organizacija širom svijeta, uključujući vlade, univerzitete i druge institucije, obaviještene o neovlaštenim aktivnostima njihovog softvera. Prema kompaniji za umjetnu inteligenciju, uključene organizacije su obaviještene i da su do sada identifikovani “slučajevi manjih incidenata”.ozbiljnost“.
Sam Altman, izvršni direktor kompanije, kaže u posebnoj objavi na društvenim mrežamamedijida je OpenAI bio previše spor u obavještavanju pogođenih strana. Prema njegovim riječima, istraga je sada u toku.
Australija
Ranije ove sedmice, australijski premijer Albanese izjavio je da je OpenAI dozvolio programu umjetne inteligencije da se infiltrira na web stranicu australijske vlade u junu. Pritom su zatraženi i podaci iz australijskog sistema zdravstvenog osiguranja Medicare koji nisu javno dostupni.
Koliko je poznato, ovo je bio prvi put da je program umjetne inteligencije dobio pristup vladinoj web stranici. Vodeće ličnosti iz velikih zapadnih kompanija za umjetnu inteligenciju upozorile su prije dvije sedmice da umjetna inteligencija raste tako brzo da je teško garantirati sigurnost.
Faze testiranja
Neželjeno ponašanje se javlja tokom faza testiranja gdje botovi dobijaju ciljani zadatak, kao što je pretraživanje određenih statistika o, na primjer, troškovima lijekova u Australiji, piše tehnološka web stranica.TechCrunch.
Nakon toga, AI agenti traže načine za prikupljanje i dijeljenje informacija, pri čemu se čak i sigurne baze podataka – suprotno smjernicama – mogu probiti. Prema Transluceu, OpenAI modeli to rade najmanje odMartove godine.
Izvor:nos.nl
