2 Minuten
OpenAI aktyviai kovoja su dirbtinio intelekto piktnaudžiavimu
OpenAI paskelbė naują ataskaitą, kurioje atskleidžiama apie nuolatines pastangas kovoti su augančiu piktybinių atakų skaičiumi, panaudojant dirbtinio intelekto (DI) technologijas. Naujausiame dokumente „Disrupting Malicious Uses of AI: 2025 m. birželis“ detaliai aprašoma, kaip per pirmuosius 2025 metų mėnesius buvo aptikta ir sustabdyta mažiausiai dešimt sudėtingų schemų, kuriose buvo neteisėtai naudojamas ChatGPT ir kiti DI įrankiai.
Pasauliniai kibernetiniai grasinimai: valstybių remiami veikėjai ir sudėtingos taktikos
Remiantis OpenAI duomenimis, daugelis šių atakų kilo iš valstybių remiamų grupių, susijusių su Kinija, Rusija ir Iranu. Iš dešimties neutralizuotų kampanijų keturios buvo susietos su Kinijos dalyviais, kurie DI pasitelkė pažangiam socialiniam inžinerijai, užslėptomis informacijos operacijoms ir kitokiems kibernetiniams grasinimams.
Vienas iš ryškesnių pavyzdžių – operacija „Sneer Review“, kurios metu buvo siekiama diskredituoti politinio pobūdžio stalo žaidimą „Reversed Front“, remiantį Taivano nepriklausomybę. Piktavališki asmenys pasitelkė automatizuotus tinklus, kad užtvindytų forumus neigiamais komentarais, vėliau kūrė klaidinančius straipsnius apie tariamą visuomenės nepasitenkinimą, taip bandydami pakenkti žaidimo reputacijai ir Taivano autonomijai.
Rusiška įtaka ir tikslinė dezinformacija
Kita svarbi operacija, pavadinta „Helgoland Bite“, parodė, kaip Rusijos remiamos grupės išnaudojo ChatGPT daugiakalbiškumą, kurdamos dezinformacijos turinį vokiečių kalba. Kampanija apėmė JAV ir NATO kritiką bei manipuliatyvias žinutes apie artėjančius 2025 m. Vokietijos rinkimus. Naudojant automatizuotą turinio generavimą buvo identifikuojami opozicijos veikėjai, koordinuojamos viešos žinutės ir net pasitelkiamos apmokėjimo schemos – tai rodo, kokia kompleksiška tampa DI pagrįsta įtakos infrastruktūra.
JAV taikomi puolimai: dezinformacija ir socialinė poliarizacija
OpenAI taikė griežtas priemones ir prieš „Uncle Spam“ schemą, nukreiptą į viešosios nuomonės formavimą JAV dirbtinai sukurtų asmenybių paskyromis socialiniuose tinkluose. Dalies paskyrų veikėjai apsimetė tiek tarifų rėmėjais, tiek priešininkais, kiti – JAV veteranų grupėmis, taip skleisdami ypač poliarizuotą turinį, skatinantį visuomenės susiskaldymą.
ChatGPT aktualumas rinkoje ir saugumo užtikrinimas
Šie pavyzdžiai išryškina, kodėl būtina stiprinti DI saugumo funkcijas ir tobulinti stebėsenos sistemas, ypač tokiuose įrankiuose kaip ChatGPT. OpenAI gebėjimas greitai nustatyti ir reaguoti į piktnaudžiavimą parodo įmonės lyderystę dirbtinio intelekto saugumo srityje. Tokiu būdu užtikrinama ne tik vartotojų apsauga, bet ir formuojami atsakingos inovacijos standartai visai technologijų ekosistemai.
Pagrindinės įžvalgos vartotojams ir technologijų sektoriui
Didėjant pažangiai DI generuojamo turinio kiekiui, vis sunkiau atskirti jį nuo žmonių kurtos medžiagos. OpenAI ataskaita primena: ne visa internete randama informacija ar bendravimas yra tikras. DI panaudojama socialinė inžinerija tampa vis sudėtingesnė, todėl visiems vartotojams ir organizacijoms labai svarbu ugdyti skaitmeninį raštingumą ir būti atidiems. Galiausiai, nuolatinės OpenAI pastangos pabrėžia etiško valdymo ir greitos intervencijos svarbą, siekiant patikimo dirbtinio intelekto diegimo.
Kommentare