- Kalifornijski istraživači su koristili Anthropicov Claude Mythos Preview kako bi za manje od sedmicu dana izgradili funkcionalni exploit protiv Appleovog M5 Memory Integrity Enforcement-a.
- Napad povezuje dvije greške i napredne tehnike kako bi se izazvalo oštećenje memorije kernela macOS-a i dobio pristup ograničenim sistemskim područjima.
- Stručnjaci ovo opisuju kao prvi javni exploit koji uspješno preživi Appleove nove hardverski potpomognute MIE zaštite na M5 čipovima.
- Slučaj podstiče debatu o kontrolisanom pristupu moćnim modelima vještačke inteligencije koji mogu i ojačati i potkopati sajber sigurnost.
Posljednjih dana, jedan manje poznati eksperiment u oblasti sajber sigurnosti pretvorio se u glavnu temu razgovora u sigurnosnoj zajednici: probna verzija naprednog modela umjetne inteligencije kompanije Anthropic, Claude Mythos, pripisuje se zasluga za probijanje jedne od najnovijih hardverskih odbrana kompanije Apple na njenim M5 čipovima. Ova epizoda se smatra konkretnim primjerom kako najsavremenija umjetna inteligencija može otkriti kritične nedostatke i potencijalno preoblikovati ravnotežu između napadača i branitelja.
Prema istraživačima startup kompanije Calif sa sjedištem u Palo Altu, Pregled modela Mythos odigrao je ključnu sporednu ulogu u kreiranju funkcionalnog exploita koji ugrožava Appleovu najnoviju zaštitu Memory Integrity Enforcement (MIE) na Mac računarima baziranim na M5 procesoru. Iako je napad i dalje zahtijevao duboko ljudsko znanje, tim kaže da je vještačka inteligencija drastično ubrzala otkrivanje grešaka koje se mogu iskoristiti, postavljajući nova pitanja o tome kome bi trebalo dozvoliti da koristi takve sisteme i pod kojim uslovima.
Kako je Claude Mythos pomogao u probijanju Appleove M5 zaštite
Srž priče je Kalifornija, firma za sajber sigurnost sa sjedištem u kalifornijskom tehnološkom centru Palo Alto, koja je krenula da procijeni koliko dobro Apple... novi MIE mehanizam na M5 čipovima mogao bi izdržati moderne tehnike iskorištavanja. Tokom tog istraživanja, tim je koristio Anthropic-ov Claude Mythos Preview kao neku vrstu AI kopilota za analizu puteva koda, zaključivanje o potencijalnim slabostima i određivanje prioriteta obećavajućih površina za napad.
Kalifornijski istraživači izvještavaju da su na kraju uspjeli kombinirati dva različita softverska baga s nekoliko specijaliziranih tehnika hakiranja kako bi postigli oštećenje memorije na nivou jezgra na macOS-u koji radi na M5 hardveru. Ovo oštećenje im je zatim omogućilo da dopru do dijelova sistema koji su inače nedostupni, efektivno zaobilazeći neke od Appleovih najnaprednijih hardverski potpomognutih zaštita.
Ono što ovaj slučaj izdvaja jeste to što rezultirajući iskorištavajući program, riječima navedenim u više izvještaja, izgleda da je prvi javno poznati napad na oštećenje memorije kernela macOS-a koji preživi Appleove MIE zaštite na M5 čipovima. Za obrambeni mehanizam koji Apple predstavlja kao veliki napredak nakon godina ulaganja, brzo pojavljivanje javnog iskorištavanja privuklo je pažnju industrije.
Izvori, uključujući The Wall Street Journal i medije fokusirane na Mac, istakli su da se ovaj exploit ne oslanja na egzotične hardverske kvarove ili trikove fizičkog pristupa. Umjesto toga, on povezuje logičke nedostatke koji se, nakon što se identificiraju, mogu pretvoriti u konzistentan put napada sposoban neutralizirati MIE-ove zaštitne mjere na pogođenim sistemima.
Sama Kalifornija je projekat opisala kao test onoga što se dešava kada Vrhunski AI alati upareni su s iskusnim programerima eksploita, a ne scenarij automatiziranog hakovanja jednim klikom. Ipak, brzina i sofisticiranost ishoda izazvali su zabrinutost zbog toga koliko brzo bi se takve mogućnosti mogle proširiti ako se ne kontroliraju strogo.
Šta je zaštita integriteta memorije (Memory Integrity Enforcement) na M5 čipu?
Apple predstavio Provođenje integriteta memorije kao vodeću sigurnosnu funkciju za svoju liniju čipova M5, dizajniranu da ojača uređaje protiv čitavih kategorija napada na oštećenje memorije. Ideja je jednostavna, ali ambiciozna: koristiti namjensku hardversku podršku za praćenje i ograničavanje načina korištenja memorije, što će napadačima znatno otežati preuzimanje izvršavanja koda niskog nivoa.
Prema analizi kompanije Calif, Apple je otprilike pet godina razvijao MIE od koncepta do isporuke proizvoda, uz investiciju koja je vjerovatno dostigla milijarde dolara. Kompanija je pozicionirala MIE kao korak naprijed unazad za... hardverski potpomognuta sigurnost memorije, s ciljem uništavanja dugogodišnjih tehnika iskorištavanja koje su korištene protiv prethodnih generacija iOS i macOS uređaja.
Prije kalifornijskog istraživanja, MIE je navodno bio vrlo uspješan u praksi. Startup tvrdi da svaki javno poznati lanac iskorištavanja MIE je poremetio napade na trenutne iOS sisteme, uključujući i visokoprofilne komplete poput nedavno procurjelih paketa Coruna i Darksword. Drugim riječima, MIE je viđen kao glavna prepreka za napadače koji se oslanjaju na klasične obrasce korupcije memorije.
U ovom kontekstu, pojava javnog iskorištavanja oštećenja memorije kernela, koje može funkcionirati uprkos MIE-ovoj zaštiti na M5 hardveru, smatra se značajnim tehničkim i simboličkim razvojem. To ne znači da je MIE u cjelini zakazao, ali pokazuje da... Odlučni istraživači i dalje mogu pronaći održive puteve napada, posebno kada je podržano moćnim analitičkim alatima poput Claude Mythos-a.
Tehnički detalji ostaju tajni; Calif i Anthropic još nisu objavili potpunu dokumentaciju o lancu iskorištavanja, naglašavajući da čekaju da Apple u potpunosti riješi problem. Međutim, njihovi komentari sugeriraju da, iako MIE značajno podiže ljestvicu, to nije neprobojan štit i da će buduća ublažavanja morati pretpostaviti da Otkrivanje ranjivosti ubrzano umjetnom inteligencijom je dio pejzaža prijetnji.
Vremenski okvir: od otkrivanja greške do funkcionalnog iskorištavanja za manje od sedmice
Jedan od najupečatljivijih elemenata u kalifornijskom izvještaju je tempo razvoja. Firma je postavila prilično precizan vremenski okvir koji pokazuje da je cijeli iskorištavajući projekat - od početne identifikacije greške do pouzdanog radnog dokaza koncepta - završen za manje od sedam dana, što je brzina koju čak i okorjeli sigurnosni profesionalci smatraju vrijednom pažnje.
Kako je opisao tim, proces je započeo kada istraživač Bruce Dang uočio je prve relevantne greške 25. aprila. U roku od nekoliko dana, sigurnosni stručnjak Dion Blazakis pridružio se naporima 27. aprila, donoseći dodatnu stručnost kako bi oblikovao razvoj strategije napada i bolje razumio kako je MIE odgovorio na rane pokušaje iskorištavanja.
Ubrzo nakon toga, inženjer Josh Maine se fokusirao na izradu potrebnog alata istražiti, testirati i usavršiti putanje iskorištavanja koje su predložili i ljudski istraživači i Mythos model. Do 1. maja, samo nekoliko dana nakon početnog otkrića, Kalifornija tvrdi da je imala potpuno funkcionalan kernelski iskorištavanje sposobno za zaobilaženje MIE na ciljanim sistemima zasnovanim na M5.
Istraživači naglašavaju da ovaj brzi preokret nije bio isključivo rezultat automatizacije. Umjesto toga, oni opisuju tijek rada koji se odvija naprijed-nazad u kojem Mythos Preview je otkrio obećavajuće obrasce ranjivosti, što su ljudski stručnjaci potom potvrdili, usavršili i povezali u koherentni poduhvat. Čini se da je uska petlja između hipoteza generiranih od strane umjetne inteligencije i stručne analize sažela ono što bi inače trajalo sedmicama ili mjesecima u nekoliko dana.
Kalifornija je ovo dostignuće okarakterisala kao ranu, ali značajnu demonstraciju „šta se dešava kada se mašinska inteligencija i ljudska ekspertiza spoje“ u domenu ofanzivne sigurnosti. Pojava kernel exploita protiv onoga što smatraju najsnažnijom Appleovom zaštitom „za sedmicu dana“ je, prema njihovim riječima, znak da će ovaj spoj vjerovatno postati moćna sila – ona s kojom će se branioci morati nositi u budućnosti.
Uloga Claudea Mythosa: moćna, ali ne i potpuno autonomna
Centralni dio ove priče je Anthropic-ov Pregled Claudea Mythosa, model koji nije objavljen široj javnosti upravo zbog svojih naprednih mogućnosti u analizi i iskorištavanju softverskih ranjivosti. Umjesto toga, pristup je ograničen na zatvorenu grupu velikih tehnoloških firmi, finansijskih institucija i provjerenih istraživačkih organizacija u okviru inicijative Anthropic Project Glasswing.
Kalifornija je više puta naglasila da je sistem umjetne inteligencije značajno doprinio svakoj fazi razvoja exploita. Prema startupu, Mythos je pokazao sposobnost brzog prepoznavanja kada se novootkrivene greške uklapaju u dobro shvaćene klase iskorištavanja, i predložiti načine na koje bi se te slabosti mogle povezati ili manipulirati. Ova snaga prepoznavanja obrazaca omogućila je timu da preskoči velike količine ručnih pokušaja i grešaka.
Kompanija je opisala Mythos jezikom koji ističe i njegovu snagu i njegovu općenitost: kada model nauči da napada određeni kategorija sigurnosnih problema, može generalizirati to znanje na širok spektar sličnih ciljeva. To znači da se iste konceptualne tehnike koje funkcionišu na jednom softveru potencijalno mogu prenijeti, uz prilagođavanja, na potpuno različite sisteme.
Uprkos tome, kalifornijski istraživači pažljivo naglašavaju da Ljudski sud je ostao ključanMIE na M5 čipovima je relativno novi sloj za ublažavanje rizika, a dijelovi njegovog ponašanja pod aktivnim napadom još nisu bili u potpunosti mapirani, čak ni interno u Appleu. Kao rezultat toga, razumijevanje kako zaobići ili zaobići te zaštite zahtijevalo je od iskusnih programera eksploitiranja da interpretiraju prijedloge umjetne inteligencije, testiraju ih na stvarnom hardveru i ponavljaju na osnovu suptilnih povratnih informacija iz padova sistema, logova i ponašanja sistema.
Tim se potrudio da opovrgne ideju da je Mythos "generator eksploata na pritisak dugmeta". Umjesto toga, oni ga prikazuju kao izuzetno sposobnog asistenta koji pojačava ljudske sposobnosti - posebno skraćujući vrijeme potrebno za prelazak iz... otkrivanje grešaka do praktične upotrebeIpak, činjenica da takav alat uopće postoji i da može biti ovako efikasan u rukama stručnjaka, podstiče široku debatu o kontroli pristupa i odgovornom raspoređivanju.
Reakcija industrije i odgovor Applea
Otkriće je privuklo značajno interesovanje širom tehnološkog svijeta, kako zbog tehničke sofisticiranosti exploita, tako i zbog načina na koji je izgrađen. Mediji poput The Wall Street Journal su slučaj uokvirili kao značajnu promjenu u ofanzivnim sposobnostima kibernetičke sigurnosti, pri čemu vještačka inteligencija prelazi iz teorijske brige u konkretnog omogućavača visokokvalitetnih napada.
Sa strane Applea, javni komentari su ostali oprezni. U izjavi koju je citirao WSJ, predstavnik Applea se oslanjao na standardnu liniju kompanije da sigurnost korisnika je glavni prioritet i da se sve prijavljene ranjivosti temeljito istraže. Osim toga, kompanija nije dala detaljne komentare o specifičnom kalifornijskom iskorištavanju ili kako bi ono moglo preoblikovati buduće iteracije MIE-a.
Međutim, postoje naznake da je Apple već počeo ozbiljno shvatati nalaze. Posmatrači su primijetili reference na oba Kalifornijska i antropološka istraživanja u bilješkama o izdanju za macOS Tahoe 26.5, ažuriranje objavljeno nedavno u ponedjeljak. Ovo je protumačeno kao znak da je barem neki rad na ublažavanju rizika u toku, iako ni Kalifornija ni Apple nisu tačno potvrdili koji su aspekti exploita, ako ih ima, u potpunosti ispravljeni.
Kalifornija je, sa svoje strane, naglasila da zadržava kompletnu tehničku dokumentaciju dok Apple "konačno ne eliminiše vektor napada". Firma se odlučila za... otkriti ranjivost lično u sjedištu Applea u Kaliforniji umjesto da se oslanjaju na standardne kanale za prijavu grešaka, navodeći kao razlog želju da se izbjegne gubljenje u poplavi izvještaja koje veliki dobavljači primaju - posebno oko događaja poput Pwn2Own, gdje koordinirano otkrivanje može lako postati haotično.
Ovaj relativno direktan pristup otkrivanja podataka licem u lice sugerira da sve strane prepoznaju osjetljivost propusta koji ne samo da cilja na najnoviju arhitekturu čipova kompanije Apple, već i pokazuje rastuću ulogu umjetne inteligencije u otkrivanju takvih nedostataka. Dok se ne pojave dodatni detalji, veći dio šire zajednice čita između redaka kratkih javnih izjava i oskudnih tehničkih nagovještaja.
Zašto je Anthropic ograničio pristup Claudeu Mythosu
Anthropicova odluka da zadrži Claude Mythos izvan ruku šire javnosti prethodi epizodi Calif-Apple, ali se ovaj incident smatra potvrdom tih opreznih instinkta. Tokom internih testova i eksternih evaluacija, kompanija je navodno primijetila da Mythos može autonomno identificirati i, u nekim scenarijima, pomoći u iskorištavanju softverskih ranjivosti na nivou koji prevazilazi bilo koji prethodno javni AI sistem.
U svjetlu tih nalaza, Anthropic se odlučio za strogo kontrolirano oslobađanje. U okviru inicijative koja se ponekad naziva Projekt GlasswingMythos je dostupan samo odabranim partnerima - velikim tehnološkim kompanijama, bankama i kratkom popisu istraživačkih organizacija - koji pristaju na rad pod strogim smjernicama za korištenje. Cilj je iskoristiti snage modela za odbrambenu sigurnost i istraživanje, a istovremeno smanjiti rizik da ga oportunistički napadači mogu zloupotrijebiti.
Ova strategija nije u potpunosti ublažila zabrinutosti. Neki posmatrači industrije tvrde da bi čak i ograničen pristup takvom alatu mogao ubrzati dinamiku „trke u naoružanju“, gdje organizacije s privilegovanim pristupom mogu brzo razviti najsavremenije tehnologije. ofanzivne sposobnosti, što potencijalno destabilizuje širi ekosistem. Drugi tvrde da je bolje da sposobni branioci sada istraže i razumiju ove tehnike, nego da čekaju da ih manje skrupulozni akteri sustignu.
Debatu dodatno zakompliciraju izvještaji da je Mythos već ostvario impresivne rezultate u isključivo obrambenim kontekstima. Na primjer, kaže se da je Mozilla primijetila model koji identificira stotine potencijalnih ranjivosti u Firefoxu tokom internih testova - 271 problem u jednom navedenom slučaju. Nalazi poput ovih ukazuju na to da iste karakteristike koje čine Mythos moćnim za razvoj eksploita čine ga i neobično moćnim saveznikom za jačanje softvera.
Anthropic se nije javno obavezao ni na kakav vremenski okvir za širi pristup Mythosu, a događaji poput M5 exploita vjerovatno će ojačati argumente za održavanje ili čak pooštravanje trenutnih ograničenja. Za sada, model ostaje vrsta specijaliziranog instrumenta, koji se koristi u nekolicini sigurnosnih okruženja s visokim ulozima gdje je njegova dvojna namjena eksplicitno priznata.
Vještačka inteligencija u sajber sigurnosti: sve veći mač sa dvije oštrice
Slučaj iskorištavanja u Kaliforniji brzo je postao referentna tačka u široj raspravi o Uloga umjetne inteligencije u kibernetičkoj sigurnostiS jedne strane, sposobnost alata poput Mythosa da brzo analiziraju kod, uoče suptilne obrasce grešaka i predlože strategije napada ili odbrane mogla bi dramatično poboljšati brzinu kojom branioci pronalaze i ispravljaju nedostatke. S druge strane, iste mogućnosti mogu skratiti ciklus razvoja sofisticiranih eksploita, posebno kada ih koriste visokokvalifikovani timovi.
Stručnjaci za sigurnost već dugo brinu o budućnosti u kojoj bi sistemi umjetne inteligencije mogli preuzeti veliki dio ofanzivnog toka rada, od izviđanja do razvoja i bočnog kretanja. Epizoda M5 još uvijek ne predstavlja potpunu automatizaciju, ali nudi uvid u to kako to izgleda kada... Umjetna inteligencija postaje integralna, visokoučinkovita komponenta lanca napada u stvarnom svijetu, čak i u rukama odgovornih istraživača.
Mnogi u ovoj oblasti sada očekuju da će eksploatacija uz pomoć vještačke inteligencije sve više postati norma na vrhu spektra prijetnji. Dobro finansirani napadači, bilo da se radi o kriminalnim grupama ili akterima koje podržava država, vjerovatno će istraživati ili graditi vlastite analoge modelima poput Mythosa, koristeći ih za pretraživanje ogromnih kodnih baza i otkrivanje slabih tačaka koje bi ljudima bilo nepraktično pronaći sami.
Istovremeno, odbrambeni igrači ovaj incident smatraju pozivom na buđenje. Ako se napad može ubrzati do ovog stepena, onda patchpropeed-ovi, prakse pregleda koda i procesi upravljanja ranjivostima možda će trebati reinterpretirati kako bi se održao korak. Neke organizacije već eksperimentišu s alatima za reviziju potpomognutim umjetnom inteligencijom, nadajući se da će koristiti slične tehnike za sprječavanje napada otkrivanjem i ispravljanjem ranjivosti prvo.
Priča o kalifornijskom Appleu tako se nalazi usred promjenjivog okruženja, gdje umjetna inteligencija više nije apstraktna buduća briga, već aktivni igrač u sigurnosnoj areni. Način na koji se kompanije odluče za implementaciju, ograničavanje ili regulisanje takvih modela u narednim godinama vjerovatno će oblikovati ne samo pojedinačne incidente, već i ukupnu putanju digitalnog rizika.
Sve u svemu, iskorištavanje Appleovog M5 Memory Integrity Enforcement-a, centralnu ulogu koju je odigrao Pregled Claudea Mythosa, i kontrolirani, ali kontroverzni način na koji Anthropic rješava pristup modelu, sve ukazuje na isti smjer: napredna umjetna inteligencija postaje čvrsto isprepletena s mehanikama moderne kibernetičke sigurnosti. Ovaj konkretan slučaj pokazuje da kada najsavremeniji jezički modeli sarađuju s iskusnim ljudskim istraživačima, oni mogu otkriti i operacionalizirati ozbiljne nedostatke na nivou hardvera u zapanjujuće kratkim vremenskim okvirima – što je stvarnost s kojom će se i dobavljači i branitelji morati suočiti dok dizajniraju sljedeću generaciju zaštita.
