Phantom squatting pretvara AI halucinacije u novu phishing i malware napadnu povrsinu

Novo napadno ponasanje poznato kao phantom squatting pokazuje koliko brzo AI problem kvaliteta moze da postane enterprise security problem. Veliki jezicki modeli ponekad izmisle domene koji ne postoje. Napadaci sada registruju bas te izmisljene adrese pre svih ostalih i koriste ih za phishing stranice, distribuciju malware-a i imitaciju brenda pre nego sto odbrana uopste stigne da sakupi reputacione signale.

Operativni znacaj je jednostavan: ako model preporuci link, mnogi korisnici, agenti i developeri ga tretiraju kao podrazumevano pouzdan. Tako halucinirani URL postaje stvarna napadna povrsina bez phishing mejla, bez korisnickog typo-a i bez zlonamernog oglasa izmedju. Sam model postaje prvi referral kanal.

Zasto je ovo vise od obicnog zlonamernog domena

Unit 42 je pokazao da modeli cesto dosledno haluciniraju iste obrasce domena. To napadacima daje predvidivu listu meta. U istrazivanju je generisano vise od dva miliona linkova kroz stotine hiljada promptova, preko trinaest hiljada njih je vec bilo poznato kao maliciozno, a oko cetvrt miliona izmisljenih domena bilo je slobodno za registraciju. Zbog toga je phantom squatting vise planirano prepozicioniranje nego nasumican model noise.

• Sveze registrovan halucinirani domen nema negativnu reputaciju, pa mnogi filteri na startu nemaju sta da oznace.
• Razliciti modeli mogu da izmisle isto lazno odrediste za isti brend ili isti use case.
• Developeri i AI agenti sve cesce automatski otvaraju, indeksiraju ili koriste linkove koje predlozi model.
• Isti problem poverenja moze podrzati phishing kitove, malware distribuciju i klonirane storefront-ove.

Sta security i AI platform timovi prvo treba da promene

1) Tretiraj model-generisane linkove kao nepoverljiv ulaz

AI linkove treba tretirati isto kao user-submitted URL-ove ili third-party sadrzaj. Asistentima, internim botovima i coding agentima ne treba dozvoliti da otvaraju ili preuzimaju sa model-generisanih domena bez provere. Canonical-domain provera, allowlist-e i browser isolation ovde vrede vise od slepog komfora.

2) Nadgledaj verovatne phantom domene pre nego sto budu zloupotrebljeni

Posto halucinacije mogu biti dosledne, odbrana moze da testira iste brendove i workflow-e nad modelima koje firma koristi, da mapira lazne domene koji se ponavljaju i da prati njihovu registraciju. Tako se iritantno LLM ponasanje pretvara u early-warning signal za brand abuse, phishing i malware hosting.

3) Smanji autonomno poverenje u agent workflow-ima

Agent sistemi koji browsuju, obogacuju tickete, rade research ili prate spoljne reference traze jace guardrail-e. Validacija linka, reputation check, provera starosti domena i execution gate treba da stoje izmedju model preporuke i bilo koje privilegovane akcije. Inace halucinirani domen lako postaje automacijom podrzan put do kompromitacije.

Prioritetna response checklista

Zakljucak

Phantom squatting podseca da AI halucinacije nisu samo reliability problem. U pogresnom workflow-u postaju kanal za prevaru, kradju kredencijala i malware. Timovi koji tretiraju AI-generisane linkove kao nepoverljive, nadgledaju predvidive phantom domene i ogranicavaju autonomiju agenata bice mnogo spremniji od timova koji model output smatraju bezazlenim draftom.