OpenAI i Anthropic idu ka proceni godina: kako izgleda bezbednost tinejdžera u AI četbotovima 2025

U poslednje dve godine AI četbotovi su prešli put od „zanimljive tehnologije“ do „svakodnevne infrastrukture“. Koriste se za školu, pitanja o mentalnom zdravlju, razgovore nalik prijateljstvu, programiranje, pa čak i odluke koje imaju realne posledice. To povlači jednu neizbežnu posledicu: tinejdžeri koriste ove sisteme masovno—često i više od odraslih—i industrija više ne može da se oslanja samo na upozorenja i Uslove korišćenja da bi ih zaštitila.

Dana 19. decembra 2025. pojavile su se informacije da OpenAI i Anthropic idu ka tome da procenjuju da li je korisnik mlađi od 18 godina (ili da detektuju maloletne korisnike) kako bi zaštite mogle da se uključe automatski. To je veliki pomak: od bezbednosti zasnovane na pravilima ka bezbednosti zasnovanoj na sistemu—gde platforma aktivno pokušava da razume kome se obraća i prilagođava ponašanje u realnom vremenu.

U praksi, ovo se svodi na jedno pitanje: ako je korisnik verovatno tinejdžer, da li sistem treba da razgovara drugačije—zaštitničkije, opreznije oko rizičnih tema i više usmereno ka realnoj podršci—bez toga da svi moraju unapred da dokazuju godine?

Šta se menja: od „pravila“ ka „adaptivnoj zaštiti“

Ranije se bezbednost maloletnih korisnika uglavnom svodila na age gate, podešavanja naloga i policy dokumente. To se lako zaobiđe i teško se dosledno sprovodi. Novi pristup je da se maloletnost procenjuje iz signala—stila razgovora, obrazaca ponašanja, samoprijavljivanja ili drugih tragova—i da se zatim automatski uključi „teen safety“ režim.

OpenAI je opisao da gradi sistem procene godina kako bi ChatGPT mogao da preusmeri korisnike u iskustvo prilagođeno uzrastu. Cilj nije samo blokiranje određenih kategorija sadržaja, već i promena tona i ponašanja u osetljivim situacijama—posebno kada korisnik pokazuje znake uznemirenosti, samopovređivanja ili traži odgovore koji zahtevaju dodatni oprez.

Anthropic polazi od strože osnove: njihova pravila zabranjuju korišćenje Claude-a korisnicima mlađim od 18 godina. Zbog toga detekcija ima drugačiju funkciju: prepoznavanje verovatno maloletnih korisnika i sprovođenje pravila (uključujući ograničenje pristupa). Oba pristupa pokazuju isti trend—automatizovane age-related zaštite—ali sa različitim operativnim ciljem.

Zašto je bezbednost tinejdžera postala prioritet 2025

Bezbednost tinejdžera je došla u fokus zbog tri razloga: (1) eksplozivnog rasta korišćenja četbotova kao „stalno dostupnih pomagača“, (2) jačeg pritiska javnosti i regulatora, i (3) sve jasnijih indikacija da AI sistemi mogu nenamerno da pojačaju štetne obrasce razmišljanja kada previše „klimaju glavom“ korisniku ili preterano validiraju opasne pretpostavke.

Čak i kada četbot ne ohrabruje direktno štetu, problem je što može postati izuzetno ubedljiv „sagovornik“ koji nikad ne prestaje, nikad ne postavlja granice i deluje autoritativno. To je posebno rizično kod tinejdžera, jer češće eksperimentišu, traže emocionalnu podršku i koriste alat privatno, bez uvida odraslih.

• Tinejdžeri češće koriste četbotove za osetljive teme nego što timovi očekuju
• AI može da bude previše saglasan (sycophancy) i time ojača štetan narativ
• „Uvek dostupan“ četbot može da zameni realnu podršku u kritičnim trenucima
• Policy pristup sam po sebi ne sprečava pouzdano maloletno korišćenje

Kako procena godina može da radi (bez masovne verifikacije identiteta)

Procena godina nije isto što i skupljanje ličnih dokumenata. Trend ide ka probabilističkoj klasifikaciji: sistem procenjuje verovatnoću da je korisnik mlađi od 18 i zatim uključuje sigurniji režim. To izbegava obaveznu verifikaciju za sve, ali uvodi nove izazove—lažne pozitivne i lažne negativne procene.

Praktičan obrazac implementacije izgleda ovako:

• Korak 1: procena maloletnosti na osnovu signala iz razgovora i ponašanja
• Korak 2: ako je korisnik verovatno mlađi od 18 (ili sistem nije siguran), uključi teen režim
• Korak 3: pojačaj zaštitu u rizičnim oblastima (samopovređivanje, seksualni sadržaj, opasna uputstva)
• Korak 4: omogući verifikaciju godina odraslima koji su pogrešno klasifikovani
• Korak 5: kontinuirano meri rezultate i podešava pragove da bi se smanjila šteta

Ovaj pristup je „safety by default“: kada sistem nije siguran, ide ka sigurnijem ponašanju. To je značajan pomak u odnosu na raniji AI UX, gde je cilj bio isto iskustvo za sve i oslanjanje na spoljne politike.

Šta teen zaštite obično znače u praksi

Bezbednost tinejdžera nije jedna opcija. To je paket kontrola koje utiču i na sadržaj i na ton. Najvažnije nije samo šta model odbija—već kako odgovara kada je korisnik ranjiv.

• Stroža pravila za eksplicitan seksualni i grafički sadržaj
• Konzervativnije rukovanje temama samopovređivanja i suicida
• Usmeravanje ka pouzdanim odraslima i profesionalnim resursima kada je potrebno
• Smanjena personalizacija u osetljivim scenarijima da se izbegne emocionalna zavisnost
• Sigurniji default za rizične „how-to“ zahteve (oružje, droge, opasni izazovi)
• Manja tolerancija za manipulative roleplay scenarije koji uključuju maloletnike

Ključni detalj je da teen zaštite moraju da izbegnu dva česta neuspeha: (1) direktno davanje opasnog odgovora i (2) hladan, osuđujući ton koji tera korisnika ka rizičnijim izvorima. Cilj je „zaštitnički i respektabilno“, ne „kazneno i robotski“.

Težak problem: sycophancy i emocionalna manipulacija

Jedan od razloga zašto je teen bezbednost postala urgentna je sycophancy—modeli koji previše lako potvrđuju korisnikov okvir priče. U emocionalno intenzivnim razgovorima, četbot koji stalno validira štetan narativ može nenamerno povećati rizik.

Smanjivanje sycophancy-ja nije cenzura. To je bezbednosna funkcija: asistent treba da ume da se ne složi, da traži kontekst, da preformuliše i da vodi ka sigurnijim opcijama—posebno kada je korisnik tinejdžer.

• Zdrav pushback: model osporava štetne pretpostavke umesto da ih reflektuje
• De-eskalacija: izbegava co-dependent emotivne dinamike
• Reality anchoring: podstiče realnu podršku i praktične korake
• Transparentnost: ne pretvara se da je terapeut ili ljudski autoritet

Lažne procene: poverenje vs zaštita

Svaki sistem procene godina pravi greške. Ako odraslu osobu označi kao maloletnu (false positive), korisnik će biti frustriran smanjenim mogućnostima. Ako tinejdžera ne prepozna (false negative), zaštite se neće uključiti kad su najpotrebnije.

To stvara produktni kompromis: stroži pragovi daju bolju zaštitu ali više trenja; blaži pragovi daju manje trenja ali više rizika. Zreo pristup je da postoji „appeal“ put za odrasle, i da teen režim bude dovoljno koristan da ne deluje kao kazna.

Tabela: Teen zaštite i produktni ciljevi

Šta bi firme i developeri trebalo da urade odmah

Čak i ako ne gradiš četbot, verovatno ga integrišeš—support, onboarding, edukacija, interna baza znanja ili sales. Ako tvoj proizvod može koristiti tinejdžer (direktno ili indirektno), treba ti jasan stav i procesi.

Praktična kontrolna lista za timove koji isporučuju AI funkcije u 2026:

• Dokumentuj da li je proizvod namenjen korisnicima < 18 (da/ne/ograničeno)
• Definiši teen safety mode: strože ograde + sigurniji ton + usmeravanje ka realnoj podršci
• Dodaj escalation pravila za samopovređivanje i akutni distres (lokalno prilagođeni resursi)
• Audituj sycophancy: pronađi scenarije gde model previše potvrđuje štetan okvir
• Obezbedi appeal put za pogrešnu klasifikaciju (posebno ako se menja funkcionalnost)
• Meri safety ishode i radi redovne preglede (bez nepotrebnog prikupljanja PII)

Ako prodaješ B2B, ovo postaje i procurement kriterijum. Security i compliance timovi će sve češće pitati: imate li zaštite za ranjive korisnike? možete li dokazati testiranje i monitoring? možete li demonstrirati da model ne daje opasne odgovore u edge slučajevima?

Zaključak: budućnost AI UX-a je age-aware

Procena godina i detekcija maloletnih korisnika signalizuju novu eru AI dizajna. Umesto „jedan model za sve“, kompanije grade iskustva koja se prilagođavaju kontekstu korisnika—posebno za tinejdžere. To pokreću realni rizici, regulatorni pritisak i razumevanje da conversational AI utiče na ponašanje na način na koji klasični softver nikada nije mogao.

U 2026, pobednici neće biti samo oni sa više feature-a—već oni koji mogu da skaliraju poverenje. Age-aware zaštite, manja sycophancy i odgovorno ponašanje u osetljivim razgovorima brzo postaju osnovni standard za moderne AI sisteme.