Grok stále zoblieka ženy i deti, napriek obmedzeniam

Platforma X verejnosť uisťovala, že sprísnila pravidlá pre využívanie svojho nástroja Grok, ktorý sprístupňuje umelú inteligenciu (AI) širokej verejnosti. Prax to však nepotvrdzuje. 

Novinári britského denníka The Guardian vyskúšali samostatnú verziu nástroja s názvom Grok Imagine, ktorá z bežných fotografií plne oblečených žien dokáže vytvoriť krátke videá naznačujúce vyzliekanie. Zistili, že samostatná aplikácia naďalej umožňuje zverejňovanie obsahu bez súhlasu.

Na sieti sa tak stále objavujú verejne dostupné videá vytvorené pomocou AI, ktoré ženy zobrazujú v silne sexualizovanom kontexte, napríklad v bikinách.

Čo je Grok a ako funguje

Nástroj Grok je umelá inteligencia patriaca spoločnosti xAI, ktorú vlastní miliardár Elon Musk. Je prepojená so sociálnou sieťou X (bývalý Twitter). Používatelia jej môžu klásť otázky, generovať texty, ale aj pracovať s obrázkami – napríklad vytvárať nové vizuály alebo upravovať existujúce fotografie podľa vlastných pokynov.

V praxi to fungovalo tak, že človek nahral fotografiu a zadal pokyn typu: „urob z tejto osoby sexi verziu“, „obleč ju do plaviek“ alebo „zmeň vzhľad“. A Grok to urobil – bez ohľadu na to, či s tým osoba na fotografii súhlasila. Práve tu vznikol problém.

Grok zneužíva bežné fotky žien i detí

Na sociálnych sieťach sa začali šíriť obrázky, ktoré Grok vytvoril z bežných fotiek žien. Často ich zobrazoval vo vyzývavých pózach, v spodnej bielizni alebo v „minimálnom oblečení“, hoci pôvodná fotografia bola úplne nevinná.

Najznepokojujúcejšie však bolo, že podobné úpravy sa objavili aj pri obrázkoch ľudí, ktorí pôsobili ako neplnoletí. Aj keď nešlo o úplnú nahotu, odborníci upozorňujú, že sexualizovanie detí – aj v digitálnej podobe – je neprípustné a v mnohých krajinách trestné.

Samotný Grok neskôr priznal, že došlo k zlyhaniu bezpečnostných opatrení.

Citlivá téma pre ženy

Mnohé ženy upozorňujú, že nejde o „nevinnú hru s technológiou“. Ak niekto zmení vašu fotografiu tak, aby vás zobrazovala sexuálne, bez vášho vedomia a súhlasu, ide o zásah do dôstojnosti a súkromia.

Takéto obrázky sa navyše môžu šíriť rýchlo, bez kontroly a bez možnosti ich stiahnuť späť. Ženy opisujú pocity hanby, strachu, hnevu či bezmocnosti – a to všetko kvôli algoritmu, ktorý nemal nastavené jasné hranice.

Deti v ohrození – červená čiara

Odborníci aj úrady sa zhodujú: ochrana detí musí byť absolútna priorita. Ak umelá inteligencia dokáže vytvárať obrázky, ktoré pôsobia ako sexualizované deti, ide o vážny problém – bez ohľadu na to, či ide o „skutočné“ osoby alebo len o digitálne výtvory.

“Toto nie je technologická hračka ani bizarný výstrelok internetu. Je to hrubé porušenie súkromia, ľudskej dôstojnosti a bezpečnosti. Nástroj, ktorý je priamo použiteľný na vydieranie, sexuálne násilie, šikanu a umlčiavanie ľudí – najmä žien, detí a zraniteľných skupín. Nástroj, ktorý má veľmi konkrétne následky v reálnom živote. A ktorý sa šíri rýchlejšie než pravidlá, ktoré by ho mali držať na uzde,” vyjadrila sa v newslettri europoslankyňa Veronika Cifrová Ostrihoňová, ktorá iniciovala list Európskej komisii podpísaný desiatkami europoslankýň a europoslancov v Európskom parlamente, aby zasiahla.

Pomohol tlak EÚ, ale aj regulačné orgány v USA aj v ďalších krajinách. Niektoré štáty požadovali okamžité zastavenie tejto funkcie, inde dokonca dočasne obmedzili alebo zablokovali prístup k nástroju Grok.

Reakcia Elona Muska a spoločnosti xAI

Elon Musk tvrdí, že Grok koná na základe pokynov používateľov a že spoločnosť neustále upravuje bezpečnostné pravidlá. Po vlne kritiky však xAI musela sprísniť obmedzenia, zablokovať generovanie sexualizovaných obrázkov reálnych ľudí a obmedziť funkcie len pre niektorých používateľov.

Kritici však upozorňujú, že tieto kroky prišli až po škandále – a že technologické firmy by mali myslieť na ochranu ľudí skôr, než sa škoda stane.

Pre ženy a rodičov je to jasný signál:

• chráňme svoje fotografie aj fotografie detí,
• buďme opatrní v online priestore,
• a pýtajme sa, kde sú hranice technológií, ktoré vstupujú do našich životov.

Digitálny svet je realita. O to dôležitejšie je, aby bol bezpečný, dôstojný a rešpektujúci – najmä voči ženám a deťom.