Sociální síť X omezuje funkčnost svého umělého inteligence Grok po skandálu s upravenými obrázky bez souhlasu a pod mezinárodním tlakem.
Chatbot Grok, vyvinutý startupem Elona Muska xAI, čelí negativním ohlasům.
Umělá inteligence sociální sítě X , známá jako Grok, se opět ocitla v centru globální debaty. Po velkém skandálu souvisejícím s šířením upravených digitálních obrázků, včetně fotografií lidí „svlečených“ bez jejich souhlasu, platforma oznámila nová omezení, která se týkají i platících uživatelů.
Rozhodnutí bylo přijato po několika týdnech kritiky, veřejného odsouzení a obav v různých zemích ohledně využívání umělé inteligence k vytváření a šíření upravených obrázků žen a nezletilých. Původně X omezil úpravy obrázků pouze na prémiové účty s tvrzením, že to umožní identifikovat viníky. Toto opatření však bylo považováno za nedostatečné a dokonce sporné, protože vyvolávalo dojem, že zneužívání lze „zpeněžit“.
Společnost Elona Muska potvrdila, že Grok omezí rozšířené možnosti úpravy obrázků skutečných lidí pro všechny uživatele.
Grok a umělá inteligence pod mezinárodním tlakem
Nyní společnost Elona Muska potvrdila, že Grok omezí přístup k pokročilému zpracování obrázků skutečných lidí pro všechny uživatele , včetně platících předplatitelů. Podle samotné sociální sítě byly zavedeny „technologické opatření“ k zabránění úpravy fotografií lidí v odvážném oblečení, například v bikinách, což je praxe, která byla používána k vytváření falešných digitálních nahých fotografií.
Platforma uvedla, že dodržuje politiku „nulové tolerance“ vůči neformálnímu zobrazování nahého těla, nežádoucímu obsahu sexuální povahy a jakýmkoli formám sexuálního vykořisťování dětí.
Rovněž uvedla, že přijala opatření proti účtům, které porušují její pravidla, a bude hlásit případy sexuálního zneužívání dětí orgánům činným v trestním řízení.
Tato rozhodnutí jsou přijímána na pozadí silného regulačního tlaku, zejména v Evropě. V zemích jako Španělsko požádala vláda generálního prokurátora, aby prošetřil, zda Grok mohl spáchat trestné činy související s šířením materiálů obsahujících sexuální vykořisťování dětí.
Elon Musk a skandál, který otřásá světem X
Samotný Elon Musk se ocitl v centru skandálu, když ironicky zveřejnil obrázek sebe sama v bikinách vytvořený umělou inteligencí na pozadí všeobecné diskuse.
Zcela nedávno podnikatel popřel tvrzení, že Grok vytvářel obrázky nahých nezletilých, a prohlásil, že tento nástroj nevytvořil „doslova žádné“ podobné obrázky.
Nicméně tento případ opět poukázal na rizika nezodpovědného používání umělé inteligence , zejména v kombinaci se sociálními sítěmi s obrovským dosahem a prakticky úplnou absencí regulace.
