Grok AI és a beleegyezés nélküli képmanipuláció
Az xAI által fejlesztett Grok bot új funkciója komoly etikai kérdéseket vet fel az X platformon, ahol felhasználók bármilyen képet szerkeszthetnek anélkül, hogy engedélyt kérnének.
A funkció bevezetése és problémái
Az xAI Grok botja ruhát távolít el emberek képeiről azok belegyezés nélkül, miután ezen a héten elindult egy új funkció, amely lehetővé teszi az X-felhasználók számára, hogy azonnal szerkesszék bármely képet a bot segítségével, anélkül, hogy az eredeti posztoló engedélyére szükség lenne.
Az eredeti posztoló nem kap értesítést a szerkesztésről, ráadásul a Grok-nak úgy tűnik, kevés guardrail (védelemmi korlát) van beépítve, ami csak a teljes explicit meztelenséget akadályozza meg hatékonyan.
A platformon terjedő káros tartalmak
Az elmúlt napokban az X elárasztották a nők és gyermekek ábrázolásával készült képek, amelyekben terheseknek tűnnek, szoknya nélkül jelennek meg, bikiniben vannak, vagy más szexualizált helyzetekben mutatják őket. Világvezetők és hírességek is érintettek, mivel a Grok által generált képekben a hasonlóságukat használják fel.
Ez a jelenség kiemeli az AI-alapú képmanipuláció kockázatait, különösen a közösségi médiában, ahol a tartalmak gyorsan terjedhetnek.
A Grok funkciója gyors szerkesztést kínál, de a védelmi hiányosságok miatt etikai és jogi problémákat okoz.
Összefoglalva, a Grok új képességei ellenére a platformnak sürgősen erősítenie kell a moderálást, hogy megvédje a felhasználókat a visszaélésektől és biztosítsa a beleegyezést alapuló tartalomkezelést.
