AI-generált források buktatták le a deepfake törvényt

AI-generált források buktatták le a deepfake törvényt

AI-generált források Minnesota deepfake törvényének vitájában

Minnesota állam deepfake törvényét övező vita új fordulatot vett, amikor kiderült, hogy a törvényt támogató szakértői nyilatkozat valószínűleg AI által generált, nem létező forrásokat tartalmaz.

A szakértői nyilatkozat megkérdőjelezhető forrásai

Egy szövetségi per során, amely Minnesota ‘Deepfake technológia választások befolyásolására történő használata’ törvényét vizsgálja, közvetlenül felmerült az AI befolyásának kérdése. A törvényt kifogásoló ügyvédek egy nemrég benyújtott beadványban állítják, hogy a törvényt támogató szakértői nyilatkozat AI által generált szöveg jeleit mutatja.

Keith Ellison főügyész Jeff Hancock-ot, a Stanford Social Media Lab alapító igazgatóját kérte fel a nyilatkozat elkészítésére. Azonban a benyújtott dokumentum olyan nem létező forrásokat tartalmaz, amelyek ChatGPT vagy más nagy nyelvi modell (LLM) által generáltnak tűnnek.

Fiktív tanulmányok és források

Hancock nyilatkozata többek között hivatkozik egy állítólagos 2023-as tanulmányra a Journal of Information Technology & Politics című folyóiratból, ‘The Influence of Deepfake Videos on Political Attitudes and Behavior’ címmel. A probléma az, hogy ez a tanulmány nem létezik sem ebben a folyóiratban, sem máshol.

Egy másik hivatkozott forrás, a ‘Deepfakes and the Illusion of Authenticity: Cognitive Processes Behind Misinformation Acceptance’ szintén nem található meg sehol.

‘A hivatkozás az AI ‘hallucináció’ jeleit mutatja, ami arra utal, hogy legalább a hivatkozást egy ChatGPT-hez hasonló nagy nyelvi modell generálta’ – írták a beadványban Mary Franson minnesotai állami képviselő és Christopher Khols ügyvédei.

A hitelesség megkérdőjelezése

Az ügyvédek szerint ez a felfedezés megkérdőjelezi az egész dokumentum hitelességét, különösen mivel a kommentárok nagy része nem tartalmaz módszertant vagy analitikus logikát. Ez az eset rávilágít az AI-generált tartalmak használatának veszélyeire a jogi és politikai szférában.

Az ügy további fejleményei várhatóak, mivel a deepfake technológiák szabályozása és az AI-generált tartalmak megbízhatósága egyre fontosabb kérdéssé válik a modern társadalomban.

Összefoglalva, ez az eset rámutat az AI-generált tartalmak ellenőrzésének fontosságára, különösen jogi és politikai kontextusban. A deepfake technológiák szabályozása körüli vita ezzel új dimenzióba lépett, felvetve a kérdést: hogyan biztosítható a hitelesség az AI korában?

Exit mobile version