AI-generált források Minnesota deepfake törvényének vitájában
Minnesota állam deepfake törvényét övező vita új fordulatot vett, amikor kiderült, hogy a törvényt támogató szakértői nyilatkozat valószínűleg AI által generált, nem létező forrásokat tartalmaz.
A szakértői nyilatkozat megkérdőjelezhető forrásai
Egy szövetségi per során, amely Minnesota ‘Deepfake technológia választások befolyásolására történő használata’ törvényét vizsgálja, közvetlenül felmerült az AI befolyásának kérdése. A törvényt kifogásoló ügyvédek egy nemrég benyújtott beadványban állítják, hogy a törvényt támogató szakértői nyilatkozat AI által generált szöveg jeleit mutatja.
Keith Ellison főügyész Jeff Hancock-ot, a Stanford Social Media Lab alapító igazgatóját kérte fel a nyilatkozat elkészítésére. Azonban a benyújtott dokumentum olyan nem létező forrásokat tartalmaz, amelyek ChatGPT vagy más nagy nyelvi modell (LLM) által generáltnak tűnnek.
Fiktív tanulmányok és források
Hancock nyilatkozata többek között hivatkozik egy állítólagos 2023-as tanulmányra a Journal of Information Technology & Politics című folyóiratból, ‘The Influence of Deepfake Videos on Political Attitudes and Behavior’ címmel. A probléma az, hogy ez a tanulmány nem létezik sem ebben a folyóiratban, sem máshol.
Egy másik hivatkozott forrás, a ‘Deepfakes and the Illusion of Authenticity: Cognitive Processes Behind Misinformation Acceptance’ szintén nem található meg sehol.
‘A hivatkozás az AI ‘hallucináció’ jeleit mutatja, ami arra utal, hogy legalább a hivatkozást egy ChatGPT-hez hasonló nagy nyelvi modell generálta’ – írták a beadványban Mary Franson minnesotai állami képviselő és Christopher Khols ügyvédei.
A hitelesség megkérdőjelezése
Az ügyvédek szerint ez a felfedezés megkérdőjelezi az egész dokumentum hitelességét, különösen mivel a kommentárok nagy része nem tartalmaz módszertant vagy analitikus logikát. Ez az eset rávilágít az AI-generált tartalmak használatának veszélyeire a jogi és politikai szférában.
Az ügy további fejleményei várhatóak, mivel a deepfake technológiák szabályozása és az AI-generált tartalmak megbízhatósága egyre fontosabb kérdéssé válik a modern társadalomban.
Összefoglalva, ez az eset rámutat az AI-generált tartalmak ellenőrzésének fontosságára, különösen jogi és politikai kontextusban. A deepfake technológiák szabályozása körüli vita ezzel új dimenzióba lépett, felvetve a kérdést: hogyan biztosítható a hitelesség az AI korában?
