AI-használat okozott problémákat egy fontos jogi ügyben
Egy dezinformációs szakértő beismerte, hogy ChatGPT-t használt egy jogi dokumentum elkészítéséhez, ami hibás hivatkozásokat eredményezett. Az eset rávilágít az AI-használat kockázataira jogi környezetben.
Jeff Hancock, a Stanford Social Media Lab alapítója elismerte, hogy ChatGPT-t használt egy jogi dokumentum hivatkozásainak rendszerezéséhez, ami ‘hallucinációkat’ eredményezett. A kritikusok szerint ez megkérdőjelezi az egész beadvány hitelességét.
A vitatott affidavit háttere
Hancock az affidavitot Minnesota állam ‘Deepfake technológia használata a választások befolyásolására’ törvényének támogatására nyújtotta be. A törvényt Christopher Khols, egy konzervatív YouTuber és Mary Franson minnesotai állami képviselő támadta meg a szövetségi bíróságon.
Miután felfedezték, hogy Hancock beadványa látszólag nem létező hivatkozásokat tartalmazott, Khols és Franson ügyvédei azt állították, hogy az ‘megbízhatatlan’, és kérték annak kizárását a mérlegelésből.
Hancock magyarázata
Egy későbbi nyilatkozatában Hancock elismerte, hogy ChatGPT-t használt a nyilatkozat vázlatának elkészítéséhez, de tagadta, hogy bármit is íratott volna vele. Azt állította, hogy Google Scholar-t és GPT-4o-t használt releváns cikkek azonosítására, és a GPT-4o-t a hivatkozási lista létrehozására.
Nem állt szándékomban félrevezetni a Bíróságot vagy az ügyvédeket. Őszintén sajnálom, ha ez bármilyen zavart okozott. Ennek ellenére határozottan kiállok a nyilatkozat minden lényegi pontja mellett.
Hancock hangsúlyozta, hogy a hivatkozási hibák ellenére a nyilatkozat lényegi pontjai változatlanok, és továbbra is támogatja azokat.
Tanulságok
Ez az eset rávilágít az AI-eszközök használatának potenciális kockázataira jogi és tudományos dokumentumok készítésénél. Bár ezek az eszközök hasznosak lehetnek a munkafolyamatok felgyorsításában, kritikus fontosságú az emberi felügyelet és ellenőrzés a pontosság és megbízhatóság biztosítása érdekében.
Az ügy továbbra is folyamatban van, és várhatóan precedenst teremt az AI-használat jogi következményeivel kapcsolatban.
