3 月 26 日，在紐約州最高法院上訴部第一司法部（New York State Supreme Court Appellate Division’s First Judicial Department）庭審期間，一名自我辯護的原告德瓦爾德（Jerome Dewald）提交了一段影片作為法律陳述。然而，播放後法官震驚發現，畫面中的「律師」竟是一個由人工智能生成的虛擬人像，並非真人或具法律資格的代理人。
據美聯社報導，該虛擬人以標準開場語「敬啟法庭」開始發言，但旋即被法官曼薩奈特-丹尼爾斯（Sallie Manzanet-Daniels）打斷。
「上訴人提交了一段影片作為他的陳述，」曼薩奈特-丹尼爾斯說。「好，我們現在播放這段影片。」
螢幕上出現一名微笑、年輕、有雕塑般髮型、穿著襯衫與毛衣的男子。
「敬啟法庭，」這名男子開口說道。「我今天以謙卑的身分，以親自辯護者的身份，面對這五位傑出法官。」
「等等，」曼薩奈特-丹尼爾斯說。「這是該案的律師嗎？」
「是我創造的。那不是一個真人，」德瓦爾德回答。
事實上，那是一個由人工智能生成的虛擬人像。法官當場不悅。
「你在申請時沒告訴我這一點，若你早說就好了。你沒有說明這一點，先生，」曼薩奈特-丹尼爾斯說，然後高聲要求關掉影片。
「我不喜歡被誤導，」她說，隨後才允許德瓦爾德繼續親自陳述他的主張。
德瓦爾德事後道歉並坦承此虛擬人為自己利用三藩市（San Francisco）一間科技公司產品所製作，稱因無律師代表，且擔心自己陳述不清，才以虛擬人替代。他補充說，他試圖製作與自己相似的虛擬形象，但因時間不足未能完成。法院對此回應強烈，德瓦爾德坦言「被狠狠訓斥了一番」。
法律界近來亦出現類似爭議。2023 年，紐約有律師因使用 AI 工具引用虛構判例而遭罰款，特朗普前私人律師科恩（Michael Cohen）也曾在法律文件中誤用 AI 所捏造的裁決。亞利桑那州最高法院則另闢蹊徑，正式啟用兩位 AI 虛擬主播簡述法院裁決，名為「丹尼爾」與「維多利亞」。
專家指出，個人辯護者可能未被清楚告知使用 AI 工具的風險。法律學者申丹尼爾（Daniel Shin）表示，律師不會這樣做，但普通民眾可能因缺乏指引而誤用合成內容。德瓦爾德表示他密切關注法律科技趨勢，並曾參與美國律師協會有關 AI 的研討會。
該案件目前仍在上訴階段，尚未作出裁決。
–
新聞及封面圖片來源：美聯社
