• 我的订阅
  • 科技

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

类别:科技 发布时间:2023-05-30 11:39:00 来源:英国那些事儿

ChatGPT推出后,很多白领惶惶不可终日,

曾经伏案多日才能完成的文字工作,AI轻轻松松就能生成。

我们之前写过,44%的工作将被AI取代,

其中,法律行业是“失业重灾区”。

但最近一个官司,让法律人重振精神,

用AI打官司可能没那么快,至少现在还不行,

因为AI太能胡编乱造了……

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

这起官司本身非常简单,小到简直不值一提:

2019年,罗伯特·马塔(Roberto Mata)乘坐哥伦比亚航空的航班,从萨尔瓦多飞往纽约的肯尼迪国际机场。

在飞机上,一名乘务员推着金属推车,不小心撞到了马塔的膝盖。

马塔大呼小叫,说自己受了重伤,要航空公司赔偿。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

几年后,马塔向曼哈顿联邦法院起诉哥伦比亚航空。

航空公司说案件已经过了追诉期,建议法官撤销此案。

马塔自然不答应,他让律师洋洋洒洒写了十页纸,引用从1999年到2019年的六起案件,用它们来论证为什么时效已过,航空事故案仍该被审理。

律师援引的案件看着很规范,它们包括:

瓦吉斯诉中国南方航空案,2019年;

沙波诉埃及航空案,2013年;

彼得森诉伊朗航空案,2012年;

马丁内斯诉达美航空案,2019年;

德登地产诉荷兰皇家航空案,2017年;

米勒诉联合航空案,1999年。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

这些案件都配有大段大段的引文,原告和被告公司之间的恩怨情仇写得清清楚楚。

这份翔实的法律摘要交上去,一定能打动法官大人的心吧?

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

就在马塔等人等待的时候,哥伦比亚航空请的律师懵逼了,

他全网翻了个遍,都找不到对方律师引用的案件!

被告律师写信告诉卡斯特法官:“瓦吉斯诉中国南方航空案似乎不存在……我们无法通过它的标题或引文找到此案,也找不到任何相似的案件。”

“虽然法律摘要里含有瓦吉斯的冗长引语,但我们找不到这段话的出处。”

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

瓦吉斯的引语里提到2008年的大韩航空案件。他说这起案件是美国联邦第十一巡回上诉法院判的。

但被告律师询问了第十一巡回上诉法院,对方说他们没判过此案。

收到信后,卡斯特法官也懵圈了,

他在案件资料库中搜寻一番,同样没有找到案件的出处。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

卡斯特法官要求马塔的律师给出案件判决书的副本,他们给了八份文件,里面列出每个案子的受理法院、法官、档案标号和日期。

其中,光是瓦吉斯案的判决书就有六页纸,上面标注了撰写人的名字和所属法院。

虽然姓名是真实的,法院也是存在的,

但……这些判决书本身是虚构的,案件根本不存在!

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

卡斯特法官气坏了,他说自己从业多年,从未见过这种事。

“真是岂有此理!引用了六个案件,全部是虚假的判决、虚假的引文和虚假的内文引用。”

卡斯特法官下令调查这是怎么回事。原来,法律摘要不是马塔的律师彼得·洛杜卡(Peter LoDuca)写的,而是他的老同事斯蒂芬·史华兹(Steven Schwartz)写的。

史华兹当了30年律师,第一次被爆出伪造案件。

他光速认错,说这些内容也不是他写的,

而是,嗯……ChatGPT写的。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

“我很后悔自己依赖ChatGPT。我以前从未在打官司的时候用它,但这次我用了。我不知道它给的内容可能是假的。”

史华兹和ChatGPT的聊天记录显示,他根本没做案件研究,全是AI完成的。

他只提供简单的思路,让ChatGPT找出能支撑论据的案子,然后让它摘取能用的引述。最后把AI给的内容缝合一下,法律摘要就写完了。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

从聊天记录里看,史华兹也曾对案件的真实性有所怀疑。他也专门再问了ChatGPT确认

S:“瓦吉斯是真实的案件吗?”

ChatGPT:“是的,瓦吉斯诉中国南方航空案(第11巡回法院,2019)是真实的案件。”

S:“出处在哪里呢?”

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

ChatGPT:“抱歉我之前可能给您带来困惑。瓦吉斯诉中国南方航空案是真实存在的案件,它可以在法律研究数据库,比如Westlaw和LexisNexis中找到。我很抱歉我之前的回答可能给您造成疑惑。”

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

S:“那还有别的案件是虚假的吗?”

ChatGPT:“没有。我提供的案件都是真实的,可以在声誉极好的数据库Westlaw和LexisNexis中找到。”

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

史华兹有些委屈地告诉媒体:

“我问了ChatGPT它给的信息是不是真的,它说是真的。”

额,也就是说,他不光相信ChatGPT搜索信息的能力,还相信它有判断力。

既然它说自己是对的,那就是对的。

不知道该说是太天真,还是太愚蠢……

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

卡斯特法官下令在6月份举行听证会,将对所有牵涉伪造的律师进行惩罚。

伪造案件可是大丑闻,这家律师事务所怕是要遭殃了。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

纽约大学的法律伦理学教授史蒂芬·吉勒斯(Stephen Gillers)说,虽然此案看上去有点喜剧,但背后的问题很大。

“律师界一直在讨论如何避免使用虚假的AI信息。我们不能简单地将AI给的文字粘贴到法庭文件里,我们需要自己去查。”

其实,AI最擅长的就是一本正经地胡说八道,这种现象已经有个专有词汇,叫“人工智能幻觉”。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

明明无中生有,它说真实存在;

明明大错特错,它说完全正确。

这是因为AI本质上只是语言预测模型,它根据前一句话来预测后一句话,并不清楚其中的道理和逻辑。

但它那自信满满的语气,会让人类对它抱有过高的期望。

前不久,大学教授霍尔为了让学生了解到“幻觉”的可怕,布置了一项特殊的作业。

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

他给学生一个作文题目,要求他们用ChatGPT生成文章,然后再给文章纠错。

结果发现,全班63篇文章,每篇都存在错误信息。

“虚假的引文、虚假的来源、来源真实但理解错误或拼写错误。每一份作业都有这些。我都震惊了,我知道错误比例会很高,但没想到那么高。”

美国律师偷懒用ChatGPT打官司,惨烈翻车!各种案例张嘴就胡编?

“学生们最大的收获是,人不能完全依赖AI。在此之前,很多学生都觉得AI永远是正确的,他们这次惊呆了,发现它很能误导人。大约一半的学生不知道AI能编造谎言。这次清醒过来后,他们对AI伪造信息的能力感到担忧和害怕。”

到目前为止,AI编谎话的现象没有解决办法。AI公司能做到的只是提醒人们,AI生产的内容并不完全可信。

一想到这点,全球白领应该能缓口气,

人类虽然也会犯错,但至少有自知之明,知道哪里有问题。

AI目前这个理直气壮胡说八道的架势,还是有点没谱啊……

ref:

https://www.bbc.com/news/world-us-canada-65735769

https://www.telegraph.co.uk/world-news/2023/05/27/lawyer-chatgpt-made-up-cases/

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

--------------------

水灯游春

:想起那个引用了chatgpt案例写进论文结果导师对这个案例产生好奇让把原文发一下,一查发现是AI编的惨案

可爱淘气喵

:一脸严肃一本正经的胡说八道

淆秣秣_AR

:这跟我写作业写工作有啥区别 都是我一本正经胡说的啊

黑提冰沙盐酥鸡

:尴尬死了 交的征文和同事的一毛一样????原来用的是同一个ai

黑森林的空气:Gpt学会干活前先学会了划水

悦如舞 :我已经发现了,我问了一个我熟悉的领域的问题,发现完全是胡说,就是一个搞笑工具而已。

江停_Official :

我让他写书评 它连书都是编的

以上内容为资讯信息快照,由td.fyun.cc爬虫进行采集并收录,本站未对信息做任何修改,信息内容不代表本站立场。

快照生成时间:2023-05-31 09:45:29

本站信息快照查询为非营利公共服务,如有侵权请联系我们进行删除。

信息原文地址:

因用ChatGPT打官司,从业30年的律师反遭制裁:6个案例全是假的
用户 5 天破百万、2 个月月活破亿、App 上架 6 天下载量突破 50 万次……ChatGPT 用这些数据证明,它在全球范围内是怎样的“实火”
2023-05-30 11:03:00
纽约两名律师因使用ChatGPT打官司被定罪 罚款36000元
IT之家 6 月 26 日消息,据路透社报道,美国曼哈顿地区法官 P. Kevin Castel 近日决定,责令律师 Steven Schwartz
2023-06-27 13:46:00
新闻CT | 和自己打官司的独生女:母亲去世,父亲失智,路在何方?
...了律师担任代理人,但该案实际上仍是宋颖“自己和自己打官司”。在以往的案例中,遇到此类情况,通常会由宋父的其他近亲属出面,作为宋父的诉讼代理人。但在本案中,宋父的亲人要么已去世
2023-02-13 16:18:00
特朗普丑闻缠身官司不断,竟用捐赠资金支付1000万美元律师费
...织两年内就筹集了近7200万美元资金。加上2021年为特朗普打官司支付的法律费用,“拯救美国政治行动委员会”一共为特朗普花了1600万美元。据《泰晤士报》统计,特朗普的律师费
2023-02-22 15:31:00
现实版黑暗荣耀发生了?没想到女主换成了她!
...他听到了剁排骨一样的声音,头部被砍了五十多刀。如此惨烈的现场,在后续的庭审中,男方的表现是什么样的呢?没有忏悔,没有痛哭流涕回忆往昔恩爱的夫妻生活,给了自己减刑反而倒打一耙,
2023-06-07 11:02:00
“抢夺、藏匿孩子”,从“家务事”到最高法的典型案例
...诉诸法院打离婚官司,通过获得抚养权来“夺”回孩子。打官司的过程是漫长的,当事人要先诉讼离婚以获得抚养权,即便如愿,对方可能还是不愿意送回孩子,向法院申请强制执行也面临重重障碍
2024-01-12 15:42:00
王力宏方否认李靓蕾美国胜诉:我方无从评论
搜狐娱乐讯 近日,李靓蕾开播客分享自己与王力宏打官司的心情,并称自己在美国的官司胜诉。但王力宏律师透过台媒回应并否认李靓蕾在美国胜诉:“法律讲的是事实,不是感觉。对于李小姐自我感
2023-06-07 16:00:00
李靓蕾小作文不好使了?离婚案开庭,王力宏律师出大招列4点反击
...笔。不过李靓蕾和王力宏其实并没有离婚成功,他们还在打官司,拖了很久。今天,这个案子要开庭了,李靓蕾发文说,王力宏利用其人脉资源以及权势打压她,和规避应当履行的义务,强调王力宏
2023-02-15 07:00:00
惊天大反转!王力宏官司胜诉,900万财产被解冻,还将参加《歌手》重返巅峰?
...有说太多,只表示这场官司是在台湾与香港同时进行,在打官司期间李靓蕾白天要学习并照顾孩子,晚上则需要准备资料打官司,早上五点钟又要起床给孩子们准备早餐,如此忙碌的生活让她疲惫不
2024-05-23 13:40:00
更多关于科技的资讯: