加拿大女律师使用ChatGPT 闹出笑话
来源:倍可亲(backchina.com) 专题:多伦多大都市区 相关新闻报道人工智能(AI)热潮来临,不少产业都开始引进相关技术,AI也逐渐成为许多人学习、工作时的好帮手。 然而,目前的AI技术仍有不足,一不小心就可能造成“灾难性”后果。 加拿大(专题)1名女律师近日就被指控,在一桩儿童监护权官司中,用ChatGPT写诉状,被抓包竟然引用了2个根本不存在的案例,不止闹出笑话,还为职业生涯带来危机。
根据《加拿大广播公司》(CBC)报道,加拿大卑诗省1名女律师帮1名中国裔陈姓富商打离婚官司,对方净资产据说高达7000万至9000万美元,前妻和3个孩子住在西温哥华一栋价值840万美元的房子里。 去年12月,当地法院根据该富商的年收入100万美元计算后,命他须每月支付16062美元的子女扶养费。
后来,陈姓富商要求准许他带着孩子前往中国旅行,认为前妻缺乏拒绝的法律依据,而帮他写诉状的女律师在去年12月提交的诉状中,提到2个相关案例,是她用ChatGPT搜寻全球同类案件时,得到的结果,希望藉此支持富商的主张。 然而,当前妻的律师上网寻找诉状里提到的2个案例时,却怎么都找不到,最后证实那2个所谓的案例,根本就是ChatGPT捏造出来的,现实并不存在。
卑诗省最高法院的法官表示,虽然相信该律师不是故意欺骗法庭,但仍命她须支付对方律师因事件衍生的费用,直言:“本案已经表明,生成式AI仍然无法替代律师所需的专业知识,选择和使用任何技术工具(包括AI)的能力至关重要。 ”
分析指出,人工智能固然可以成为有力的帮手,只需几秒钟,就可以完成通常需要几个小时甚至几天才能完成的工作,但部分专家认为,司法系统的诚信正受到威胁。 加拿大新苏格兰省律师协会的法律顾问索米尔(Jonathan Saumier)就表示,现在有不少律师会在工作时以AI辅助,包含管理工作行程表、起草合约、进行法律研究等,不是不能用,但务必检查工作内容,如果法律界错将不准确的信息,引用成先例、参考文献等等,恐怕会使整个系统的完整性处于危险中。
加拿大曼尼托巴大学(University of Manitoba)的法律系助理教授西拉吉(Katie Szilagyi)也认为,如果人性是司法系统的核心价值,那就不宜将太多决策权“外包”给非人类的实体,这对于作为社会组织力量的法治来说,可能会出现问题。