智利佳理（Carey）律师事务所主席何熠明（Jaime Carey）在《智利金融报》（Diario Financiero）发表的最新一专栏文章中指出，人工智能如今不仅提升运转效率，更对信任这一核心要素形成挑战。

智利及全球各地近期发生的诸多案例印证：看似严谨无误的内容，未必真实可靠。

当下的核心问题，已不再是是否使用人工智能，而是如何做到合规审慎、负责任地应用。

以下为本次专栏文章的汉译稿，以飨读者。

---

大众对生成式人工智能（AIGC）最初的追捧热潮，已然褪去，法律行业已进入更为严苛的审视阶段。这项起初主打高效赋能的技术，如今却对现代社会与法律体系的核心基石——信任，造成冲击。算法“幻觉”问题（编造、错误引用内容）已在司法实务中形成切实风险，且该现象在全球范围内愈发普遍。

美国纽约市马塔诉阿维安卡航空案成为标志性事件：律师因提交由ChatGPT生成的虚假判例遭到处罚。密苏里州克鲁斯诉卡伦案中，上诉法院以材料存在严重瑕疵（含不实援引内容）驳回相关诉状。加拿大不列颠哥伦比亚省最高法院在张诉陈案中，判令一名律师自行承担文书造假（虚构司法先例）产生的全部费用。近期，西班牙加那利群岛高等法院也对一名大量引用AI编造内容的律师作出惩戒。与此同时，美国出现另一类纠纷：伊利诺伊州发起诉讼，指控OpenAI纵容无证执业行为——有民众借助该平台独立撰写、提交司法文书，全程未聘请执业律师。

智利同样未能幸免。2026年2月，康塞普西翁第二民事法院就曾对一名提交虚假判例的法律从业者作出处罚。此类事件频发，已然成为跨越各国司法辖区的普遍问题，也暴露出更深层的短板：内容溯源与核查机制缺失。

数十年来，法律行业始终遵循一条默认准则：文书中援引的内容均真实可查。如今这一前提不再成立。人工智能能够生成行文通顺、逻辑完整的文本，但其内容往往缺乏可核验的事实依据。

面对当下现状，国际律师协会、美国律师协会等机构已出台相关指引，规范人工智能的应用。目前梳理出的主要风险包括：算法偏见、模型运作不透明、涉密信息泄露，以及从业者盲目依赖AI输出结果等。

智利全新个人信息保护法规正式施行后，上述行业规范的重要性进一步凸显。新规强化了事前责任要求，意味着法律从业者使用AI工具不再是单纯的技术选择，相关行为产生的一切后果均需主体自行承担。

跳出法律领域，若在武器研发、军事技术等高度敏感领域，无明确标准地滥用人工智能，将会引发难以估量的重大风险。

部分国家选择暂不限制AI工具的使用，任由企业与个人自主应用、缺乏监管约束。但当潜在风险波及全体社会公众时，自由发展与安全管控之间的经典矛盾便再次凸显。

化解这一矛盾，并非要摒弃人工智能技术，而是要建立健全配套使用规则。若无规范约束，技术赋能的价值将变得脆弱，风险也会随之放大；唯有完善制度框架，才能在筑牢信任底线的前提下，充分释放技术效能。