カリフォルニア州、ChatGPTによる虚偽の法的引用で弁護士に1万ドルの罰金

CalMattersの報告によると、カリフォルニア州のある弁護士が、人工知能ツールChatGPTで生成された虚偽の引用を含む州裁判所への控訴を提出したとして、1万ドルの罰金を科されました。この罰金は、カリフォルニア州の裁判所がAIによる虚偽引用で課した中で最大の額とみられています。

裁判所の意見書（PDF）によれば、弁護士の提出したオープニングブリーフにおける23件のケース引用のうち21件が捏造であったことが指摘されています。また、多くの州外および連邦裁判所でも、虚偽の法的権威を引用した弁護士に対して対処してきた事例があるとされています。

裁判所は声明の中で「この意見書を警告として公開する。簡単に言えば、生成AIやその他の出典で提供された引用を含む書類を、提出する弁護士が自ら確認していない限り、控訴状、請願書、動議、その他の裁判所提出書類に含めるべきではない」と強調しました。