「AIが人を裁く未来」について考える（東京大学 AI模擬裁判実行委員会 × 情報科コラボ授業）

情報科では，9月14日(金)に東京大学より AI模擬裁判実行委員会の代表 岡本隼一様・中島胡太郎 様，東京大学の有志団体「UTaTané」より加藤多笑 様，久保田祐貴 様をお迎えして，高等部2年生を対象としたAI（人工知能）と司法について考えるコラボ授業「AIが人を裁く未来」（情報科 コラボ授業 Vol.3）を実施しました。

「司法判断にAIが介入する」と聞くと，遠いSFの世界のように感じますが，今回は実例として，2023 年 5 月 13 日に東京大学 五月祭で行われ,法曹界でも注目を集めた「AI裁判官(ChatGPT4)による日本初の模擬法廷『AI法廷の模擬裁判』」を題材に取り扱いました。

今回のコラボ授業は，「AIを用いた裁判」の先駆者から直接お話を伺う中で，「AIを司法に実装するためにはどのような課題や懸念，制度設計が必要か」などを考えながら，各自が自分自身の意見を持てるようになってほしいという思いから，学生の皆さんと幾度も打ち合わせを重ね，授業実施に至りました。

まず授業冒頭では， AI法廷模擬裁判実行委員会の 岡本様・中島様より自己紹介・AI法廷を企画した背景についてお話を頂きました。本授業に取り組むにあたって，代表の岡本様からは「複数の視点からとらえることで『AIが人を裁く未来』をより奥深くまで考えることが出来るため，是非そのような視点で考えてみてほしい」，中島様からは「AIに司法を任せることはできるのか，AIは自由民主主義社会にどのように影響を与えるのか，市民としてどう行動すべきかを考える機会にしてほしい」といったお話がありました。

授業では，まずはじめに班ごとで「AIが裁判官を代替・補助すること」について，被告人・事件関係者・司法関係者など様々な立場から考えました。「責任を持てないAIに自分の人生を委ねたくない、血の通ったやり取りだと感じられない」，「悲しみや辛さを経験したことのないAIが，被告に正確な処罰を下してくれるか不安」や「感情に依存した判決が下されないので、信用性が高い」，「AIを使うことによって、多くの判例から判断することができ、情に流されずに判決を出すことができる」など様々な意見が挙がりました。

そして，「『裁判における』AIと人の特徴」を考え，生徒の議論をもとに，岡本様からは「AIには『責任』が取れないから…，『感情』がないから…などという意見もありますが，そもそも『責任をとる』とはどういうことか，『責任』という言葉を使わずに説明してみましょう」，といった問いかけがありました。

次に，裁判の場ではどのようなAI活用であれば社会に受け入れられるか，制度・条件，留意点・許容範囲・役割分担・技術発展などの観点などから意見を出し合いました。

「人間とAIがペアになって裁判官をつとめる」，「AIを用いて人間の表情から感情を読み取る（感情的・倫理的な部分は人間が寄り添う）」，「被告人の声帯や表情を読み取ることができるAIの開発」，「既に裁判を行われた事件の裁判をする、という実験を行って、より人の判断に近い回答が出来るようににAIを学習させる」，「第一審などをAIにやってもらい、判決のベースを作ったうえで人間による裁判を実施する」など様々な意見が挙がりました。

授業の最後には，「 AI が人を裁く未来」について授業を振り返り，自分自身はどのように考えるか，個々の考え・意見をまとめました。

生徒の感想文（文章より抜粋）からは，

「ワークをしてみて、やはりAIに最終的な判決を下されるのは不安だと思いました。ですが、使える範囲、心拍数の判定、証拠の整理、仮判決(班の意見)など、裁判でより良い判決を下すための助け・アイテムとしてなら、どんどん使うべきだと思います。それでも、人間を裁けるのは人間しかいない。それが私が出した答えです。」，「『責任』や『感情』という言葉について問われたときに、自分なりに答えを探してみたが、なかなか答えが見つからず、悩んでしまいました。AIにすべてを任せるのではなく、人間が早くできない作業を補ってもらうなど、補助としてAIを使っていくのが良いなと、私は思いました。」，「AIが判決を下すことに対して抵抗があったが、責任とは何か改めて考えると果たして裁判に感情の有無は大切なのか、という新しい視点を発見した。また、元をたどればAIを作るのは人間であり、技術者の思考がAIに組み込まれてしまう恐れがあるなど製作者側の問題点もみえた。」，「この授業を受けるまで私は導入賛成派だったが、みんなの意見を聞いて混乱した」

などの記述が見られ，本授業での学びは生徒たちにとって，大変深く考えさせられる有意義な時間になりました。

<関連Webサイト リンク>

「ChatGPT が裁判官?AI に裁かれる未来 受け入れますか」(NHK)
https://www3.nhk.or.jp/news/special/sci_cul/2023/05/special/ai-judgement/
「東大五月祭『AI 裁判官』による模擬裁判で再認識 『人間裁判官』であるメリットと課題」(DG LAB Haus)
https://media.dglab.com/2023/06/05-aijudge-01/
「ChatGPT 裁判官、殺人事件で「無罪」判決 東大生の模擬裁判、近未来を体感」(弁護士ドットコム)
https://www.bengo4.com/c_18/n_16023/
AI法廷の模擬裁判 リアルタイム配信 / 東大五月祭
https://www.youtube.com/watch?v=bU6rg5QEe7s

情報科　村山達哉