-
Mahkamah Agung New Mexico menjatuhkan denda US$5.000 kepada pengacara Stephen Aarons setelah dokumen banding yang dibantu ChatGPT memuat saksi dan kesaksian yang tidak pernah ada.
-
Aarons mengakui tidak memeriksa ulang fakta dan dasar hukum dalam dokumen yang dihasilkan dengan bantuan AI sebelum menandatangani dan menyerahkannya ke pengadilan.
-
Kasus ini menunjukkan bahwa AI dapat membantu mengolah dokumen, tetapi tanggung jawab atas akurasi tetap berada pada manusia yang menggunakan dan menerbitkan hasilnya.
Ringkasan dibuat dengan bantuan AI berdasarkan isi artikel.
ALEXA.ID — Kepercayaan penuh terhadap kecerdasan buatan tanpa pemeriksaan ulang berujung mahal bagi seorang pengacara di Amerika Serikat. Mahkamah Agung New Mexico menjatuhkan denda US$5.000 kepada Stephen Aarons setelah dokumen banding yang ia susun dengan bantuan ChatGPT berisi kesaksian palsu dan sejumlah saksi yang ternyata tidak pernah ada.
Pengadilan juga menyatakan Aarons melakukan penghinaan langsung terhadap pengadilan atau direct contempt, melarangnya sementara tampil di hadapan Mahkamah Agung New Mexico, serta meneruskan kasusnya ke badan disiplin pengacara untuk proses lebih lanjut.
Persoalannya bukan semata-mata karena Aarons menggunakan AI.
Pengadilan menyoroti kegagalannya memeriksa kembali informasi yang dihasilkan teknologi sebelum dokumen tersebut ditandatangani dan diajukan sebagai dokumen resmi.
Kasus ini menjadi pengingat penting bagi siapa pun yang memakai AI generatif untuk pekerjaan berisiko tinggi: keluaran yang terdengar meyakinkan belum tentu benar.
ChatGPT Menghasilkan Kesaksian dari Saksi yang Tidak Ada
Aarons menangani banding atas perkara Oscar Renee Sandoval, yang sebelumnya dijatuhi hukuman penjara seumur hidup setelah dinyatakan bersalah dalam kasus pembunuhan.
Dalam proses penyusunan banding, Aarons memasukkan transkrip persidangan yang dibuat secara komputer serta sejumlah dokumen perkara ke ChatGPT.
Menurut laporan Ars Technica berdasarkan perintah pengadilan, dokumen yang kemudian diajukan Aarons memuat kesaksian palsu dari beberapa nama yang disebut pengadilan sebagai saksi sepenuhnya fiktif.
Dokumen itu juga mengandung keterangan yang tidak benar dari sejumlah saksi lain serta penyajian yang keliru terhadap preseden hukum.
Aarons mengakui kepada pengadilan bahwa ia tidak memverifikasi klaim faktual maupun dasar hukum yang terdapat dalam dokumen berbantuan AI tersebut sebelum menandatangani dan menyerahkannya.
Reuters juga melaporkan bahwa pengadilan menyatakan dokumen tersebut berisi kesaksian polisi yang dibuat-buat dan saksi hasil fabrikasi ChatGPT.
Mengira AI Akan Membuat Ringkasan yang Akurat
Dalam sidang pada 21 Agustus 2026, Aarons menjelaskan bahwa ia menggunakan ChatGPT untuk membantu merangkum materi persidangan.
Ia mengaku mengira sistem tersebut dapat menghasilkan ringkasan perkara yang sangat dapat diandalkan.
Masalahnya, AI generatif tidak bekerja seperti basis data yang hanya mengambil kembali fakta yang sudah tersimpan.
Model bahasa besar atau large language model memprediksi rangkaian kata berdasarkan pola yang dipelajari. Dalam kondisi tertentu, sistem dapat menghasilkan informasi yang terdengar masuk akal tetapi tidak didukung data sebenarnya. Fenomena ini biasa disebut sebagai AI hallucination atau halusinasi AI.
Dalam kasus Aarons, kesalahan tersebut tidak berhenti pada informasi tambahan yang kurang tepat. Dokumen resmi pengadilan justru memuat orang dan kesaksian yang tidak sesuai dengan catatan persidangan.
Hakim: Alatnya Bukan Persoalan Utama
Mahkamah Agung New Mexico menekankan satu persoalan mendasar: siapa pun yang menandatangani dokumen hukum tetap bertanggung jawab terhadap isinya.
Dalam persidangan yang dikutip Ars Technica, Hakim Michael Vigil menilai penggunaan AI pada dasarnya bukan masalah selama pengacara memeriksa hasilnya sebelum digunakan.
Logikanya sederhana. Kesalahan tetap menjadi tanggung jawab pengacara apabila dokumen yang belum diverifikasi berasal dari AI, junior lawyer, mahasiswa hukum, atau sumber lain.
Hakim C. Shannon Bacon juga mempertanyakan pengakuan Aarons bahwa dirinya tidak mengetahui AI dapat menghasilkan informasi palsu.
Menurut pengadilan, kewajiban memastikan kebenaran informasi sudah melekat pada aturan profesional pengacara, terlepas dari teknologi apa yang digunakan ketika menyusun dokumen.
Klien Tidak Langsung Mengetahui Masalah Penggunaan ChatGPT
Pengadilan juga menyoroti komunikasi Aarons dengan kliennya.
Aarons mengakui belum menjelaskan secara lengkap kepada Sandoval mengenai penggunaan ChatGPT dan masalah yang muncul dalam dokumen banding.
Ia mengatakan telah memberi tahu keluarga klien bahwa terdapat masalah pada dokumen pertama yang diajukan, tetapi tidak secara khusus menjelaskan keterlibatan ChatGPT.
Bagi pengadilan, informasi tersebut penting agar klien dapat menentukan apakah pengacara yang sama masih layak mempertahankan tanggung jawab atas perkaranya.
Pada akhirnya, seluruh dokumen banding sebelumnya dicoret dari catatan perkara. Kantor pembela umum diperintahkan menunjuk pengacara baru, sementara proses banding akan dilanjutkan pada masa sidang 2026–2027.
Denda US$5.000 dan Proses Disiplin Masih Berlanjut
Mahkamah Agung New Mexico menjatuhkan denda sebesar US$5.000 kepada Aarons yang harus dibayarkan ke State Bar of New Mexico Client Protection Fund.
Dengan asumsi kurs sekitar Rp16.400 per dolar AS, nilai tersebut setara kisaran Rp82 juta. Konversi rupiah ini hanya ilustrasi karena nilainya dapat berubah mengikuti kurs.
Sanksi itu belum tentu menjadi akhir perkara.
Aarons juga dirujuk ke badan disiplin pengacara New Mexico yang dapat menentukan tindakan tambahan setelah proses pemeriksaan selesai.
Reuters melaporkan bahwa kasus banding Sandoval telah dialihkan kepada pembela umum, sementara proses perkara pokok masih berlanjut.
AI Bisa Membantu, tetapi Tidak Menggantikan Verifikasi
Kasus New Mexico ini memperjelas perbedaan antara menggunakan AI sebagai alat bantu dan memperlakukannya sebagai sumber fakta final.
AI generatif dapat membantu meringkas dokumen panjang, menyusun struktur awal, menemukan pola, atau mempercepat pekerjaan administratif. Namun kemampuan menghasilkan kalimat yang terdengar meyakinkan tidak sama dengan kemampuan menjamin kebenaran setiap fakta.
Risiko menjadi jauh lebih besar ketika hasil AI digunakan untuk keputusan hukum, kesehatan, keuangan, penelitian, jurnalistik, atau pekerjaan lain yang memiliki konsekuensi langsung terhadap orang lain.
Pelajaran praktisnya tidak mengharuskan profesional meninggalkan AI.
Sebaliknya, hasil AI perlu diperlakukan sebagai bahan kerja yang harus diperiksa kembali terhadap dokumen primer. Nama, tanggal, kutipan, angka, sumber hukum, identitas, dan klaim faktual tidak seharusnya diterbitkan atau diserahkan hanya karena muncul dalam respons chatbot.
Dalam kasus Aarons, pengadilan menempatkan persoalan itu pada titik yang paling sederhana: teknologi dapat membantu membuat dokumen, tetapi tanggung jawab terhadap kebenarannya tetap berada pada orang yang menandatanganinya.
Catatan Editor
Nilai Rp82 juta merupakan konversi ilustratif dari denda US$5.000 dan bukan angka yang tercantum dalam putusan pengadilan. Jika nilai rupiah akan dimasukkan ke judul atau naskah final, kurs USD/IDR pada waktu publikasi perlu diverifikasi terlebih dahulu.
Sumber utama yang tersedia melalui laporan Ars Technica mengutip perintah Mahkamah Agung New Mexico. Untuk standar dokumentasi hukum yang lebih kuat, redaksi dapat menambahkan tautan langsung ke salinan resmi perintah pengadilan apabila dokumen primer tersedia.
