ChatGPT Salah Informasi, OpenAI Digugat?

ChatGPT Salah Informasi, OpenAI Digugat? – OpenAI, perusahaan pengembang ChatGPT, digugat dengan tuduhan pencemaran nama baik.

Gugatan tersebut diajukan oleh warga negara bagian Georgia yang bernama Mark Walters pada Pengadilan Wilayah Gwinnett, Amerika Serikat.

Menurut Walters, ChatGPT salah karena menuduhnya menggelapkan dana sekitar lebih dari 5 juta dollar AS atau Rp 74,4 miliar.

Dari organisasi nirlaba The Second Amendment Foundation (SAF).

Padahal, Walters yang bekerja sebagai penyiar radio tidak pernah melakukan hal itu.

“Tuduhan ChatGPT mengenai Walters, salah dan jahat, diungkapkan dalam bentuk cetak, tulisan dan gambar atau simbol.

Bahkan merusak reputasi Walters dan membuatnya dibenci, dihina bahkan diolok publik,” tertulis pada dokumen yang diajukan Walters ke pengadilan.

ChatGPT Salah Informasi, OpenAI Digugat?

Kasus ini berawal dari seorang jurnalis bernama Fred Riehl.

Ia meminta ChatGPT untuk meringkas kasus yang dipaparkan dalam dokumen berbentuk PDF.

Saat itu, Riehl juga menautkan link pada dokumen PDF online dari kasus tersebut.

Setelah diproses, ChatGPT menghasilkan ringkasan dari kasus tersebut. Beberapa ringkasan memang sesuai.

Tapi beberapa ringkasan lain keliru dan menuduh Walters dengan tuduhan palsu.

Menurut rangkuman tersebut, Walters merupakan bendahara dan kepala keuangan di SAF.

Tapi, Walters sama sekali tidak mempunyai hubungan apa pun dengan SAF.

Selain itu, kasus yang tengah diteliti oleh Riehl juga tidak mencantumkan nama Walters.

Riehl sebenarnya tidak pernah mempublikasikan informasi palsu yang dihasilkan chatbot tersebut, tapi mengecek kebenarannya pada pihak lain.

Pada akhirnya informasi tersebut sampai ke telinga Walters.

Tidak diketahui bagaimana ChatGPT dapat mengakses data eksternal, termasuk dari link yang ditautkan Riehl.
Outlet media The Verge mencoba hal yang sama seperti Riehl, namun tidak berhasil.

BACA JUGA : Pakai ChatGPT, Pengacara AS Terancam Kena Sanksi

Ganti Rugi

ChatGPT hanya menampilkan keterangan “Maaf, tapi sebagai model berbasis teks AI, saya tidak mempunyai kemampuan untuk mengakses atau membuka file khusus PDF atau dokumen eksternal lain”.

ChatGPT ini memang tidak sepenuhnya bisa membedakan mana yang benar dan salah.

Untuk itu, OpenAI menambahkan disclaimer di laman utama ChatGPT bahwa “terkadang (sistem) bisa menghasilkan informasi yang keliru”.

Adapun terkait kasus ini, OpenAI belum memberi tanggapan. Sedangkan, Walters menuntut ganti rugi pada perusahaan tersebut.

Tapi, nilai ganti ruginya baru akan ditetapkan dalam persidangan, dikutip dari The Register, Selasa (13/6/2023).