ChatGPT tarafından bir radyo yayıncısı hakkında üretilen yanlış bilgiler, Amerika Birleşik Devletleri'nde OpenAI aleyhine dava açılmasına neden oldu. Pazartesi günü (5) Georgia'daki bir mahkemede açılan dava, geliştiriciyi iftira atmakla suçluyor ve tazminat talep ediyor.

Dava, sohbet robotu tarafından oluşturulan bir raporda, kar amacı gütmeyen bir kuruluştan dolandırıcılık ve zimmetine para geçirme suçlamasında adı geçen radyo sunucusu Mark Walters ile ilgili. Ancak Walters bu suçlardan dolayı hiçbir zaman suçlanmadı, yani bilgileri yapay zeka (AI) uydurdu.

Bu ayrıntılar, gazeteci Fred Riehl'in gerçek bir davanın özetini istemesi üzerine sanal robot tarafından oluşturuldu. Araç davayı özetlerken gerçek verilere atıfta bulundu, ancak söz konusu dava yayıncı kuruluşla ya da fonların zimmete geçirilmesiyle ilgili bile olmadığı için yalanlara da yer verdi.

ChatGPT'yi kullanıcının "yeni bir şeyler öğrenmesine" yardımcı olabilecek güvenilir bir kaynak olarak sunmasına rağmen OpenAI, mekanizmanın kusursuz olmadığını da söylüyor. Chatbot'un ana ekranında, sistemin "zaman zaman yanlış bilgiler üretebileceğine" işaret eden bir uyarı var.

Masum mu suçlu mu?

The Verge'ün hatırlattığı üzere, ABD yasaları internet şirketlerini üçüncü şahıslar tarafından üretilen ve kendi alan adlarında barındırılan bilgilerle ilgili olarak koruyor. Ancak bu yasanın yeni bilgi üretme kabiliyetine sahip yapay zekaya uygulanıp uygulanamayacağı bilinmiyor.

Kaliforniya Üniversitesi hukuk uzmanı Eugene Volokh'a göre OpenAI'ye yönelik hakaret suçlaması prensipte "yasal olarak uygulanabilir". Ancak, şirkete bildirimde bulunmayarak yanlış verilerin geri çekilmesi şansını veren yazarın zaferi konusunda şüpheleri var. Buna ek olarak, Walters'ın sahte haberlerden gerçekten zarar gördüğünü kanıtlaması gerekecek.