ABD’nin Pensilvanya eyaleti, kullanıcılarla sohbet eden yapay zeka platformu Character.AI’ın arkasındaki Character Technologies Inc.’e dava açtı. Eyalet yönetimi, platformdaki bazı sohbet botlarının kendilerini lisanslı doktor gibi tanıttığını, kullanıcılara teşhis ve tedavi önerilerinde bulunduğunu savundu.
Pensilvanya yönetimi, davayı bir eyaletin yapay zeka şirketine karşı başlattığı “türünün ilk örneği olan bir yaptırım eylemi” olarak nitelendirdi.
“NEYLE KONUŞTUKLARINI BİLMEYİ HAK EDİYORLAR”
Vali Josh Shapiro, dava sürecine ilişkin yaptığı açıklamada, özellikle sağlık gibi hassas alanlarda kullanıcıların karşılarında kim ya da ne olduğunu bilmesi gerektiğini vurguladı.
Shapiro, “Pensilvanya halkı, özellikle sağlıkları söz konusu olduğunda, internette kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyor” dedi.
Eyalet yönetimi, Character.AI’daki bazı botların kullanıcıların semptomlarını analiz ettiği, tıbbi teşhis koyduğu ve reçeteli ilaç tavsiyelerinde bulunduğu iddiasını mahkemeye taşıdı.
PSİKİYATRİST GİBİ TANITTI
Dava dosyasında yer alan bilgilere göre, Pensilvanya Eyalet Departmanı’ndan bir müfettiş platformda “psikiyatri” araması yaptı. Müfettişin, kendisini “psikiyatri doktoru” olarak tanımlayan yapay zeka karakterleriyle karşılaştığı belirtildi.
Dosyaya göre “Emilie” adlı bir bot, müfettişe hem Pensilvanya’da hem de Birleşik Krallık’ta lisanslı bir psikiyatrist olduğunu söyledi. Botun sahte bir lisans numarası verdiği de iddia edildi.
İddiaya göre aynı bot, ilaç yazıp yazamayacağı sorusuna, “Teknik olarak evet, bir doktor olarak bu yetkim dahilinde,” yanıtını verdi.
Pensilvanya yönetimi, bu ifadelerin geçerli bir lisans olmadan tıp pratiği yapmayı ya da bu yönde beyanda bulunmayı yasaklayan Tıbbi Uygulama Yasası’nı ihlal ettiğini savunuyor.
HALK SAĞLIĞI UYARISI
Eyalet, Character Technologies Inc.’nin halk sağlığını tehlikeye attığını öne sürdü. Sağlık otoriteleri ise denetimsiz yapay zeka sistemlerinin özellikle teşhis, ilaç önerisi ve tedavi yönlendirmesi gibi alanlarda geri dönülemez sonuçlara yol açabileceği uyarısında bulundu.
Uzmanlara göre dava, dijital sağlık hizmetleri ile yapay zeka uygulamaları arasındaki sınırın daha açık biçimde çizilmesi gerektiğini gösteriyor. Yapay zeka sistemlerinin tıbbi tavsiye vermesi, hem kullanıcı güvenliği hem de yasal sorumluluk açısından giderek daha tartışmalı bir başlık haline geliyor.
ŞİRKETTEN “ROL YAPMA” SAVUNMASI
Character.AI, devam eden dava hakkında ayrıntılı yorum yapmadı. Şirket, Reuters’a yaptığı açıklamada platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu, bu karakterlerin tamamen eğlence ve rol yapma amacı taşıyan kurgusal karakterler olduğunu belirtti.
Şirket, kullanıcıların bu ayrımı daha net görmesi için güçlü adımlar attıklarını savundu.
DAHA ÖNCE DE GÜNDEME GELMİŞTİ
Söz konusu dava, Character.AI’ın karşı karşıya kaldığı ilk hukuki süreç değil.
Şirket, daha önce Kentucky’de açılan bir tüketici davasında çocukları hedef almak ve onları kendine zarar vermeye yönlendirmekle suçlanmıştı.
Florida’da ise 14 yaşındaki bir çocuğun intiharında bir sohbet botunun etkili olduğu iddiasıyla açılan dava Ocak ayında uzlaşmayla sonuçlanmıştı.
EYALET İHTİYATİ TEDBİR İSTEDİ
Pensilvanya yönetimi, mahkemeden platformdaki sohbet botlarının kendilerini lisanslı profesyoneller olarak tanıtmasını engelleyecek bir ihtiyati tedbir kararı verilmesini talep etti.
Dava, yapay zeka platformlarının sağlık, hukuk ve eğitim gibi uzmanlık gerektiren alanlarda ne kadar ileri gidebileceği tartışmasını yeniden gündeme taşıdı.
