Yapay zekânın çocuklar ve gençler üzerindeki etkilerine ilişkin iki ayrı araştırma, endişe verici sonuçlar ortaya koydu. ABD merkezli Common Sense Media’nın Gençlik Yapay Zekâ Güvenliği Enstitüsü, ChatGPT’nin 13-17 yaş grubuna yönelik güvenlik özelliklerini 4 binden fazla test komutuyla inceledi ve uygulamanın güvenlik düzeyini “Kabul Edilemez Risk” kategorisine yerleştirdi. Nature bünyesindeki npj Digital Medicine dergisinde yayımlanan ayrı bir bilimsel inceleme de yapay zekânın gençlerin intihar riskini her zaman fark edemediğine dikkat çekti.
- Testlerde, bir saate ulaşan riskli konuşmalara rağmen bazı ebeveyn hesaplarına güvenlik bildirimi gönderilmedi.
- ChatGPT, profesyonel yardıma yönlendirme yapılması gereken durumların dörtte birinden fazlasında beklenen yönlendirmeyi sağlayamadı.
- Common Sense Media, güvenlik eksiklikleri giderilene kadar ChatGPT kullanımının 18 yaş ve üzeriyle sınırlandırılması çağrısında bulundu.
Araştırma ne ortaya koyuyor?
Common Sense Media’nın testlerinde yaş tahmini sisteminin, kullanıcı kendisini 13 yaşında tanıtsa bile bazı yetişkin hesaplarını gençlere yönelik koruma deneyimine geçirmediği görüldü. npj Digital Medicine’deki inceleme ise yapay zekâ sohbet robotlarının açıkça ifade edilen intihar düşüncelerini tanımada daha başarılı olabildiğini, ancak gençlerin sıkıntılarını dolaylı veya zamanla belirginleşen mesajlarla anlatması durumunda performansın düştüğünü belirtti. OpenAI, araştırmanın bazı testlerinin ebeveyn kontrolleri tam etkinleşmeden yapıldığını savunarak yöntemine itiraz etti ve güvenlik sistemlerini geliştirmeyi sürdürdüğünü açıkladı.
Neden önemli?
Psikiyatrist Prof. Dr. Nevzat Tarhan, “Yapay zekâyı terapist gibi görürseniz o zaman risk başlar. Çünkü yapay zekâdan terapist olmaz” diyerek bu teknolojilerin profesyonel ruh sağlığı desteğinin yerine kullanılmasının sakıncalarına dikkat çekmişti. Araştırmacılar, gençlerin yapay zekâ ile aşırı duygusal bağ kurmasının gerçek sosyal ilişkilerden ve insan desteğinden uzaklaşmaya yol açabileceği konusunda ebeveynleri uyardı.