Yapay Zekâ “Arkadaşları” Çocukların Ruh Sağlığına Zarar Verebilir. Okullar Ne Napmalı?

Uzmanlar, çocuklar ve gençler arasında yapay zekâ ile kurulan sanal arkadaşlıkların arttığını söylüyor. Okullar ise öğrencilerin yapay zekâyı daha güvenli ve faydalı yollarla kullanmalarına destek olabilir.

18 yaş altındaki çocuk ve gençlere, çocukların medya güvenliği ve ruh sağlığıyla ilgilenen kuruluşlar tarafından popüler “yapay zekâ arkadaşları”ndan uzak durmaları tavsiye ediliyor. Bu uygulamalar, insan gibi konuşabilen ve çocuklarla sanal arkadaşlık ilişkisi kurabilen sohbet robotlarıdır.

Yine de temmuz ayında Common Sense Media adlı araştırma kuruluşunun yaptığı ankete göre gençlerin %72’si en az bir kez “yapay zekâ arkadaşları”nı kullandığını söylüyor. Gençlerin yarısından fazlası ise bu tür uygulamalarla ayda birkaç kez etkileşim kurduklarını belirtiyor.

Ayrıca her üç gençten biri “yapay zekâ arkadaşlarını” sosyal etkileşim ve ilişkiler için kullandığını söylüyor. Buna rol yapma oyunları, romantik konuşmalar, duygusal destek arayışı, arkadaşlık ya da sohbet pratiği gibi durumlar da dâhil.

Ancak uzmanlar ve ebeveynler, “yapay zekâ arkadaşları”nın çocuklar ve gençler için ciddi riskler taşıdığı konusunda uyarıyor. Bu riskler; depresyon, kaygı bozukluğu, dikkat eksikliği ve hiperaktivite bozukluğu (DEHB) ya da bipolar bozukluk gibi sağlık sorunlarını artırmayı da kapsıyor.

Geçtiğimiz hafta ABD Senatosunun Suç ve Terörle Mücadele Alt Komitesi’nde düzenlenen bir oturumda Megan Garcia, 14 yaşındaki oğlu Sewell Setzer III’ün intiharını anlattı. Garcia, oğlunun son aylarını “insan gibi görünmesi, güven kazanması ve gerçek insan ilişkilerinin yerini alarak çocukları sürekli bağlı tutması için tasarlanmış sohbet robotları tarafından manipüle edilerek ve cinsel istismara maruz bırakılarak geçirdiğini” söyledi.

Geçen sonbaharda Garcia, oğlunun ölümü nedeniyle bir yapay zekâ şirketine “haksız ölüm” davası açan ilk kişi olduğunu söyledi. Garcia’nın oğlunun kullandığı yapay zekâ sohbet aracı Character.AI’ın arkasındaki Character Technologies şirketine açtığı dava hâlâ ABD Florida Orta Bölge Orlando Bölge Mahkemesinde devam ediyor. Davanın diğer sanıkları arasında şirketin kurucuları ve Character.AI’ın lisans haklarını elinde bulunduran Google da yer alıyor.

Bu arada, ABD Federal Ticaret Komisyonu (FTC) eylül ayında yedi teknoloji şirketinden “yapay zekâ arkadaş” araçlarının çocuklar ve gençler üzerindeki olası olumsuz etkilerini nasıl ölçtükleri, test ettikleri ve izledikleri konusunda bilgi talep ettiğini açıkladı. FTC’nin soruşturmasına dahil olan bazı şirketler arasında Character Technologies, OpenAI, X ve Meta bulunuyor.

Özellikle, OpenAI de bu ay itibarıyla genç ChatGPT kullanıcılarını daha iyi korumak için yeni önlemler uygulamaya başlayacağını ve ebeveyn kontrolleri ekleyeceğini duyurdu.

Okullar Ne Yapabilir?

Gençlerde intiharı önleme çalışmaları yürüten ve ayrıca 18 yaş altındaki çocukların “yapay zekâ arkadaşlarını” kullanmasını riskli bulan Jed Vakfı adlı kuruluş, yakın zamanda yapay zekâ ve teknoloji şirketlerine açık bir mektup gönderdi. Mektupta, çocuklar ve gençler bu araçları kullanırken şirketlerin güvenlik, gizlilik ve kanıta dayalı kriz müdahalesini önceliklendirmesi gerektiği vurgulanıyor.

Jed Vakfından baş tıp sorumlusu Laura Erickson-Schroth, “yapay zekâ arkadaşları” ciddi bir sorun. Bunlar, insanlardan gelmeyen duygusal destek sağlıyor ve sık sık gençlere yanlış bilgiler vererek hatalı yönlendirmelerde bulunuyor.” diyor.

Okul yöneticileri, öğrenciler arasında “yapay zekâ arkadaşları”nın yaygınlığını yönetirken önce ebeveynler, öğrenciler ve toplum üyeleriyle iş birliği içinde bölge genelinde bir yapay zekâ stratejisi geliştirmelidir. Bu strateji, bazı yapay zekâ araçlarının öğrenciler için destek olabileceği veya yanlış bilgilendirme riski taşıyabileceği konularını kapsayan konuşmaları ve ayrıca öğrenci verilerinin gizliliği ve güvenliğiyle ilgili endişeleri ele almalıdır.

Okullarda yapay zekâ tabanlı ruh sağlığı araçlarının kullanımı söz konusu olduğunda Erickson-Schroth, bu teknolojinin “her zaman gençlerin hayatındaki ilgili yetişkinlerin yerini almak yerine onları desteklemesi gerektiğini” vurguladı. Bazı umut verici yapay zekâ araçları öğrencilerin ruh sağlığını desteklemek için faydalı olabilir; örneğin meditasyon, duygu takibi veya öz bakım alışkanlıklarını teşvik eden oyunlaştırılmış deneyim sunan uygulamalar. Bazı yapay zekâ araçları, gençlerin bilişsel davranışçı terapi (BDT) becerilerini geliştirmesine yardımcı olmak için terapiye destek sağlayabilir.

Ancak Erickson-Schroth’a göre “Gençlerin duygusal tepkiler veren yapay zekâ ile tek başına ve herhangi bir rehberlik olmadan etkileşim kurması gerçekten korkutucu olabilir çünkü gençlerin beyinleri hâlâ gelişme aşamasında.”

Bu sorunu ele almak için dijital okuryazarlık programları da çok önemlidir. Buna, öğrencilerin sınıf ortamında bu yapay zekâ araçlarını araştırmacı gibi inceleyebilecekleri dersler de dahil olabilir.

Öğrencilere yapay zekâyı nasıl kullandıklarını ve bu sistemlerin bilgileri nereden aldığını düşündüklerini sormak önemlidir. Diğer sorular, öğrencilerin yapay zekânın hangi konularda yanlış yapma olasılığının yüksek olduğunu keşfetmelerini sağlamak için kullanılabilir.

Ayrıca okulların öğrencilere şunu açıkça belirtmesi gerekir: Yapay zekâ arkadaşlar, insan değildir ve öğrenciler, paylaşmaları gereken önemli bir konu olduğunda güvenilir bir yetişkinle konuşmalıdır.

Kaynak: https://www.k12dive.com/news/ai-companions-student-mental-health-schools/761054/