The Impact of Artificial Intelligence-Based Systems on Personal Data Privacy: A Study on Chatbots


BAŞKAYA F., KARACAN H.

Bilişim Teknolojileri Dergisi, vol.15, no.4, pp.481-491, 2022 (Peer-Reviewed Journal) identifier

  • Publication Type: Article / Article
  • Volume: 15 Issue: 4
  • Publication Date: 2022
  • Doi Number: 10.17671/gazibtd.1053803
  • Journal Name: Bilişim Teknolojileri Dergisi
  • Journal Indexes: Applied Science & Technology Source, Computer & Applied Sciences, TR DİZİN (ULAKBİM)
  • Page Numbers: pp.481-491
  • Gazi University Affiliated: Yes

Abstract

Use of artificial intelligence has increased with the developments in technology. Although the benefits of this situation have mostly been discussed, its negative impacts on personal data privacy and security shouldn’t be overlooked. Artificial intelligence-based systems can cause antithetical situations in terms of the privacy rights of individuals because of the fact that data is the raw material for artificial intelligence. Accordingly, the risks posed by artificial intelligence, some methods recommended to overcome these risks, and one of these methods, federated learning, were covered in the current study. Moreover, a study and survey were conducted on chatbots which are artificial intelligence products and are frequently used in applications applied on various sectors. In this sense, some details and recommendations regarding the use of chatbots and the compatibility of their structure with personal data security were included. In the survey with four questions, it was aimed to understand the extent of using chatbots and the awareness on the effects of chatbot using personal data. The survey results showed that chatbots are mostly used for banking transactions and 62.1% of individuals do not know that these services can save and process personal data.
Günümüz gelişen teknolojisiyle birlikte yapay zekâ kullanımı artmıştır. Bu durumun çoğunlukla faydaları üzerine konuşulsa da kişisel veri mahremiyetine ve güvenliğine olumsuz etkisi göz ardı edilmemelidir. Çünkü yapay zekâ için ham madde olan veriler, kişilerin mahremiyet haklarına aykırı durumlara neden olabilmektedir. Bu doğrultuda ilgili çalışmada; genel olarak yapay zekânın kişisel veri mahremiyeti açısından oluşturduğu risklere, bu risklerin giderilmesi için önerilen bazı yöntemlere ve bu yöntemlerden biri olan federe öğrenme metodu ile ilgili detaylara yer verilmiştir. Ayrıca günümüzde çeşitli sektörlere ait uygulamalarda sıklıkla kullanılan yapay zekâ ürünü, sohbet robotları (chatbot) ile ilgili bir inceleme ve anket çalışması yapılmıştır. Bu anlamda; sohbet robotlarının kullanımı ve yapısının kişisel veri güvenliğine uygunluğu ile ilgili detaylara ve önerilere yer verilirken anket çalışmasında ise kişilere yöneltilen dört adet soru ile kişilerin, sohbet robotu kullanma boyutunu ve sohbet robotu kullanımının kişisel verilere etkisine yönelik farkındalığını ölçmek amaçlanmıştır. Anket sonuçları, sohbet robotlarının en fazla bankacılık işlemleri için kullanıldığını ve bireylerin %62,1’inin ise bu servislerin kişisel verileri kaydedip işleyebileceğini bilmediğini göstermiştir.