Yeni nesil yapay zekâ teknolojisi üretken ön eğitimli dönüştürücü üzerine bir inceleme


Tezin Türü: Yüksek Lisans

Tezin Yürütüldüğü Kurum: Gazi Üniversitesi, Fen Bilimleri Enstitüsü, Türkiye

Tezin Onay Tarihi: 2023

Tezin Dili: Türkçe

Öğrenci: Nazif AYDIN

Danışman: Osman Ayhan Erdem

Özet:

Dijitalleşen dünyada Yapay Zekâ (YZ), insanlar tarafından yapılan rutin işlerin otomatikleşmesine ve hayatın kolaylaşmasına zemin hazırlamaktadır. Son dönemlerde YZ ve uygulamaları sağlıktan eğitime, ulaşımdan enerjiye, tarımdan turizme kadar hayatımızın hemen her alanında kullanılmaktadır. YZ uygulamalarının, özellikle Doğal Dil İşleme (DDİ) ve Derin Öğrenme (DÖ) alanındaki önemli ve güncel gelişmeler yönünde hızla ilerleme kaydettiği görülmektedir. Bu alanlardaki ilerlemelerin somut örneklerinden biri de GPT-3 (Üretken Ön Eğitimli Dönüştürücü-3) dil modelidir. YZ destekli GPT-3, önceden eğitilmiş algoritmaları kullanarak insanların yazdığı metinlere benzer; uzun ve tutarlı içerik üretebilen DDİ alanında etkin olarak kullanılan DÖ modelidir. GPT-3, dikkate dayalı DÖ tekniği olan dönüştürücü mimarisini kullanarak her türlü girdiye en uygun çözümler üretebilen ve birçok alanda insanlarla rekabet edebilecek boyuta ulaşmıştır. Bu çalışma, YZ destekli GPT-3 alanında Türkçe kaynakların sınırlı olması nedeniyle, modelin tarihsel gelişimini, etkinliğini, yapısını ve potansiyelini detaylı bir şekilde inceleyerek, literatüre hem nitelik hem de nicelik açısından katkı sağlama amacı taşımaktadır. Ayrıca bu çalışmada, GPT-3 modelinin, öğrenci destek hizmetleri kapsamında eğitim ve öğretim süreçlerinde bireysel öğrenci desteği sağlama konusunda sıkça karşılaşılan sorunlara çözüm sunmak amacıyla bir uygulama örneği gerçekleştirilmiştir. Bu uygulamada, modelin eğitimi için öğrencilerin eğitim süreçleriyle ilgili metin örneklerinden bir veri kümesi oluşturulmuştur. Model, okul öncesi, ilköğretim, ortaöğretim, lise, lisans ve lisansüstü olmak üzere altı farklı sınıf kategorisine ayrılan veri kümesiyle eğitilerek, çoklu sınıflandırma görevindeki performansının ölçülmesi için kullanılmıştır. Bu performans ölçümü sonucunda, modelin doğruluk ve f1 skor değerleri % 77 olarak elde edilmiştir.

Anahtar Kelimeler : Yapay Zekâ, Doğal Dil İşleme, Derin Öğrenme, Dönüştürücü, GPT-3