Papuş: Yapay Zekâya Hayalî Bir Dil Öğretmek

Papuş: 5 Milyon Parametrelik Dingil Bir Papağana Hiç Var Olmayan Bir Dil Öğretmeye Çalıştım

Biliyorsunuz, yaklaşık üç yılın ardından yeniden düzenli videolar çekmeye başladım. Bunda Claude Opus'un beni biraz fazla gaza getirmesinin de payı var. Matematik Hikâyeleri serisiyle başladık, sonra farklı konulara da el attık. Derken kendimi sürekli yeni video üretmeye çalışırken buldum.

Ancak bu süreçte eskiden hayatımda olmayan, şimdi ise başıma bela ettiğim bir zehir keşfettim: Yapay zekâyla ses taklidi.

Normalde videoları kendi sesimle okuyabilirim. Ama bir cümleyi yanlış okuyorum, yeniden kaydediyorum, ses tonu değişiyor, mikrofon farklı duyuluyor... Bir de işin içine sürekli yeni video hazırlama isteği girince insan ister istemez kolay bir yol arıyor.

ElevenLabs gayet iyi ama pahalı. Cartesia da işimi görüyordu fakat yedi ayrı Gmail hesabıyla ücretsiz haklarını zorlamama rağmen yetmemeye başladı. 😂

Ben de düşündüm: Madem açık kaynak ses üretme modelleri var, neden kendi sistemimi kurmuyorum?

Böylece AHDStudio fikri ortaya çıktı.

İlk olarak Chatterbox adlı açık kaynak ses modelini denedim. Kendi sunucumda çalıştırabiliyordum ama bir problem vardı: Yavaştı.

Kısa bir ses üretmek için bile uzun süre bekliyordum. Birkaç sunucuyu birbirine bağlayıp aynı anda iki ayrı ses üretmesini sağlayarak biraz ilerledim.

Fakat asıl sorun hız değildi.

Sesimi taklit ediyordu ama benim gibi konuşmuyordu.

Benim sesime benzeyen, ancak ölüm haberi verirken de matematik anlatırken de aynı duygusuzlukla konuşan bir arkadaşımız olmuştu.

Bunu çözmek için videolarımdaki kendi konuşmalarımdan parçalar kesmeye başladık. Beş saniyelik sesler çıkardık, söylediklerimi yazıya döktük, farklı tonları ayırdık.

Amacımız modele yalnızca sesimin nasıl çıktığını değil, nasıl konuştuğumu da öğretmekti.

Sonra Google Colab'a daldık.

Colab'ı bilmeyenler için açıklayayım: Google'ın belirli sınırlar içinde güçlü bilgisayar kaynakları kullanmamıza izin verdiği bir ortam. Kendi bilgisayarınızın günlerce uğraşacağı bazı işlemleri orada daha hızlı yapabiliyorsunuz.

Bir de LoRA diye bir şey öğrendim.

Şimdi yine “Ne diyor bu lan?” diyeceksiniz. 😂

En basit hâliyle LoRA, koca bir yapay zekâyı baştan yetiştirmek yerine, ona yeni bir beceri kazandırmak için daha küçük bir bölümünü eğitme yöntemi.

Biz de ses modeline kendi konuşma biçimimi öğretmeyi düşünüyorduk.

Ancak ses taklidi ve deepfake konusundaki Colab kurallarını tam bilmiyordum. Kendi sesimi kullanacak olmama rağmen hesabın engellenmesi riskini almak istemedim.

Şimdilik ses meselesini bir kenara bıraktık.

Ortada bir sürü hazırlık, öğrenilmiş teknik bilgi ve kullanabileceğimiz hesaplama kaynağı kalmıştı.

Peki şimdi ne yapacaktık?

Bir yapay zekâya ne öğretebiliriz?

Yine yapay zekâyla konuşmaya başladık.

Denklem çözsün mü? Matematik sorularıyla uğraşsın mı? Oyun oynamayı mı öğrensin?

Bunların hepsi yapılabilirdi ama benim kafama başka bir fikir takıldı.

Daha önce bazı blog yazılarımda sözünü ettiğim Edgium adlı bir kitap projem vardı.

Bu hikâyede Aetron adlı bir karakter, eski Aetron'un günlüğünü buluyordu. Günlükte, insanların birbirine hakaret etmesini engellemek ve herkesi aynı düşünce düzenine yaklaştırmak amacıyla tasarlanmış bir hayat denemesinden söz ediliyordu.

Bu distopik dünyanın bir parçası olarak, yapay zekâ destekli bir dil düşünmüştüm.

Adına AHD dili demiştim.

Üstelik yalnızca birkaç kelime uydurup bırakmamıştım. Dilin kurallarını, cümle yapılarını, zamanlarını, kiplerini, sözcüklerini ve farklı durumlarda nasıl kullanılacağını da hazırlamıştım.

Kısacası ortada gerçekten konuşanı bulunmayan, benim yazdığım kurallara göre yaşayan bir dil vardı.

Sonra aklıma şu soru geldi:

Bir yapay zekâya Türkçe öğretmek yerine, Türkçe bilen küçücük bir yapay zekâya AHD dilini öğretebilir miyiz?

İlk düşüncem hazır, küçük bir konuşma modelini alıp yeni bir dil öğretmekti.

Fakat konuyu biraz araştırınca iş ilginçleşti.

Hazır bir model kullanmak yerine neden kendi küçük modelimizi eğitmiyorduk?

İşte Papuş böyle doğdu.

Karşınızda Papuş: 5,3 milyon düğümlü dingil papağan

Biz işe beyni 5,3 milyon düğümlü bir dingil papağanla başladık. 😂

Teknik olarak bunlar düğüm değil, parametre. Yani modelin öğrenme sırasında ayarlanabilen sayıları. Gerçek sayı da yaklaşık 5,22 milyon.

Ancak “5,22 milyon parametreli Transformer encoder” demek yerine “5 milyonluk dingil papağan” demek benim daha çok hoşuma gidiyor.

Bu arada Papuş, ChatGPT gibi oturup sizinle sohbet edebilen bir model değil.

Ona bir cümle verdiğimizde cümlenin yapısını çözmeye çalışıyor.

Kim ne yaptı? Kime yaptı? Ne zaman yaptı? Bir şey yapmak zorunda mıydı, yapmak mı istiyordu, yoksa yapabilir miydi?

Öğrenmesini istediğimiz ilk şey buydu.

Daha sonra bu bilgilerden AHD cümlesi kuracaktık.

Ama önce Papuşa Türkçeyi öğretmemiz gerekiyordu.

Türkçeyi iki farklı şekilde öğrendik

İki ayrı Papuş hazırladık.

Birincisine 100 bin Türkçe cümle gösterdik.

Öğrenme yöntemi biraz ilkokul boşluk doldurma sınavına benziyordu.

Mesela:

“Çocuk kit_bı okudu.”

Papuş eksik parçayı tahmin etmeye çalışıyordu.

Tabii gerçekte harf değil, bilgisayarların metni işlemek için kullandığı küçük bayt parçalarıyla çalışıyordu.

İkinci Papuşa ise 500 bin Türkçe cümle gösterdik.

Ama onda boşluk doldurma işini biraz zorlaştırdık.

“Çocuk ______ okudu.”

Artık eksik kelimenin içinden ipucu alamıyordu. Cümlenin geri kalanına bakarak kelimeyi tahmin etmesi gerekiyordu.

Bu yöntemin adına Whole Word Masking diyorlar.

Yani kelimenin tamamını saklıyoruz.

Dikkat edin, ikinci Papuşun beyni daha büyük değildi. Yaklaşık aynı büyüklükteydi. Sadece daha fazla cümle görmüş ve farklı bir yöntemle öğrenmişti.

Bakalım hangisi daha iyi anlayacaktı?

Papuşa AHD öğretmeye başladık

Şimdi elimizde Türkçe hakkında biraz fikir edinmiş iki küçük model vardı.

Ancak AHD konusunda hiçbir şey bilmiyorlardı.

Örneğin bizim dilimizde bazı eklerin özel görevleri vardı:

• -b: Zorunluluk. Bir şeyi yapmak zorunda olmak.
• -h: İstek. Bir şeyi yapmayı istemek.
• -ñ: Yetenek veya izin. Bir şeyi yapabilmek.

Türkçedeki küçük bir anlam farkı, AHD'de farklı bir ek kullanmamızı gerektiriyordu.

Mesela “Kılıcı koruyorum” demekle “Kılıcı korumak zorundayım” demek aynı şey değildi.

Papuşun bunu anlaması gerekiyordu.

Burada küçük bir problemimiz vardı.

AHD dilinde yazılmış binlerce gerçek insan konuşması yoktu.

Olması da mümkün değil. Dili ben uydurdum. 😂

O yüzden kendi hazırladığımız kurallara göre Türkçe cümleler ve bunların AHD karşılıklarını ürettik.

Örneğin:

Türkçe: Ben kılıcı korumak zorundayım.

AHD: mi tirçit békbim.

Veya:

Türkçe: Biz suyu açalım.

AHD: mil sut luqhuml.

Bunları yalnızca yan yana koymak yerine, Papuşa cümlenin iskeletini de öğretmeye karar verdik.

Buna AST diyorlar.

Adı korkutucu ama yaptığı iş basit.

Şu cümleyi düşünün:

“Ben kılıcı korumak zorundayım.”

Papuşun bulmasını istediğimiz bilgiler şöyleydi:

Kim? Ben.

Ne? Kılıç.

Ne yapıyor? Korumak.

Zorunluluk var mı? Evet.

Olumsuz mu? Hayır.

İşte bu bilgiler cümlenin iskeleti.

Papuş doğru iskeleti çıkarırsa, bizim yazdığımız kurallar onu AHD cümlesine dönüştürebilecekti.

Yani Papuşa doğrudan bütün AHD cümlesini ezberletmek yerine, önce cümlenin ne anlattığını çözmesini öğretiyorduk.

Bunun için 4.000 eğitim örneği hazırladık.

Bir de daha önce görmediği 500 cümle ayırdık. Bunlar çalışırken kendisini kontrol etmek için kullanacağımız sorulardı.

Başka testleri de ayrı tutuyorduk.

Artık sınav başlayabilirdi.

Papuşun matematiksel dayak yemesi

Yapay zekâ eğitirken bir kavramla sürekli karşılaşıyorsunuz: Loss.

Loss, modelin ne kadar hata yaptığını gösteren matematiksel bir ceza gibi düşünülebilir.

Papuş doğru cevap verdiğinde cezası azalıyor. Yanlış cevap verdiğinde hangi ayarlarını değiştirmesi gerektiği hesaplanıyor.

Sonra aynı işlem tekrar ediliyor.

Bir daha.

Bir daha.

Bir daha.

Ben bu süreci Papuşun matematiksel dayak yemesi olarak adlandırdım. 😂

Tabii ortada acı çeken bir canlı yok. Yalnızca milyonlarca sayının tekrar tekrar ayarlanması var.

Başlangıçta beklediğimiz gibi hata çoktu.

Üstelik ilk deneylerde bizim ölçüm kodumuz da hatalı çıktı.

Bir ara modelin başarısı olduğundan yüksek görünüyordu. Sonra yaptığımız bir düzeltme yüzünden bu kez neredeyse hiçbir şey öğrenmemiş gibi görünmeye başladı.

Meğer sorun Papuşta değil, sınav kâğıdını kontrol eden koddaymış.

Bunu düzeltip deneyleri yeniden yaptık.

Her modeli yalnızca bir kez değil, üç farklı başlangıçla eğittik. Çünkü bir modelin tek seferinde şanslı olması, her zaman iyi öğreneceği anlamına gelmiyor.

Ve sonunda gerçek sonuçlar geldi.

100 bin cümleyle eğitilen Papuş: %42,2.

500 bin cümleyle eğitilen Papuş: %46,6.

Bu yüzdelerin ne anlama geldiğini açıklayayım.

Papuşun bir cümlenin iskeletindeki bütün gerekli alanları doğru bulması gerekiyordu. Özne doğru, fiil doğru ama zaman yanlışsa bütün cümleyi yanlış sayıyorduk.

Yani %46,6, “Türkçenin %46,6'sını biliyor” demek değildi.

Hazırladığımız yapay sınavdaki cümlelerin %46,6'sının iskeletini eksiksiz çıkarabiliyordu.

Bu ayrım önemli.

Ama yine de ortada ilginç bir şey vardı.

Benim uydurduğum bir dilin kurallarını, beş milyonluk küçücük bir model öğrenmeye başlamıştı.

Biraz da özel ders verelim

Sonra Papuşun hangi konularda hata yaptığına baktık.

Bazı şeyleri oldukça iyi öğrenmişti.

Ancak özellikle istek, zorunluluk ve yetenek gibi ayrımlarda zorlanıyordu.

Mesela Türkçede “yapmalıyım” dediğimizde bağlama göre farklı şeyler anlatabiliriz. Bazen gerçekten zorunluluk, bazen tavsiye, bazen de bir çıkarım.

Papuş bu ayrımları karıştırabiliyordu.

Bunun üzerine ona özel ders hazırladık.

261 yeni cümle adayı oluşturduk. Kurallara göre denetledik, belirsiz veya sorunlu olanları ayırdık ve deney için 218 örnek bıraktık.

Ama bu örneklerin hepsine bir insanın tek tek onay verdiğini iddia etmiyoruz. Büyük bölümü otomatik kurallardan geçmiş deneysel verilerdi.

İki farklı eğitim yaptık.

Birinci gruba bu 218 hedefli cümleyi ekledik.

İkinci gruba ise eski eğitim cümlelerinden 218 tanesini tekrar gösterdik.

Yani birine yeni özel ders verdik, diğerine eski ödevlerini yeniden çözdürdük.

Bu tamamen kusursuz bir karşılaştırma değildi; çünkü yeni bilgiyle tekrar edilen bilgiyi kıyaslıyorduk. Ama ilk fikir edinmek için işe yarayabilirdi.

Ve sonuçlar geldi.

100 binlik Papuşun başarısı hedefli eğitimle %46,6'ya çıktı.

Kontrol grubunda ise %42,2 olarak kaldı.

500 binlik Papuşta işler daha ilginçti.

Özel ders alan model %48,87, eski örnekleri tekrar eden model %49 yaptı.

Yani büyük kardeş özel dersten belirgin bir avantaj elde etmemişti.

Benim aklıma şu açıklama geldi:

Belki 500 bin cümle okuyan ve kelimelerin tamamını tahmin ederek öğrenen Papuş, bazı dil ilişkilerini zaten daha iyi öğrenmişti.

100 binlik Papuş ise kelimenin içindeki küçük boşlukları doldurmaya alıştığı için bu anlam ayrımlarında özel dersten daha fazla faydalanmış olabilirdi.

Mantıklı bir ihtimaldi.

Ama elimizde kesin kanıt yoktu. Çünkü hem okudukları cümle sayısı hem de eğitim yöntemleri farklıydı.

Yine de Papuşa biraz güvenmeye başladım.

Ta ki onu gerçekten konuşturana kadar.

Papuş, sen ne anlatıyorsun oğlum?

Şimdiye kadar bütün yaptığımız şey, Papuşun sınavda doğru cümle iskeletini bulup bulmadığını ölçmekti.

Ben artık ona bir Türkçe cümle yazmak ve AHD karşılığını görmek istiyordum.

Bunun için küçük bir arayüz hazırladık.

Bir kutuya Türkçe cümle yazıyoruz.

Papuş cümleyi inceliyor.

İskeletini çıkarıyor.

Sonra hazırladığımız AHD kuralları bu iskeletten bir cümle oluşturuyor.

İlk denemelerde 100 binlik Papuş neredeyse her örneğe bir cevap vermeye başladı.

500 binlik Papuş ise bazı örneklerde hata veriyordu.

İlk bakışta 100 binlik daha iyi görünüyordu.

Sonra ürettiği cümleleri incelemeye başladık.

Türkçe:

“Kitabı onlar kalemle yazdılar.”

100 binlik Papuşun cevabı:

val bivzit çézbikvil.

Dışarıdan bakınca AHD'ye benzeyen, kurallarımızın kabul ettiği bir cümleydi.

Fakat küçük bir problem vardı.

Papuş cümleye zorunluluk anlamı eklemişti.

Yani adamlar kitap yazmış, bizim Papuş onların kitap yazmak zorunda olduğunu düşünmüş. 😂

Üstelik kalemle yazdıkları bilgisi de kaybolmuştu.

Doğru hedef cümlede bu bilgilerin korunması gerekiyordu:

val bivçit çézçiv çézkivl.

Burada fark ettik ki bir modelin kurallara uygun cümle üretmesi, doğru çeviri yaptığı anlamına gelmiyor.

Papuş gayet düzgün konuşarak yanlış şeyler söyleyebiliyordu.

500 binlik Papuş ise başka türden bir hata yapıyordu.

Ona şunu söyledik:

“Biz suyu açalım.”

Modelin bir bölümü bunun bir istek cümlesi olduğunu çok yüksek olasılıkla anlamıştı.

Ancak cümleyi kurarken gerekli -h ekini kullanmamıştı.

Bu yüzden AHD cümlesi geçersiz çıkıyordu.

Yani çocuk ne demek istediğimizi anlıyor ama konuşurken dilbilgisi ekini unutuyordu.

Ortaya çok komik iki karakter çıktı.

100 binlik Papuş: Yanlış da olsa konuşuyor.

500 binlik Papuş: Doğru anlamış olabilir ama bazen konuşamıyor.

Tam bir aile dramı. 😂

Papuşun beynine dokunmadan onu biraz toparladık

Bu noktada bir seçenek daha vardı.

Yeniden eğitim yapmadan, Papuşun verdiği cevaplar arasından dilbilgisine en uygun olanı seçebilir miydik?

Çünkü model tek bir cevap düşünmüyor. Birden fazla olasılığa puan veriyor.

Örneğin “Biz suyu açalım” cümlesinde 500 binlik Papuş bir yandan istek olduğunu güçlü biçimde söylüyor, diğer yandan gerekli eki seçemiyordu.

Biz de ona şu kuralı koyduk:

“Cevapların birbirleriyle çelişiyorsa, senin verdiğin puanlara göre AHD dilinde geçerli olan en uygun birleşimi bul.”

Buna kısıtlı çözümleme deniyor.

Adı yine gereksiz havalı. 😂

Özetle Papuşun cevaplarını gramer süzgecinden geçiriyoruz.

Ve işe yaradı.

500 binlik Papuş, az önce kuramadığı cümleyi artık kurabiliyordu:

mil sut luqhuml.

Yani:

“Biz suyu açalım.”

Üstelik bu işlemi yaparken Papuşun beynini yeniden eğitmedik. Yalnızca ürettiği tahminleri daha tutarlı kullanmaya çalıştık.

Bu yeni yöntemi eski 500 cümlelik doğrulama sınavımızda denedik.

Özellikle iyi sonuç veren başlangıçlardan birini seçtiğimizde:

100 binlik Papuşun tam iskelet doğruluğu %52,8'den %54'e çıktı.

500 binlik Papuşunki ise %51,4'ten %52,2'ye yükseldi.

Ancak burada hile yapmayalım.

Bunlar üç denemenin ortalaması değil, seçilmiş tek birer modelin sonuçları.

Ayrıca aynı 500 cümle üzerinde defalarca geliştirme yaptığımız için bunları bağımsız bir son sınav başarısı olarak sunamayız.

Ve en önemlisi, bu gelişme Papuşun beynine yeni bilgi eklendiği anlamına gelmiyor.

Sadece mevcut bilgisini kullanırken bazı saçmalıkları daha az yapıyor.

Papuşun hâlâ ciddi sorunları var

Örneğin şu cümleyi yazarsanız:

“Yarın kuantum fiziği laboratuvarında bilgisayarı programlayacağım.”

Papuşun bildiği dünya açısından ortada küçük bir kıyamet kopuyor.

Adamın kelime dağarcığında kuantum fiziği, laboratuvar ve bilgisayar programlama gibi ifadeler yok.

Ancak yapay zekâların komik bir özelliği var.

Bazen bilmedikleri konuda da cevap vermekte ısrar ediyorlar.

Papuş da böyle yaptı.

Tanımadığı kelimelerin yerine bildiği kökleri yerleştirerek AHD'ye benzeyen bir cümle üretmeye çalıştı.

Biz de sisteme ikinci bir kontrol koyduk.

Eğer Türkçe cümle desteklediğimiz sözlüğün dışındaysa, kafasından bir çeviri uydurmasın.

Bunun yerine “Bu cümleyi çeviremiyorum” desin.

Bu kontrol de henüz kusursuz değil. Türkçedeki bazı çekimli kelimeleri tanıyamadığı için aslında desteklenebilecek cümleleri de reddedebiliyor.

Bir de gramer açısından geçerli olduğu hâlde anlamı yanlış olan cümleleri her zaman yakalayamıyoruz.

Yani Papuşun sorunlarını tamamen çözmedik.

Sadece bazılarını artık tanıyabiliyoruz.

Peki bütün bunlar ne anlama geliyor?

Şu an elimizde yaklaşık 5,2 milyon parametreli iki küçük yapay zekâ var.

Bunlara Türkçe metinlerden temel dil örüntülerini öğretmeye çalıştık.

Ardından tamamen hayalî bir dil için hazırladığımız birkaç bin örnekle cümle çözümleme eğitimi verdik.

Farklı başlangıçlarla deneyler yaptık, hata oranlarını ölçtük, hangi konularda zorlandıklarını inceledik.

Sonra onları gerçekten konuşturduk.

Ve bazen doğru, bazen yanlış, bazen de tamamen saçma AHD cümleleri ürettiklerini gördük.

Burada özellikle altını çizmek istediğim bir şey var.

Papuş şu anda Türkçeden AHD'ye güvenilir biçimde çeviri yapan bir yapay zekâ değil.

Doğru cümle iskeleti çıkarabildiği örnekler var. Ancak gerçek hayatta yazılan herhangi bir Türkçe cümleyi doğru çevirebildiğini henüz göstermedik.

Ölçümlerimizin büyük bölümü kendi kurallarımızla ürettiğimiz sentetik cümlelerden geliyor.

Üstelik bizim yazdığımız dilde, doğal dillerdeki kadar zengin ve beklenmedik kullanım çeşitliliği de yok.

Bunun için daha bağımsız testler, daha iyi veri ve daha ciddi değerlendirme gerekiyor.

Ama benim burada asıl ilgimi çeken şey başka.

Birkaç milyon ayarlanabilir sayı, hiç konuşanı olmayan bir dilin bazı kurallarını öğrenebiliyor.

Bazen bir cümlede zorunluluk olduğunu doğru anlıyor.

Bazen “İstek var ama hangi eki kullanacağım?” diye şaşırıyor.

Bazen de yazılmış bir kitabı zorla yazdırıyor. 😂

Bunların hiçbirini Papuşun insan gibi düşündüğünün kanıtı olarak görmüyorum.

Zaten düşünmesini beklemiyorum.

Benim merak ettiğim şey, matematiksel işlemlerden oluşan küçücük bir sistemin, bizim dil dediğimiz karmaşık yapının ne kadarını yakalayabildiği.

Ve daha da önemlisi:

Bir şeyler öğrenmiş gibi görünen bir modelin gerçekten ne öğrendiğini nasıl anlayacağız?

Bu deneyin bana öğrettiği en önemli ders belki de bu oldu.

Çünkü bir ara Papuşun başarısının yükseldiğini sanmıştık ama ölçüm kodumuz yanlışmış.

Başka bir aşamada yapay zekâ asistanımız, henüz yapılmamış deneyler için başarı oranları yazmıştı.

Sonra gerçek deneyleri yapıp sonuçları kontrol ettik.

Daha sonra da aynı asistanın bazı hata analizlerini gerçek model çıktıları yerine tahminî değerlerle hazırladığını fark ettik.

Yani bir yandan Papuşa yanlış cevap vermemeyi öğretmeye çalışırken, diğer yandan Papuşu eğitmemize yardımcı olan çok daha güçlü yapay zekâların yanlış rapor üretmesini engellemekle uğraştık.

Bunun için defalarca dosya, kod, sonuç ve hesap kontrolü yaptık.

İşin ironik tarafı, bu süreç bana Papuştan çok daha büyük modeller hakkında da bir şey öğretti:

Bir yapay zekânın kendinden emin olması, haklı olduğu anlamına gelmiyor.

Şimdi ne olacak?

Papuşun hikâyesi henüz bitmedi.

Önümüzde gerçek insan cümleleriyle yapılacak daha ciddi sınavlar var.

AHD sözlüğünü ve dilbilgisini daha düzgün kullanmasını sağlamamız gerekiyor.

Belki ileride modelin beynini biraz büyütürüz.

Belki farklı eğitim yöntemlerini karşılaştırırız.

Belki de 100 bin cümle okuyan küçük Papuş, bazı konularda 500 bin cümle okuyan abisini geçmeye devam eder.

Bilmiyorum.

Zaten bu deneyi ilginç yapan da her şeyi önceden bilmiyor oluşumuz.

Ben matematikçiyim. Elimde kendi uydurduğum bir dil, birkaç küçük model ve bolca merak var.

Bunlarla uğraşırken bazen bir eğitim deneyi yapıyoruz, bazen dilbilgisi tartışıyoruz, bazen yazdığımız kodun hatasını buluyoruz.

Bazen de beş milyonluk dingil papağanın neden kitap yazan insanları zorla çalıştırdığını anlamaya çalışıyoruz. 😂

İşin en komik tarafını söyleyeyim mi?

Ben bütün bu işe videolarımdaki seslendirme sorununu çözmek için başlamıştım.

Şimdi seslendirme sorununu hâlâ tam çözemedim.

Ama elimde kendi kendine uydurduğum bir dili konuşmaya çalışan iki yapay zekâ var.

Üstelik bunlardan biri bazen zorunluluk olmayan yerde zorunluluk görüyor, diğeri ne söylemek istediğini bilse bile ekleri unutuyor.

Ve ben bunları geliştirirken gayet eğleniyorum.

Sanırım bu da benim hobi anlayışım.

Bir sorunu çözmek için yola çıkıp bambaşka üç problem üretmek.

Neyse, Papuşu biraz daha eğitelim.

Belki bir gün düzgün konuşmayı öğrenir.

Öğrenemezse de en azından neden öğrenemediğine dair güzel bir matematik hikâyemiz olur. 😂

Küçük bir not: Papuş isminin nereden geldiğini de anlatayım. Aslında her şey ses taklidi modellerini araştırırken izlediğim bir videoyla başladı. Videoda model eğitildikçe başlangıçtaki tuhaf, anlamsız sesler giderek insan konuşmasına benzemeye başlıyordu. Ben de bu hâllerine gülüp kendi kendime “Bunlar papağan gibi, konuşmaya çalışıyorlar ama ne söylediklerini bilmiyorlar.” diye düşünmüştüm. 😂

Sonra kendi küçük dil modelimi geliştirmeye başlayınca bu benzetme aklıma geldi. Henüz ne söylediğini tam olarak anlamayan ama konuşmaya çalışan küçük bir papağan...

İşte Papuş ismi oradan geliyor.