
GPT, BERT ve Gemini gibi günümüzde öne çıkan büyük yapay zekâ modellerinin büyük kısmı Transformer mimarisi üzerine inşa edilmiştir. Bu yüzden modern doğal dil işlemeyi (NLP) gerçekten kavramak için, Transformer’ın nasıl çalıştığını anlamak kritik bir adımdır.
Bu derste önce Transformer mimarisinin temel yapı taşlarını netleştirecek, ardından Hugging Face’in Transformers kütüphanesine giriş yaparak bu mimarinin pratikte nasıl kullanıldığını göreceğiz.
Bu derste ele alacağımız konular:
Encoder–Decoder nedir?
Transformer mimarisi (temel bileşenler ve çalışma mantığı)
Transfer learning (önceden eğitilmiş modellerle ince ayar mantığı)
Transformers kütüphanesine giriş (kurulum, temel kullanım ve örnek akış)
Doğal dil işleme (NLP) analizleri uzun süre hem maliyetli hem de zaman alan süreçlerdi. Neyse ki son yıllarda geliştirilen modern yaklaşımlar sayesinde bu işler ciddi ölçüde kolaylaştı. Bu derste göreceğiniz gibi, Transformers kütüphanesinin pipeline yapısını kullanarak yalnızca 3–4 satır kodla güçlü NLP uygulamaları geliştirebileceğiz.
Bu ders boyunca, Transformers ile pipeline mantığını öğrenip 7 farklı NLP görevini uçtan uca nasıl gerçekleştireceğinizi adım adım inceleyeceğiz:
Doğal dil işleme (NLP) nedir?
Transformers kurulumu ve yükleme
Duygu analizi (Sentiment Analysis)
Zero-shot sınıflandırma
Metin üretme (Text Generation)
İsimlendirilmiş varlık tanıma (NER)
Soru-cevap (Question Answering)
Metin özetleme (Summarization)
Çeviri (Translation)
Pipeline’lar sayesinde NLP ve ses gibi alanlarda analizleri çok pratik bir şekilde yapabilirsiniz. Ancak pipeline yaklaşımı sadece “hazır model + hazır ayar” demek değildir; aynı yapıyı çok daha esnek kullanabilirsiniz. İsterseniz varsayılan modeli kullanmak yerine, kendi seçtiğiniz modeli ve tokenizer’ı tanımlayarak süreci tamamen kontrol edebilirsiniz.
Bu derste önce speech recognition (konuşma tanıma) örneğiyle pipeline mantığını uygulayacağız. Ardından duygu analizi için özellikle seçtiğimiz bir model ve onun tokenizer’ı ile tahmin (inference) sürecini kuracağız. Son olarak da eğittiğiniz/uyarladığınız modeli nasıl kaydedip yeniden kullanacağınızı göreceksiniz.
Bu derste ele alacağımız konular:
Speech recognition için pipeline kullanımı
Veri setini yükleme
Veri ön işleme
AutoModel ile model seçimi ve yükleme
Tahmin (inference) süreci
Modeli kaydetme ve tekrar yükleme
Bu dersimizde Transformers ile fine-tuning nasıl yapılır göreceğiz.
Bu dersi, Kaggle üzerinde çalıştıracaksanız, eğitim sürecinin hızlı ilerlemesi için GPU’yu açmayı unutmayın:
Settings → Accelerator → GPU (T4 x2)
Ele alacağımız başlıklar:
Veri setini yükleme
Modeli yükleme
Veri ön işleme
Hiperparametreleri ayarlama
Model eğitimi
Model ile tahmin (inference)
Merhaba bu videoda metin sınıflandırma analizi için bir giriş yaptım ve bu analizi Hugging Face ekosistemi ile nasıl yapacağımıza dair bir yol haritası çizdim. İyi seyirler.
Merhaba, bu derste metin analizi yapmak için kullanacağımız veri setini yüklemeyeceğiz. Ardından Pandas kütüphanesi ile veri anlamaya çalışacağız. En son Matplotlib kütüphanesi ile verileri görselleştireceğiz.
00:36 Veri setini yükleme
02:31 Veri setini anlama
06:27 Pandas formata çevirme
09:31 Veri görselleştirme
Merhaba, geçen derslerimizde veri setini yüklemiş, veri ön işleme yapmıştık. Artık veriler model için hazır. Bu videoda model yükleme, hiperparametre ayarlama, model eğitim, model değerlendirme ve yeni verileri tahmin etme konularını ele alacağız. Ayrıca modelin, kategorilerin tahminini görmek için confusion matrisin nasıl çizeceğimizi göreceğiz.
00:05 Giriş
01:02 Encoder yapısı
01:54 Model yükleme
05:00 Değerlendirme metrikleri
08:17 HuggingFace login
09:35 Hiperparametreleri ayarlama
13:14 Model eğitim
15:58 Model değerlendirme
25:02 Tahmin yapma
Merhaba, bu videoda Hugging Face ekosistemi ile yaptığımız projeye kuş bakışı bakacağız ve PyTorch & TensorFlow ile duygu analizi yaparken yazdığımız kodların üzerinden geçeceğiz.
Merhaba, bu dersimizde isimlendirilmiş varlık tanıma (NER) analizine giriş yapacağız ve bu analiz için yol haritamızı çizeceğiz. Gelecek derslerde adım adım NER analizini uygulayacağız.
Merhaba, bu dersimizde token sınıflandırma (NER analizi) için veri setimizi yüklemeye ele alacağız. Kullanacağımız veri seti Almanca, Fransızca, İtalyanca ve İngilizce. Amacımız Almanca veri seti üzerinde bir büyük dil modeli eğitip bu modeli diğer diller için kullanmak.
Merhaba, bu dersimizde NER analizi için tokenizer'ımızı ve modelimizi hazırlayacağız. XLM-RoBERTa tokenizer'a yakından bakacağız. Transformers kütüphanesinin anatomisini ele alacağız. Ve en son bir metin alıp bu metnin tokenları adım adım nasıl tahmin edilir göreceğiz.
01:02 RoBERTa nedir?
01:36 BERT Tokenizer VS XLM-R Tokenizer
08:49 NER için Transformers
10:22 Transformers'ın anatomisi
11:01 Model ve Tokenizer'ı yükleme
17:24 Bir metnin tokenlarını sınıflandırma
Merhaba, bu dersimizde NER analizi için tokenizer nasıl yapılır adım adım inceleyeceğiz. Ayrıca kuracağımız modelinin performansını görmek için değerlendirme metriklerini ayarlayacağız.
Merhaba, bu dersimizde transformer modelimizi fine tune edeceğiz. Önce TrainingArguments sınıfı ile modelin hiperparametrelerini ayarlayacağız. Sonra model Trainer API ile modeli eğiteceğiz. Modeli eğittikten sonra Hugging Face Hub'a modeli yükleyeceğiz. Ve en son modelin nasıl çalıştığını kontrol edeceğiz.
03:43 Model argümanları
09:58 Hugging Face Hub'a giriş
17:01 Model eğitim
21:36 Model kart
23:12 Modeli test etme
Mutlu öğrenmeler...
Merhaba, bu videoda geçen dersimizde Almanca veri seti üzerinde eğittiğimiz XLM-RoBERTa transformer modelimizi Fransızca, İtalyanca ve İngilizce üzerinde değerlendirdim. Bu eğittiğimiz çok dilli modeli kullanmak ne kadar mantıklı? Bu soruyu araştırmak için modeli sıfırdan Fransızca veri seti üzerinde eğittim ve bu modelin performansını çok dilli modelimizin performansı ile karşılaştırdım. Çok dilli modelin performansı, tek dilli performansına yakın olduğu sonucu ortaya çıktı.
Merhaba arkadaşlar, bu videoda NER analizi projemizin üzerinden geçtik ve adım adım bu analizde neler yaptığımıza baktık. Ayrıca bu derste eğittiğimiz çok dilli modelin performansını gördük. Harika bir özet ders oldu. İyi seyirler...
Bu videoda Gradio ile NER analizi için eğittiğimiz büyük dil modeli nasıl deploy edilir adım adım anlattım. Önce pipeline ile modeli HuggingFace Hub'dan indireceğiz. Ardından bu modeli ile Gradio'yu kullanarak bir uygulama inşa edeceğiz ve en son bu uygulamayı Hub'a yükleyeceğiz.
02:00 NER nedir?
03:09 Pipeline ile model yükleme
10:30 Gradio ile uygulama yapma
14:15 Uygulamayı Hub'a yükleme
Bu derste metin üretme dersleri için bir giriş yaptım ve bu derslerde hangi konuları işleyeceğimizi anlattım.
Bu dersimizde metin üretmek için kullanılan greedy search tekniğini ele aldık. Bu yaklaşımı göstermek için GPT-2 büyük dil modelini kullandık.
00:35 Greedy search nedir?
02:17 Tokenizer
03:08 GPT-2 model
04:59 Prompt
06:29 Text-generation
Bu videoda bir metin üretme tekniği olan beam search stratejisini ele aldık ve GPT-2 ile bu tekniği kullanarak nasıl metin üretilir gösterdik.
00:14 Beam search
02:01 Text-generation
05:09 N-gram penalty
07:00 Number of beams
Bu videoda metin üretmek için istatistiksel bir yöntem olan sampling tekniğini ele aldık ve daha açık uçlu metinler üretmek için temperature (sıcaklık) kavramı üzerinde durduk.
Bu videoda Top-K ve Top-p sampling tekniklerini işledik. Bu teknikler metin üretmede en modern yaklaşımlardır. Top-K ile en yüksek K tane token arasından seçim yapılır. Top-p tekniği ile bir olasılık değeri belirlenir ve olasılık değerleri toplamı bu değerini geçen tokenlar seçilir.
Bu videoda metin üretme tekniklerinin üzerinden geçeceğiz ve hangi teknik ne zaman kullanılır göreceğiz.
Bu videoda yapay zeka alanında son zamanlarda geliştirilen en iyi doğal dil işleme modeli olan Mistral 7B modelini tanıyacağız. Bu modelin performansını göreceğiz. En son büyük dil modelleri türleri ele alacağız.
Merhaba, bu derste Kaggle üzerinde Mistral model ile nasıl metin üreteceğimizi anlattım. Önce modelle daha kolay çalışmak için quantization'ı işlemi yaptık ardından modelimizi yükledik sonra bir pipeline oluşturduk ve en son bu pipeline ile nasıl metin üretildiğini işledik.
02:13 Kütüphaneleri ayarlama
03:56 Quantiazation nedir?
06:13 Modeli yükleme
10:54 Pipeline oluşturma
12:37 Metin üretme
Merhaba, bu dersimizde Mistral 7B Instruct modeli ile nasıl konuşarak çalışacağımızı anlattım. Instruct modellerin metin üretmesi için talimatlar verilir. Önce Mistral modeli yükledik sonra çeşitli promptlar ile modelin metin üretmesini sağladık.
Bu videoda fine-tune ve RAG yaklaşımlarını kısaca anlattım ve büyük dil modelleri fine-tune etme projemize giriş yaptım.
Bu videoda quantization tekniğini kullanarak Mistral modelinin nasıl yüklendiğini ele aldık.
01:23 Tokenizer'ı yükleme
05:08 Quantization ayarlama
10:26 Mistral modeli yükleme
Bu videoda Mistral büyük dil modelini fine-tune etmek için kullanacağımız veri setini yükledik.
01:27 Veri setini yükleme
03:04 Veri setini anlama
04:57 Prompt formatını oluşturma
Bu videoda bir PEFT tekniği olan LoRA nedir ve HuggingFace içindeki PEFT kütüphanesini kullanarak bu yaklaşım ile model konfigürasyonunu nasıl yapılır konularını ele aldık.
Bu videoda önce modelimizin hiper-parametrelerimizi ayarladık sonra Mistral modeli eğittik ve en son eğitilen modelin ağırlıklarını HuggingFace Hub'a yükledik.
00:37 Hub'a giriş
01:19 Eğitim parametrelerini ayarlama
05:42 Model Eğitim
09:35 Modeli Hub'a yükleme
Bu dersimizde peft modelimizi hub'dan indirmeyi, bu modelle orijinal modeli birleştirmeyi ve en son peft modelle nasıl metin üretileceğini ele alacağız.
01:28 Peft config
02:40 Model yükleme
05:04 Tokenizer'ı yükleme
07:05 Peft modeli yükleme
08:15 Çıkarım yapma
Bu videoda büyük dil modellerini değerlendirme projemizin üzerinden geçtik ve önemli noktaların altını çizdik.
Bu videoda doğal dil işlemeyi öğrenmek bir yol haritası anlattım.
01:41 NLP Nedir?
03:32 NLP için Alanlar
07:56 Frameworkler ve kütüphaneler
10:35 Kaynaklar
12:40 Sonuç
Bu videoda Transformers ile lokalde uçtan uca bir NLP projesi geliştireceğiz. Sonra bu uygulamayı Gradio ile Hugging Face Hub'da yayımlayacağız.
Merhaba arkadaşlar,
HuggingFace ile doğal dil işleme kursuna hoş geldiniz.
Bu kursta, HuggingFace ekosistemindeki Transformers, Dataset, PEFT ve Gradio gibi kütüphaneleri kullanarak doğal dil işlemeyi ve GPT ve BERT gibi büyük dil modelleri ile nasıl çalışılacağını öğreneceksiniz.
Doğal dil işleme, yapay zekanın bir alt alanı ve günümüzün en popüler alanlarından biri. ChatGPT gibi yapay zeka araçları bu alandaki teknikler kullanılarak geliştirildi.
GPT ve BERT gibi büyük dil modellerini sıfırdan eğitmek zordur. Çünkü çok fazla zaman ve para gerektirir. Şanslıyız ki son zamanlarda geliştirilen HuggingFace tarafından geliştirilen Transformers kütüphanesini kullanarak büyük dil modelleri ile çalışmak kolaylaştı.
Büyük dil modelleri 2017 yılında Google tarafından geliştirilen Transformers mimarisine dayanmaktadır. Bu mimari kullanılarak bir çok model geliştirildi. Artık çağımız bu transformer mimarisine dayalı büyük dil modellerinin çağı.
Bu modeller ile çalışmak için tek yapmanız gereken onları kendi projeniz için ayarlamak. Bu kütüphaneyi kullanarak sadece bir kaç satır kod ile metin sınırlandırma, duygu analizi, NER, soru-cevap, metin özetleme, çeviri ve metin üretme gibi projelerinizi yapabilirsiniz.
Aslında HuggingFace uçtan uca yapay zeka projelerinizi yapabildiğiniz bir platform. Bu platform ile doğal dil işleme modelinizi eğitebilir ve eğittiğiniz bu modeli canlıya alabilirsiniz.
Bu kurs, sizi HuggingFace ekosistemi ile doğal dil işleme alanında uzmanlaşmaya ve hızla büyüyen sektördeki fırsatları değerlendirmeye hazırlayacak.
Hemen kaydolun ve doğal dil işleme dünyasına dalmaya başlayın!
Kurs içinde görüşme üzere.
Tirendaz Akademi