Başlangıç Düzeyi Yapay Zeka (AI) Eğitimi

ndarray nesnesinin yapısı, tek/çok boyutlu diziler, Python listesiyle karşılaştırması, homojen veri tipi zorunluluğu ve hız farkının nedeni.

Listeden dönüştürme (np.array), sıfır/bir dizileri (zeros, ones), aralık dizileri (arange, linspace), birim matris (eye), dolu diziler (full) ve mevcut dizinin şekliyle yeni dizi üretme (zeros_like vb.).

ndim, shape, size, dtype özellikleri; yeniden şekillendirme (reshape, ravel, flatten), boyut ekleme/çıkarma (newaxis, squeeze), tip dönüştürme (astype) ve bellek tasarrufu için doğru dtype seçimi.

Tek ve çok boyutlu indeksleme, satır/kolon seçimi, adım değerli dilimleme, fancy indexing (indeks dizisiyle seçim), boolean indeksleme ile koşula uyan elemanları çekme ve dilimin kopya mı görünüm (view) mü olduğu ayrımı.

İki dizinin karşılıklı elemanları arasında toplama/çıkarma/çarpma/bölme, skalerle işlem, evrensel fonksiyonlar (np.sqrt, np.exp, np.log, trigonometrik fonksiyonlar) ve karşılaştırma işleçlerinin dizi üzerinde çalışması.

Farklı şekildeki dizilerin, NumPy'ın boyutları otomatik uyarlaması sayesinde birlikte işleme girmesi. Yayınlama kuralları, hangi şekillerin uyumlu olduğu, gereksiz bellek kopyalamadan işlem yapmanın mantığı ve sık görülen şekil uyuşmazlığı hataları.

Matris çarpımı (dot, @), transpoz, determinant, ters matris, öz değer/öz vektör hesabı ve doğrusal denklem sistemi çözümü (np.linalg). Lineer regresyonun normal denklemi ve boyut indirgeme yöntemleri bu işlemlere dayanır.

Ortalama, medyan, standart sapma, varyans, minimum/maksimum, toplam, kümülatif toplam ve yüzdelikler; axis parametresiyle satır veya kolon bazında hesaplama.

np.random ile düzgün ve normal dağılımdan sayı üretme, rastgele tam sayılar, diziyi karıştırma, rastgele örnekleme ve tekrarlanabilirlik için tohum (seed) belirleme. Veri kümesini eğitim/test olarak bölmede ve simülasyonlarda kullanılır.

Eksik veya geçersiz elemanların hesaplamaya dahil edilmeden dizi içinde tutulması (numpy.ma). Boolean maskelerle koşullu değer atama (np.where) ve eksik veriyle çalışırken sonuçların bozulmasının önlenmesi.

Farklı veri tiplerini kolonlar hâlinde tek dizide tutan yapılar (structured/record arrays). Tablo benzeri veriyi NumPy seviyesinde temsil etme ve alan (field) bazlı erişim.

Satır öncelikli (C-order) ve kolon öncelikli (F-order) yerleşim, bitişik bellek (contiguity), görünüm ile kopya arasındaki fark, gereksiz kopyalamadan kaçınma ve büyük dizilerde bellek kullanımını ölçme.

Python döngülerini dizi işlemleriyle değiştirerek hız kazanma. İndirgeme fonksiyonları, np.where ile koşullu vektörleştirme, apply_along_axis kullanımı ve döngülü kodla vektörleştirilmiş kodun çalışma süresi karşılaştırması.

Tek boyutlu etiketli dizi (Series) ve iki boyutlu etiketli tablo (DataFrame). İndeks kavramı, kolon isimleri, sözlük/liste/NumPy dizisinden DataFrame üretme ve iki yapı arasındaki ilişki.

read_csv, read_excel, read_json fonksiyonları ve ayraç, kodlama (encoding), başlık satırı, eksik değer işaretleri gibi parametreler. to_csv, to_excel, to_json ile dışa aktarma ve büyük dosyaları parça parça okuma.

head/tail ile ilk ve son kayıtlara bakma, info ile kolon tipleri ve dolu/boş sayıları, describe ile özet istatistikler, shape, columns, dtypes, value_counts ve nunique ile veriyi tanıma.

loc (etiket bazlı) ve iloc (konum bazlı) erişim farkı, kolon ve satır seçimi, boolean maske ile koşullu filtreleme, çoklu koşul birleştirme, isin, between, query kullanımı ve SettingWithCopyWarning gibi tipik tuzaklar.

Eksik değerleri saptama (isnull, notnull, isna().sum()), silme (dropna) ve doldurma (fillna) stratejileri: ortalama/medyan/mod ile doldurma, ileri-geri doldurma, interpolasyon. Eksikliğin rastgele olup olmadığının sonuçlara etkisi.

duplicated ile yinelenen kayıtları bulma, drop_duplicates ile belirli kolonlara göre teklileştirme, hangi kopyanın tutulacağına karar verme ve indeksin yeniden düzenlenmesi (reset_index).

Yanlış tipte okunmuş kolonları düzeltme (astype), metin içindeki sayıları sayıya çevirme (to_numeric), tarihe çevirme (to_datetime), kategorik tipe geçirerek bellek kazanma ve dönüşüm hatalarını yönetme (errors parametresi).

Uç değerlerin istatistiksel yöntemlerle belirlenmesi (Z-skoru, çeyrekler arası açıklık/IQR kuralı) ve kutu grafiğiyle doğrulanması. Aykırı değeri silme, sınırlama (clipping/winsorization) veya dönüşüm uygulama seçenekleri ve her birinin modele etkisi.

Veriyi bir veya birkaç kolona göre gruplayıp her grup için özet hesaplama (split-apply-combine mantığı). sum, mean, count, agg ile çoklu istatistik, transform ile grup bazlı normalize etme ve gruplu sonuçlarla yeni özellik üretme.

pivot ve pivot_table ile uzun formatlı veriyi geniş formata çevirme, satır/kolon/değer eksenlerini belirleme, çoklu toplama fonksiyonu kullanma; melt ile ters yönde dönüşüm ve stack/unstack işlemleri.

İki tabloyu ortak anahtar üzerinden birleştirme (merge) ve birleşim türleri (inner, left, right, outer); indeks üzerinden birleştirme (join); tabloları alt alta veya yan yana ekleme (concat). Anahtar uyuşmazlıklarının ve satır çoğalmasının kontrolü.

apply ile satır/kolon bazında özel fonksiyon uygulama, map ile Series elemanlarını dönüştürme veya eşleme, applymap ile hücre bazlı işlem. Lambda ile birlikte kullanım ve vektörleştirilmiş alternatiflerin ne zaman daha hızlı olduğu.

.str erişimcisiyle metin kolonlarında büyük/küçük harf dönüşümü, boşluk kırpma, bölme (split), birleştirme, içerik arama (contains), değiştirme (replace) ve düzenli ifadelerle (regex) desen çıkarma. Kategorik metin verisini standartlaştırmada kullanılır.

datetime64 ve Timestamp nesneleri, metinden tarihe dönüşüm (to_datetime) ve biçim belirtme, zaman farkı (Timedelta), tarihten yıl/ay/gün/hafta günü/saat bileşenlerini çıkarma (.dt erişimcisi) ve zaman dilimi (timezone) kavramı.

Tarih kolonunu indeks yapma, tarih aralığıyla dilimleme, kısmi tarih dizesiyle erişim, date_range ile takvim üretme ve eksik tarihlerin tespiti.

resample ile veriyi günlükten haftalığa/aylığa toplama (downsampling) veya sıklığı artırma (upsampling); rolling ile hareketli ortalama/standart sapma, expanding ile kümülatif istatistikler ve shift ile gecikmeli (lag) değer üretme. Gürültü azaltma ve trend yakalama amaçlıdır.

Zaman eksenli çizgi grafikleri, birden fazla serinin karşılaştırılması, hareketli ortalamanın ham veriyle üst üste çizilmesi, mevsimsellik ve trendin grafik üzerinden okunması, tarih eksenini biçimlendirme.

Grafiğin tuvali olan Figure ile çizimin yapıldığı koordinat sistemi Axes arasındaki ayrım. Nesne yönelimli arayüz ile pyplot arayüzü karşılaştırması, eksen sınırları, başlık, eksen etiketleri, ızgara ve gösterge (legend) ayarları.

Zaman/sıra verisi için çizgi grafiği (plot), iki değişken arasındaki ilişki için dağılım grafiği (scatter), kategorilerin karşılaştırılması için çubuk grafiği (bar, barh). Her türün hangi soruya cevap verdiği ve yanlış grafik seçiminin yaratacağı yanılgılar.

Renk belirtme yöntemleri, çizgi tipleri, çizgi kalınlığı, işaretçi (marker) türleri, şeffaflık (alpha), renk haritaları (colormap), hazır stiller (style.use) ve okunabilir/erişilebilir renk seçimi.

subplots ile aynı figürde birden fazla grafik yerleştirme, satır-kolon düzeni, eksenleri paylaştırma (sharex, sharey), GridSpec ile düzensiz yerleşimler, aralık ayarı (tight_layout) ve grafiği dosya olarak kaydetme (savefig).

Histogram ile bir değişkenin dağılımını, çarpıklığını ve tepe noktalarını görme; kutu (box) grafiği ile medyan, çeyrekler, açıklık ve aykırı değerleri özetleme. Kutu sayısının (bins) dağılım yorumunu nasıl değiştirdiği ve violin grafiğiyle karşılaştırma.

Matris biçimli veriyi renk yoğunluğuyla gösterme (imshow, pcolormesh) — özellikle korelasyon ve karışıklık matrisleri için. Kontur grafikleriyle iki değişkene bağlı bir yüzeyin seviye eğrilerini çizme (örneğin hata yüzeyi görselleştirmesi).

mplot3d ile üç boyutlu dağılım, yüzey ve tel kafes (wireframe) grafikleri; bakış açısı ayarı. Optimizasyon yüzeyleri ve üç değişkenli ilişkilerin gösterimi, ayrıca 3D grafiğin ne zaman yanıltıcı olabileceği.

FuncAnimation ile zaman içinde değişen verinin veya bir algoritmanın adım adım ilerleyişinin hareketli gösterilmesi (örneğin gradient descent'in minimuma yaklaşması), kare hızı ayarı ve GIF/video olarak kaydetme.

Yakınlaştırma, kaydırma, imleçle değer okuma gibi etkileşimler; Jupyter içinde etkileşimli arka uç kullanımı ve widget'larla parametre değiştirerek grafiği canlı güncelleme. Sunum ve keşif amaçlı kullanımı.

histplot, kdeplot, displot, ecdfplot ile tek ve iki değişkenli dağılımlar; yoğunluk tahmini, gruba göre dağılım karşılaştırması ve rugplot ile gözlem yoğunluğu gösterimi.

barplot, countplot, boxplot, violinplot, stripplot, swarmplot ile kategoriler arası karşılaştırma; hue parametresiyle ikinci bir kırılım ekleme ve güven aralıklarının nasıl hesaplandığı.

regplot ve lmplot ile dağılım grafiğine doğrusal/polinomial uyum çizgisi ekleme, güven bandı yorumu, residplot ile artık (residual) analizi. Modelleme öncesi ilişkinin doğrusal olup olmadığını sınamada kullanılır.

heatmap ile korelasyon matrisi görselleştirme ve açıklamalı (annotated) hücreler, clustermap ile hiyerarşik kümelenmeye göre yeniden sıralanmış matris, pairplot ile tüm değişken çiftlerinin ikili ilişki tablosu. Özellik seçiminde ve çoklu doğrusallık tespitinde işe yarar.

Değişkenlerin ne anlama geldiği, ölçüm birimleri, sayısal/kategorik/tarih ayrımı, satır ve kolon sayısı, hedef değişkenin belirlenmesi, eksik ve tekrarlı kayıtların envanteri ile veri setinin toplandığı bağlamın sorgulanması.

Tek değişkenli (dağılım, merkez, yayılım), iki değişkenli (sayısal-sayısal, sayısal-kategorik, kategorik-kategorik) ve çok değişkenli inceleme; gruplara göre kırılımlar ve hedef değişkenle olan ilişkinin araştırılması.

Pearson ve Spearman katsayıları, korelasyon matrisi ve ısı haritasıyla yorumlanması, güçlü/zayıf ilişki eşikleri, çoklu doğrusallık (multicollinearity) tespiti ve korelasyonun nedensellik anlamına gelmediği ilkesi.

EDA bulgularının uygun grafiklerle desteklenmesi: dağılımlar için histogram/kutu, ilişkiler için dağılım grafiği, kategoriler için çubuk, çoklu ilişkiler için pairplot ve ısı haritası. Grafiklerin kısa yorum notlarıyla raporlanması.

Yolcu bilgileri (yaş, cinsiyet, bilet sınıfı, aile bilgisi vb.) ile hayatta kalma durumu arasındaki ilişkinin incelenmesi. Eksik yaş ve liman değerlerinin doldurulması, kategorik değişkenlerin gruplanması, gruplara göre hayatta kalma oranlarının hesaplanması ve görselleştirilmesi.

Konut özellikleriyle satış fiyatı arasındaki ilişkinin yalnızca keşifsel analiz düzeyinde incelenmesi. Çok sayıda kolonla çalışma, eksik veri haritası çıkarma, hedef değişkenin çarpık dağılımını inceleme, sayısal değişkenlerin fiyatla korelasyonunu sıralama ve aykırı değerleri tespit etme. Bu proje bilinçli olarak model kurma içermez.

Satış işlem kayıtları üzerinde ürün, kategori, mağaza ve tarih kırılımlarında analiz. groupby ve pivot tablolarla ciro/adet özetleri, zaman serisi grafikleriyle mevsimsellik ve trend incelemesi, en çok satan ürünlerin belirlenmesi ve iş anlamı taşıyan çıkarımların yazılması.

Tümör ölçümlerinden oluşan tıbbi bir veri seti üzerinde iyi huylu/kötü huylu ayrımının hangi ölçümlerle ilişkili olduğunun keşfi. Sınıf dengesinin incelenmesi, iki sınıfın dağılımlarının karşılaştırılması, ölçekleri farklı değişkenlerin standartlaştırma ihtiyacının görülmesi ve yüksek korelasyonlu özelliklerin tespiti.

Kuralları elle yazmak yerine örneklerden örüntü çıkaran yaklaşımın tanımı; klasik programlamayla farkı, yapay zeka-makine öğrenmesi-derin öğrenme ilişkisi, tipik iş akışı (veri, özellik, model, değerlendirme, uygulamaya alma) ve gerçek hayattan kullanım örnekleri.

Etiketli veriyle girdi-çıktı ilişkisi öğrenen denetimli öğrenme ile etiketsiz veride yapı arayan denetimsiz öğrenme arasındaki ayrım. Her birinin problem tipleri (sınıflandırma/regresyon; kümeleme/boyut indirgeme) ve hangi durumda hangisinin seçileceği.

Çıktının kategori olduğu (sınıflandırma) ve sürekli sayı olduğu (regresyon) problemlerin karşılaştırılması; ikili ve çok sınıflı problemler, her iki tipte kullanılan farklı başarı ölçütleri ve problemi yanlış tanımlamanın sonuçları.

Veriyi neden bölmek gerektiği; modelin öğrendiği eğitim kümesi, hiperparametre ayarı için doğrulama kümesi ve yalnızca son değerlendirmede kullanılan test kümesi. Veri sızıntısı (data leakage) tehlikesi ve bölme oranları.

Modelin eğitim verisini ezberleyip yeni veride başarısız olması ile veriyi yeterince öğrenememesi durumları. Belirtilerinin eğitim/test hatası karşılaştırmasıyla teşhisi, öğrenme eğrileri, genelleme kavramı ve model karmaşıklığıyla ilişkisi.

Tek bir bağımsız değişkenle sürekli bir çıktıyı doğru denklemiyle tahmin etme. Eğim ve kesişim katsayılarının yorumu, dağılım grafiği üzerine uyum doğrusunun çizilmesi, hata kavramına giriş ve fit/predict akışının ilk uygulaması.

Birden fazla bağımsız değişkenle tahmin. Katsayıların birlikte yorumlanması, değişken ölçeklerinin katsayılara etkisi, gereksiz değişken eklemenin riskleri ve tek değişkenli modele göre başarı karşılaştırması.

Yeni bir örneği, kendisine en benzeyen k komşusuna bakarak sınıflandıran veya tahmin eden algoritma. Benzerlik/uzaklık fikri, k değerinin sonuca etkisi, karar sınırının nasıl oluştuğu ve modelin 'eğitim yapmadan' nasıl çalıştığı. Konu 9.1'de matematiksel olarak derinleştirilir.

Denetimli ve denetimsiz öğrenmenin algoritma düzeyinde karşılaştırılması; etiketli veri elde etmenin maliyeti, yarı-denetimli yaklaşımların gerekçesi ve problemin hangi kategoriye girdiğini belirleme pratiği.

Üç kümenin görevlerinin uygulamalı ayrıştırılması; train_test_split kullanımı, katmanlı (stratified) bölme ile sınıf oranlarının korunması, zaman serilerinde rastgele bölmenin neden yanlış olduğu ve ön işleme adımlarının yalnızca eğitim kümesine göre öğrenilmesi (fit vs transform ayrımı).

Aşırı ve yetersiz öğrenmenin somut göstergeleri; öğrenme ve doğrulama eğrilerinin okunması, model karmaşıklığı-hata ilişkisi ve aşırı öğrenmeye karşı çözümler (daha fazla veri, özellik azaltma, düzenlileştirme, erken durdurma).

Toplam hatanın yanlılık (bias), varyans ve giderilemeyen gürültü bileşenlerine ayrılması. Yüksek yanlılık ile yüksek varyansın belirtileri, aralarındaki ödünleşim ve bu çerçevenin model seçimini nasıl yönlendirdiği. Ensemble yöntemlerinin gerekçesi de buradan çıkar.

Veriyi k parçaya bölüp her parçayı sırayla doğrulama kümesi olarak kullanarak daha kararlı başarı tahmini elde etme (k-fold). Stratified k-fold, leave-one-out, tekrarlı CV ve zaman serisi için ileriye doğru CV; skorların ortalama ve standart sapmasıyla yorumlanması.

Değişkenleri ortak ölçeğe getirme. Min-max normalizasyonu, standartlaştırma (ortalama 0, standart sapma 1) ve aykırı değerlere dayanıklı ölçekleme. Uzaklık tabanlı (k-NN, SVM) ve gradyan tabanlı algoritmalarda ölçeklemenin zorunluluğu; ağaç tabanlı modellerde neden gerekmediği.

Kategorik değişkenlerin sayısala çevrilmesi. Sıralı kategoriler için etiket/sıra kodlaması, sırasız kategoriler için one-hot kodlaması ve yapay sıralama yaratmanın hatası; yüksek kardinaliteli kolonlarda boyut patlaması ve kukla değişken tuzağı (dummy variable trap).

Modele katkısı olmayan veya gürültü ekleyen değişkenlerin ayıklanması. Filtre yöntemleri (korelasyon, varyans eşiği, istatistiksel testler), sarmalayıcı yöntemler (ileri/geri seçim, RFE) ve gömülü yöntemler (düzenlileştirme, ağaç bazlı önem skorları).

Çok sayıda değişkenin bilgi kaybı en az olacak şekilde daha az boyuta indirilmesi. Boyut felaketinin (curse of dimensionality) nedeni, temel bileşenler analizi (PCA) fikri ve açıklanan varyans oranı, özellik seçimi ile boyut indirgeme arasındaki fark ve görselleştirme amaçlı kullanımı.

Modelin doğrusal denklemi, hata kareler toplamı (SSE/MSE) kayıp fonksiyonunun tanımı, katsayıların analitik çözümü (normal denklem) ve matris gösterimiyle türetilmesi. Modelin varsayımları (doğrusallık, hataların bağımsızlığı ve sabit varyansı) ve bu varsayımlar bozulduğunda ne olduğu.

Kayıp fonksiyonunun türevini kullanarak katsayıları adım adım güncelleyerek minimuma inme yöntemi. Öğrenme oranının çok büyük/küçük seçilmesinin etkileri, yakınsama kriteri, batch / stochastic / mini-batch varyantları ve öğrenme eğrisinin izlenmesi. Analitik çözüm varken neden gradient descent'e ihtiyaç duyulduğu.

Formüllerin NumPy ile koda dökülmesi: tahmin fonksiyonu, kayıp hesabı, gradyanların yazılması, güncelleme döngüsü ve sonuçların doğrulanması. Vektörleştirilmiş yazımın döngülü yazıma göre hız avantajı ölçülür.

LinearRegression sınıfıyla aynı problemin çözülmesi, fit/predict arayüzü, katsayı ve kesişim değerlerinin okunması, pipeline içinde ölçekleme ile birlikte kullanımı ve sıfırdan yazılan modelle sonuçların karşılaştırılması.

Ortalama kare hata, kök ortalama kare hata, ortalama absolüt hata ve belirlilik katsayısı R²'nin tanımları, birimleri ve yorumları. Hangi metriğin hangi durumda tercih edileceği, R²'nin yanıltıcı olabildiği durumlar, düzeltilmiş R² ve artık (residual) grafikleriyle model teşhisi.

Mevcut değişkenlerin kare, küp ve çarpım terimlerinin (etkileşim terimleri) yeni özellik olarak eklenmesi; PolynomialFeatures kullanımı. Derece arttıkça uyumun iyileşmesi ama genellemenin bozulması ve doğru derecenin doğrulama ile seçilmesi.

Kayıp fonksiyonuna katsayı büyüklüğü cezası ekleyerek modeli sadeleştirme. Ridge'in katsayıları küçültmesi, Lasso'nun bazı katsayıları tam sıfıra indirerek otomatik özellik seçimi yapması, Elastic Net'in ikisini birleştirmesi ve ceza katsayısının (alpha/lambda) doğrulamayla ayarlanması.

L1 (absolüt değerler toplamı) ve L2 (kareler toplamı) cezalarının matematiksel tanımları, kısıt bölgelerinin geometrisi ve L1'in neden seyrek (sparse) çözüm ürettiğinin görsel/analitik açıklaması; türevlenebilirlik farkı ve optimizasyona etkisi.

Polinomial özellik üretiminin ve ceza terimli gradyan güncellemelerinin NumPy ile yazılması; farklı derece ve farklı ceza katsayılarıyla eğitim/doğrulama hatalarının grafiğe dökülmesi ve düzenlileştirmenin etkisinin doğrudan gözlenmesi.

Doğrusal çıktıyı 0-1 aralığında olasılığa çeviren sigmoid (lojistik) fonksiyonun tanımı, grafiği, türevi ve doyma (saturation) davranışı. Olasılıktan sınıfa geçişte eşik (threshold) seçimi, karar sınırının neden doğrusal olduğu ve log-odds yorumu.

Katsayıların, gözlenen veriyi en olası kılacak şekilde seçilmesi ilkesi. Olabilirlik fonksiyonunun kurulması, log-olabilirliğe geçiş ve bunun negatifi olan çapraz entropi (log-loss) kayıp fonksiyonunun türetilmesi; neden MSE yerine bu kaybın kullanıldığı.

Log-loss'un katsayılara göre gradyanının çıkarılması, güncelleme kuralının lineer regresyonla benzerliği, öğrenme oranı seçimi, yakınsama kontrolü ve L1/L2 düzenlileştirmenin bu kayba eklenmesi.

Sigmoid, log-loss, gradyan ve güncelleme döngüsünün NumPy ile yazılması; sayısal kararlılık önlemleri (log(0) taşmasının engellenmesi), karar sınırının çizdirilmesi ve LogisticRegression sonuçlarıyla karşılaştırma.

İkiden fazla sınıfa genişletme yöntemleri: bire-karşı-hepsi (One-vs-Rest), bire-karşı-bir (One-vs-One) ve softmax (multinomial) yaklaşımı. Sınıf olasılıklarının toplamının 1 olması, çok sınıflı karışıklık matrisi ve makro/mikro ortalamalı metriklerle değerlendirme.

Öklid, Manhattan, Minkowski, kosinüs benzerliği ve kategorik veriler için Hamming uzaklığı. Metrik seçiminin karar sınırını nasıl değiştirdiği ve ölçekleme yapılmadığında büyük ölçekli değişkenlerin uzaklığı domine etmesi.

k'nın küçük olduğunda modelin gürültüye duyarlı (yüksek varyans), büyük olduğunda aşırı basit (yüksek yanlılık) hâle gelmesi. Cross-validation ile k taraması, hata-k grafiği, ikili sınıflandırmada eşitliği önlemek için tek sayı seçimi ve uzaklığa göre ağırlıklı oylama.

Boyut sayısı arttıkça noktalar arası uzaklıkların birbirine yakınsaması ve 'en yakın komşu' fikrinin anlamını yitirmesi. Bu etkinin k-NN başarısına yansıması, çözüm olarak özellik seçimi/boyut indirgeme ve boyut arttıkça gereken veri miktarının üstel büyümesi.

Uzaklık matrisinin vektörleştirilmiş biçimde hesaplanması, en yakın k komşunun bulunması (argsort/argpartition), çoğunluk oylaması ile sınıf ataması ve regresyon için komşu ortalaması. Hesaplama maliyetinin veri boyutuyla artışı ve KD-tree/Ball-tree gibi hızlandırma yapılarının mantığı.

Entropinin bir kümedeki belirsizliğin ölçüsü olarak tanımı, hesaplanması ve bölünme sonrası elde edilen bilgi kazancı. Hangi değişken ve hangi eşikten bölmenin en çok belirsizlik azalttığının seçilmesi; kazanç oranı (gain ratio) ile çok değerli değişkenlerin yarattığı önyargının düzeltilmesi.

Bir kümeden rastgele seçilen örneğin yanlış sınıflandırılma olasılığı olarak Gini safsızlığı; hesaplanması, entropi ile karşılaştırması, hesaplama maliyeti farkı ve pratikte benzer ağaçlar üretmesi. Regresyon ağaçlarında bölme ölçütü olarak varyans azaltımı.

Kök düğümden başlayarak özyinelemeli (recursive) bölme süreci, aday eşiklerin belirlenmesi, durdurma koşulları (maksimum derinlik, minimum örnek sayısı, minimum safsızlık azalması), yaprak düğümde sınıf/değer ataması, kategorik ve sürekli değişkenlerin ele alınışı. Açgözlü (greedy) yaklaşımın neden global optimumu garanti etmediği.

Aşırı büyümüş ağacın aşırı öğrenmesini engelleme. Ön budama (ağaç büyürken sınır koyma) ve sonradan budama (tam büyütüp gereksiz dalları kesme), maliyet-karmaşıklık budaması (ccp_alpha) ve budamanın doğrulama verisiyle ayarlanması.

Safsızlık fonksiyonlarının yazılması, en iyi bölünmenin taranması, düğüm sınıfı ve özyinelemeli ağaç kurulumu, tahmin için ağaçta dolaşma ve ağacın metin/görsel olarak yazdırılması. Kendi yazdığı ağacın DecisionTreeClassifier ile karşılaştırılması.

Ayırıcı düzlemin tanımı, marj (margin) kavramı ve marjı maksimize etmenin genellemeye katkısı. Sınıra en yakın olup sınırı belirleyen destek vektörleri, diğer örneklerin sonucu etkilemiyor olması ve marj maksimizasyonunun optimizasyon problemi olarak yazılması.

Veriyi yüksek boyutlu bir uzaya açıkça taşımadan, yalnızca iç çarpımları hesaplayarak doğrusal olmayan ayrım yapma. Polinomial, RBF (Gauss) ve sigmoid çekirdekleri, çekirdek parametrelerinin (gamma, derece) karar sınırına etkisi ve geçerli bir çekirdeğin sağlaması gereken koşullar.

Verinin tam ayrılamadığı gerçek durumlar için bazı hatalara izin veren esnek marj. Gevşeklik (slack) değişkenleri, ceza parametresi C'nin marj genişliği ile hata toleransı arasındaki ödünleşimi yönetmesi ve C ile gamma'nın birlikte ayarlanması (grid search).

Birincil (primal) problemin Lagrange çarpanlarıyla ikili (dual) forma dönüştürülmesi, KKT koşulları ve dual formun neden çekirdek kullanımına imkân verdiği. Destek vektörlerinin sıfır olmayan çarpanlara karşılık gelmesi ve çözümün seyrekliği.

Öğretici amaçlı sadeleştirilmiş bir SVM'in kodlanması: menteşe (hinge) kaybı ve düzenlileştirme terimiyle gradyan tabanlı çözüm veya basitleştirilmiş SMO yaklaşımı. Karar sınırının ve marj çizgilerinin görselleştirilmesi, SVC sonuçlarıyla karşılaştırma ve ölçeklemenin SVM'de neden zorunlu olduğunun gösterilmesi.

Koşullu olasılık, önsel (prior) ve sonsal (posterior) olasılık ilişkisi ve teoremin sınıflandırmaya uyarlanması. 'Naive' (saf) varsayımın ne olduğu (özelliklerin sınıf verildiğinde bağımsız kabul edilmesi), bu varsayımın gerçekçi olmamasına rağmen neden işe yaradığı ve MAP karar kuralı.

Sürekli özellikler için normal dağılım varsayan Gaussian NB; sayım/frekans verileri (örneğin kelime sayıları) için Multinomial NB; ikili var/yok özellikleri için Bernoulli NB. Her varyantın olabilirlik hesabı, hangi veri tipinde hangisinin seçileceği ve metin verisinde temsil biçimiyle (bag-of-words, TF-IDF) ilişkisi.

Eğitim verisinde hiç görülmemiş bir değerin olasılığı sıfır olduğunda tüm çarpımın sıfırlanması sorunu ve buna karşı sayımlara sabit ekleme (Laplace/additive düzeltme). Düzeltme parametresinin etkisi ve olasılıkların log uzayında toplanarak sayısal taşmanın önlenmesi.

Sınıf önsellerinin ve koşullu olasılıkların eğitim verisinden hesaplanması, log-olasılıkların toplanmasıyla tahmin üretilmesi, düzeltmenin koda eklenmesi ve metin sınıflandırma örneğinde uygulanması. Scikit-learn karşılıklarıyla sonuç ve hız karşılaştırması.

Eğitim verisinden yerine koyarak rastgele örnekleme ile birbirinden farklı alt kümeler üretme. Her alt kümeye ayrı model eğitilmesi, örneklenmeyen (out-of-bag) gözlemlerin doğrulama için kullanılabilmesi ve modeller arası çeşitliliğin varyansı nasıl düşürdüğü.

Her bölünmede tüm özellikler yerine rastgele seçilmiş bir özellik alt kümesinin değerlendirilmesi. Ağaçlar arasındaki korelasyonun kırılması, seçilecek özellik sayısı parametresinin etkisi ve bunun Random Forest'ı basit bagging'den ayıran unsur olması.

Değişkenlerin modele katkısının ölçülmesi: safsızlık azalması temelli önem skorları ve permütasyon önemi. Skorların yorumlanması, yüksek kardinaliteli değişkenlere doğru yanlılık, korelasyonlu değişkenlerde önemin bölünmesi ve önem sıralamasının özellik seçiminde kullanımı.

9.2'de yazılan karar ağacının üzerine bootstrap örnekleme ve rastgele özellik seçimi eklenerek orman kurulması; sınıflandırmada çoğunluk oylaması, regresyonda ortalama ile birleştirme, out-of-bag hata hesabı ve ağaç sayısı arttıkça hatanın nasıl kararlı hâle geldiğinin gözlenmesi. RandomForestClassifier ile karşılaştırma.

Yanlış sınıflandırılan örneklerin ağırlığının her turda artırılması, her zayıf öğrenicinin başarısına göre bir ağırlık (alpha) almasının türetilmesi, üstel kayıp fonksiyonuyla ilişkisi ve nihai kararın ağırlıklı oylama ile verilmesi. Zayıf öğrenici olarak karar kütüğü (decision stump) kullanımı ve gürültülü/aykırı veriye duyarlılığı.

Boosting'in, kayıp fonksiyonunu fonksiyon uzayında gradyan inişiyle minimize etme olarak formüle edilmesi. Her adımda artıklara (negatif gradyan) bir ağaç uydurulması, öğrenme oranı (shrinkage) ile ağaç sayısı arasındaki ödünleşim, ağaç derinliğinin etkisi, alt örnekleme (subsampling) ve erken durdurma ile aşırı öğrenmenin kontrolü.

Üç modern gradient boosting kütüphanesinin ayırt edici yönleri: XGBoost'un düzenlileştirilmiş hedef fonksiyonu ve ikinci dereceden yaklaşımı, LightGBM'in histogram tabanlı ve yaprak odaklı büyüme ile sağladığı hız, CatBoost'un kategorik değişkenleri doğrudan işleyebilmesi. Temel hiperparametreler, erken durdurma, hiperparametre araması (grid/random search) ve model karşılaştırmalarının cross-validation ile yapılması.