- Giriş
- Bilgi Nedir?
- Bilgi Piramidi Nedir?
- Veri Bilimi ve Veri Bilimci Nedir?
- Veriden Faydalı Bilgi Çıkarmak
- Veri Bilimi Uygulama Şeması
- Makine Öğrenimi Nedir?
- Veri Setlerine Erişelim
- Kaynakça
Yaşamın içinde kaybettiğimiz hayat nerede?
Bilginin içinde kaybettiğimiz bilgelik nerede?
Enformasyonun içinde kaybettiğimiz bilgi nerede?
T.S. Eliot (1934)
Bu repoyu Veri Bilimi konu başlığı altında Yoldaki Notlar'ımı paylaşabilmek için hazırlamaya çalışıyorum.
Okuduğum, izlediğim, öğrendiğim kaynaklar:
- Yeni Başlayanlar İçin Veri Bilimine Giriş (Online Eğitim)
- Veri Bilimi Ve Yapay Zekaya Giriş (Online Eğitim)
- Python A-Z: Veri Bilimi ve Machine Learning (Online Eğitim)
- Bilgi ve Bilginin Yönetimi (Kitap)
- Bilgi Yönetimi (Kitap)
- Olasılık ve İstatistik (Kitap)
- Stanford Üniversitesi Makine Öğrenmesi El Kitabı (PDF)
- Çıplak İstatistik (Kitap)
- DataCamp
- Intro to Statistics (Online Eğitim)
- Statistics (Online Eğitim)
- Intro to Descriptive Statistics (Online Eğitim)
- Intro to Inferential Statistics (Online Eğitim)
- Ayrık Matematik ve Uygulamaları (Kitap)
- Uygulamalı Lineer Cebir (Kitap)
- Kantitatif Karar Verme Teknikleri (Kitap)
- Yöneylem Araştırması (Kitap)
- Olasılık Teorisi ve Stokastik Süreçler (Kitap)
- 100 İstatistiksel Test (Kitap)
- Bilgisayar Mühendisliği Matematiği (Kitap)
- Makine Öğrenmesi ve Derin Öğrenme İçin R Uygulamalı Doğrusal Cebir (Kitap)
- Kombinatorik ve Elementer Olasılık Teorisine Giriş (Kitap)
- Karar Verme (Kitap)
- Betimsel İstatistik (Kitap)
- Çıkarımsal İstatistik (Kitap)
- R ile Betimsel İstatistik (Kitap)
- R ile Çıkarımsal İstatistik (Kitap)
- Python ile Veri Bilimi (Kitap)
- R İle İstatistiksel Programlama: Veri Analitiği İçin Yeni Bir Yazılım Platformu (Kitap)
- Çok Değişkenli İstatistiklerin Kullanımı (Kitap)
Felsefe disiplininde, bilgi teorisinin odağında ünlü filozof Plato'nun bilginin doğasıyla ilgili düşünceleri yer almaktadır. Ona göre, bilginin hem gerekçelendirilmiş hem doğru hem de inanılır olma kriterlerini karşılaması gerekmektedir; onun ünlü tanımıyla bilgi, gerekçelendirilmiş doğru inançtır ("justified true belief")(Musgrave,1993).
Bilgi günümüzde hala tartışılan bir kavram olsa da Bilgi Yönetimi ve Bilişim disiplinlerinde işlevselliği ön plana alınarak tanımlanan bir kavramdır. Bilginin, kavramsal boyuttan çıkıp uygulama boyutunda ele alındığı bu disiplinler söz konusu olduğunda bilginin tanımının farklı şekillerde açımlandırıldığı görülmektedir (1).
Bilgi yönetimi alanında çalışan araştırmacılardan Ackoff (1989), insan zihnindeki içeriğin beş kategoride sınıflandırıldığını belirtmektedir: Veri, enformasyon, bilgi, anlayış ve bilgelik.
- Veri, işlenmemiş niteliktedir ve tek başına bir anlam ifade etmemektedir (Ham gerçekler).
- Enformasyon, verilerin ilişkisel olarak anlamlandırılmasıdır; bu anlam hem yararlı hem de yararsız olabilir.
- Bilgi, enformasyonun yararlı olması amacı ile uygun bir şekilde birlikte bir araya getirilmesidir.
- Anlayış, yeni bilginin sentezlenmesidir.
- Bilgi ile anlayış arasında bilişsel süreçlerin işin içinde olup olmaması açısından fark vardır. Bilgi ezber düzeyinde iken anlayışta bilişsel süreçler dahil edilerek öğrenme boyutuna varılır
- Bilgelik; idrak etme, ayırt etme, değerlendirme, karar verme sürecidir.
Ackoof'un sınıflandırmasına dayanan DIKW (Data-Information-Knowledge-Wisdom) hiyerarşisi, bilgi ve bilgi yönetimi ile ilişkili alanyazında yer edinmiş olan bir modeldir. Ackoff'un sınıflandırılmasında yer alan anlayış (understanding) ise doğrudan bir aşama olarak değil her bir aşamadan diğerine geçişi destekleyen bir unsur olarak ele alınmıştır (2).
Tüm bu DIKW hiyerarşisine (Veri -> Enformasyon -> Bilgi -> Bilgelik) Bilgi Piramidi denmektedir.
Veri bilimi multidisipliner bir alandır. Kısaca veriden faydalı bilgi çıkarma sürecidir.
Bu süreci yöneten kişiye ise veri bilimci denmektedir. Aşağıdaki görselde bir veri bilimcide bulunan/bulunması gereken özellikler gösterilmiştir.
Veriden faydalı bilgi çıkarmak için temelde 4 adet yaklaşım vardır.
- Betimleyici Analitik (Descriptive Analytics)
- Verilerin betimlemesini yaparız. Veriler Ne olmuş? sorusuna cevap verir. Mevcut durumu resmeder.
- Teşhis/Tanı Analitiği (Diagnoistic Analytics)
- Veriler Neden Olmuş? sorusuna cevap verir.
- Tahminsel Analitik (Predictive Analytics)
- Veriler Ne Olacak? sorusuna cevap verir. İş süreçlerini geleceğe yönelik optimize etmemizi sağlar.
- Yönergeli Analitik (Prescriptive Analytics)
- Veriler Ne Olmalı?/Nasıl Olmalı? gibi sorulara cevap verir.
- Problemi Anlamak
- Veri Toplamak
- Veri Hazırlamak
- Ham verilerden bilgi üretilir
- Keşifsel Veri Analizi
- Elimizdeki veriyi anlamaya çalışırız
- Veri Modelleme
- Makine öğrenimi algoritmaları vb. Enformasyon katmanından Bİlgi katmanına geçiş yaparız
- Optimizasyon
- Bilgi katmanından Bilgelik katmanına geçiş aşamasıdır
- Görselleştirme ve İletişim
- İlk 6 adımda yapılan çalışmalar anlatılır
- Üretim ve Devamlılık
- Veri Bİlimi projesinin gerçek hayatta kullanıldığı ve sonuçlar üretmeye başlaması
İş dünyasındaki veri bilimi süreçlerinin akışını modelleyen metodolojilerden birisi de CRISP-DM'dir. Veri bilimi süreçlerinin iş dünyasındaki ele alınışıdır. Sıfırdan ürün geliştirme işlemi bu metodolojiye uygun olarak yapılır. Adımları şunlardır:
- Veriyi Anlamak
- Verinin Hazırlanması
- Modelleme
- Değerlendirme
- Kullanıma Sokma
Makine öğrenimi, bizim bilgi piramidinde 2. basamaktan (Enformasyon) 3. basamağa (Bilgi) çıkmamızı sağlar.
Makine öğrenimi sayesinde veriden elde ettiğimiz enformasyonu bilgiye dönüştürebiliriz.
Temelde 2'ye ayrılmaktadır.
- Supervised (Güdümlü/Gözetimli) Öğrenme
- Regression
- Classification (Sınıflandırma)
- Neural Networks
- Neural Network'ler kompleksleşmeye başladıklarında Deep Learning'e evrilebilmektedir
- Un-supervised (Güdümsüz/Gözetimsiz) Öğrenme
- Clustering (Kümeleme)
- Regression metotları Supervised Learning metotlarının başında gelmektedir.
- Bu metot ile hedef değişkenimizi (target variable) tahmin etmeye çalışırız. Hedef değişkenler genelde
y
ile gösterilir. - Hedef değer numeriktir.
- Hedef değişkenleri tahminlerken kullanılan değişkenlere de independent variables (bağımsız değişkenler) denmektedir. Bu değişkenler de genellikle
x
ile gösterilir.
- Classifiction metotları da Supervised Learning grubuna aittir
- Hedef değerimiz (target variable) numerik değildir. Bir gruba ait olmayı veya olmamayı temsil eder. Yani hedef değerimiz 0 veya 1'dir.
- y = {0,1}
- Supervised Learning teknikleri ile kullanılıyorlar
- Fakat esneklikleri sebebiyle hem regression hem de classifiction problemlerini çözebilmektedirler
- Geliştikçe deep learning (derin öğrenme) algoritmalarını oluşturuyorlar
- Inputl'lardan output elde etmeye çalışılır
- Temelde 3 katmandan oluşmaktadır
- katmanına input layer (x)
- katmanına hidden layer
- katmanına output layer (y) denmektedir
- Unsupervised Learning tekniklerini kullanır
- Hedef değişken yoktur
- Veriler kendi benzer özelliklerine göre farklı kümelere ayrılır
Kaggle üzerinden örnek veri setleri bulabiliriz. Aynı zamanda veri bilimcilerin yaptıkları çalışmaları gözlemleyebiliriz.
Google Data Set Search ile veri setleri bulabiliriz. Google tarafından veri setleri aramak için geliştirilmiş bir arama motorudur.
İBB Açık Veri Portalı İstanbul Büyükşehir Belediyesi tarafından geliştirilmiş, İstanbul'a ait verilerin bulunduğu platformdur.
DrDataStats mottosu "Sadece Veri, Sadece İstatistik (Only Data, Only Statistics)" olan web sitesidir. Aynı zamanda Din bölümü çok hoşuma gitti.
VeriKovanı Savunma Sanayi Başkanlığı'nın açık veri portalı
- Gülseçen, Sevinç. (Ed.) (2015). Bilgi Yönetimi. İstanbul: Papatya Yayıncılık
- Gülseçen, Sevinç. (Ed.) (2015). Bilgi Yönetimi. İstanbul: Papatya Yayıncılık