Denetimli öğrenmede, veri kümemizin ne olduğunu ve bu verilerden istediğimiz çıktının ne olması gerektiğini biliriz. Denetimli öğrenme, verileri ve o verilerden çıkan sonuçları makineye tekrar baştan vererek bu bilgilerden bir fonksiyon (giriş verileri ile sonuç verileri arasında bir eşleşme) çıkartılmasının sağlamaktadır. Böylece makine veriler arasındaki ilişkiyi öğrenmektedir. Denetimli öğrenme problemleri “regresyon” ve “sınıflandırma” olarak ikiye ayrılır. Bir regresyon probleminde, sonuçları sürekli bir çıktı içinde tahmin etmeye çalışırız; yani, girdi değişkenlerini bazı sürekli fonksiyonlara eşlemeye çalışırız. Bir sınıflandırma probleminde, sonuçları ayrı ayrı çıktılarda tahmin etmeye çalışırız. Yani, girdi değişkenlerini ayrı kategorilere atamaya çalışırız.
$L:(z,y)∈R×Y⟼L(z,y)∈R$ şeklinde tanımlanan bir kayıp fonksiyonu y gerçek değerine karşılık geleceği öngörülen z değerini girdi olarak alan ve ne kadar farklı olduklarını gösteren bir fonksiyondur. Yaygın kayıp fonksiyonları aşağıdaki tabloda özetlenmiştir:
$J$ maliyet fonksiyonu genellikle bir modelin performansını değerlendirmek için kullanılır ve $L$ kayıp fonksiyonu aşağıdaki gibi tanımlanır
İki veya daha fazla değişken arasındaki ilişkinin bir doğru ile gösterilmesine Lineer Regresyon denir. En temel regresyon modeli olan Lineer regresyon y değişkeni (ev fiyatları) ve veri setindeki x öznitelikleri (enlem, boylam, oda sayısı, evin yaşı, okyanusa uzaklığı vs.) arasındaki ilişkiyi anlamamıza yardımcı olur.Amacımız bir değişkendeki artışın veya azalışın ev fiyatını nasıl etkilediğini doğru olarak anlayacağımız katsayılar elde etmek ve yeni evler gördüğümüzde tutarlı tahminlerde bulunmak.
