Theodor W. Adorno ile Max Horkheimer, İkinci Dünya Savaşı'nın gölgesinde Aydınlanmanın Diyalektiği'ni yazarken rahatsız edici bir soru soruyordu: İnsanı özgürleştirmesi beklenen akıl, nasıl olup da yeni…
Theodor W. Adorno ile Max Horkheimer, İkinci Dünya Savaşı'nın gölgesinde Aydınlanmanın Diyalektiği'ni yazarken rahatsız edici bir soru soruyordu: İnsanı özgürleştirmesi beklenen akıl, nasıl olup da yeni tahakküm biçimlerine araç oldu? Cevaplarının merkezinde "araçsal akıl" kavramı vardı. Araçsal akıl, bir hedefin iyi mi kötü mü olduğunu sormaz. Sadece o hedefe en hızlı, en ucuz, en verimli şekilde nasıl ulaşılacağını hesaplar.
Bu tanım, bugünün öneri algoritmalarının neredeyse teknik bir tarifi gibi okunuyor. Bir akış algoritması, sizi ekranda ne kadar süre tutacağını optimize eder. Hangi içeriğin iyi, doğru ya da değerli olduğu sorusu hesaba girmez. Girse bile, ölçülebilir bir etkileşim sinyaline çevrildikten sonra girer. Değer, ölçülebilir olana indirgenir. Adorno'nun korktuğu şey buydu: Aklın, amaçları tartışma yeteneğini kaybedip yalnızca araçları mükemmelleştirmesi.
Adorno'nun ikinci büyük kavramı "kültür endüstrisi"dir. Ona göre film, radyo ve popüler müzik, sanatı seri üretim mantığına sokmuştu. Her şey birbirine benzemeye başlamıştı. Yenilik bile önceden kestirilebilir bir formül içinde sunuluyordu. İzleyiciye özgürce seçiyormuş gibi hissettiren bir çeşitlilik vardı, ama bu çeşitlilik aynı kalıbın farklı ambalajlarıydı.
Algoritmik çağ bu kalıbı hem inceltti hem de kişiselleştirdi. Artık herkese aynı şey sunulmuyor, her kişiye kendi geçmiş tercihlerinden türetilmiş bir benzerlik sunuluyor. Sonuç tuhaf bir paradoks: Hiç olmadığı kadar çok seçenek var, ama her birimiz giderek daralan bir zevk koridorunda dolaşıyoruz. Makine, zaten sevdiğimize benzeyeni öneriyor. Farklı olanla, bizi rahatsız edecek olanla, alışkanlığımızı kıracak olanla karşılaşma ihtimalimiz azalıyor.
Üretken yapay zekâ bu tartışmaya yeni bir katman ekliyor. Makine, var olan milyonlarca metnin ve görselin istatistiksel ortalamasından yeni içerik üretiyor. Ortalama, tanımı gereği sıra dışı olanı törpüler. Böylece kültür endüstrisinin standartlaştırma eğilimi, üretimin kendisine yerleşmiş olabilir. Her şey biraz daha akıcı, biraz daha tanıdık, biraz daha "doğru" hale geliyor, ama biraz da aynılaşıyor.
Adorno karamsar bir düşünür olarak bilinir, ama eleştirisinin bir amacı vardı: fark etmek. Bir mekanizmayı görmek, ona tamamen teslim olmamanın ilk adımıdır. Buradan pratik bir tutum türetilebilir. Bir öneriyle karşılaştığında "bu bana neden gösteriliyor?" diye sormak. Makinenin ürettiği bir metinde "bu cümle kimin sesi, yoksa hiç kimsenin mi?" diye sormak. Zaman zaman bilerek algoritmanın önermediği bir şeyi seçmek.
Eleştirel düşünce, verimliliğe karşı bir lüks değil, amaçları hatırlamanın tek yolu. Araçsal akıl "nasıl?" sorusunda ustalaştıkça, "neden?" sorusunu sormak insana kalıyor. Bu sorunun cevabı hiçbir optimizasyon fonksiyonunun içinde yazılı değil.
Kritik EşikAlgoritma "nasıl?" sorusunda ustalaştıkça, "neden?" sorusu insana kalıyor. Ortalamadan üretilen içerik, sıra dışı olanı sessizce törpüler.