Makineye “governor” takmak: Hızlanalım ama kim denetleyecek?
Geçtiğimiz günlerde X’te (@jamie247) yayımlanan ücretsiz kitabı okuyorum: Purposive Accelerationism, yani “amaçlı hızlanma”. Yazar, yıllarca yeni teknolojilere yatırım yapmış biri, teknolojiye karşı sayılmaz. Çok uzun kitap, ana fikri çok net.
İki kamp var:
• Taraflardan biri “durmadan hızlanalım, piyasa her şeyi çözer, her türlü denetim frendir” diyor.
• Diğer taraf “duralım, kontrolü devlete verelim” diyor.
Yazara göre ikisi de sonunda aynı yere çıkıyor: Tek gücün her şeyi ele geçirmesi. Ya piyasa, ya devlet, ya da ikisinin birleşimi.
Üçüncü yol: Governor
1788'de James Watt buhar makinesine “governor” (hız regülatörü) taktı. Makine hızlanınca dönen iki demir top dışa açılıyor, buhar vanasını kısıyordu. Yavaşlayınca vana açılıyordu. Makine kendi çıktısını ölçüp kendini düzeltiyordu. Yazarın dediği gibi, governor’sız motor özgürce çalışmıyor, kontrolden çıkıyor.
Kitabın önerisi, yapay zekâ çağında da governor’ı kurmak. Yavaş işleyen kanunlarla değil, makinenin kendi hızında çalışan kriptografik sistemlerle. Bitcoin’de olduğu gibi üç şartla:
• Test edilebilir kural
• Ucuz kontrol
• Çıkarları birbirinden farklı denetleyiciler
Makine seviyesinde ne anlama geliyor?
Üzerinde çalıştığım konu tam burası. Robot “işi yaptım” diyor, makinenin kendi kaydı sadece iddia. İddianın, robotun sahibinden bağımsız, çıkarları ve veri kaynakları farklı tanıklar tarafından kontrol edilmesi gerekiyor. Ödeme de ancak ondan sonra yapılmalı. Yani kitabın toplum ölçeğinde önerdiği tarif, makine ölçeğinde de işliyor.
Kitapta kesin çizgi var: Hiçbir yapay varlık, arkasında hesap veren insan olmadan hareket etmemeli. Makine ekonomisini tasarlarken bu çizgiyi unutmamak gerekiyor.
Sizce yapay zekâ ve otonom makineler için en iyi “governor” kim ya da ne olmalı? Devlet mi, piyasa mı, yoksa kodun içine yazılmış bağımsız denetim mi?
